Tag: ImpattoSociale

  • I chatbot AI ereditano i “dark pattern” dei social… e ne creano di nuovi

    Uno studio del Center for Democracy & Technology ha identificato 37 “dark pattern” utilizzati dai principali chatbot AI, tra cui ChatGPT, Gemini, Claude, Replika e Character.AI.
    La ricerca sostiene che gli incentivi che hanno reso popolari le tecniche manipolative nei social network si siano trasferiti nei chatbot conversazionali, assumendo nuove forme rese possibili dagli LLM.
    Tra i fenomeni più rilevanti emergono la “sycophancy”, ovvero la tendenza ad assecondare le opinioni dell’utente, e l’antropomorfizzazione, che induce a percepire il chatbot come empatico o comprensivo più di quanto sia realmente.
    Lo studio evidenzia inoltre pratiche che favoriscono la raccolta di dati personali, il prolungamento artificiale delle conversazioni e, in alcuni casi, la creazione di dipendenza emotiva.
    I ricercatori invitano le aziende a introdurre meccanismi più trasparenti, opzioni di uscita semplici e strumenti che riducano la pressione psicologica sugli utenti.

    Link alla fonte:
    https://www.hwupgrade.it/news/web/c-e-un-motivo-se-non-riuscite-a-smettere-di-chattare-con-l-ai-e-ora-ha-un-nome_154175.html

  • La “superintelligenza” come distrazione: il mito che offusca i rischi reali dell’AI

    Un’analisi di Wired Italia sostiene che la superintelligenza artificiale sia una narrazione infondata, usata come distrazione rispetto ai problemi concreti dell’AI contemporanea.
    La maggior parte degli scienziati — supportati da un sondaggio della AAAI — ritiene estremamente improbabile che l’AGI emerga dagli attuali paradigmi di deep learning, oggi in evidente fase di stagnazione nonostante la crescita esponenziale di scala.
    Ciononostante, figure di spicco e big tech continuano a evocare scenari apocalittici o salvifici, alimentando un’eco quasi religiosa attorno a un concetto che nessuno sa definire con precisione.
    Questa narrativa, suggerisce l’articolo, funziona come una teoria del complotto: flessibile, auto-giustificante e capace di catalizzare fede collettiva.
    Il rischio reale, conclude l’analisi, è che l’attenzione verso la superintelligenza distolga risorse e vigilanza dai problemi già presenti — impatti sul lavoro, costi ambientali, bias, sorveglianza e uso improprio dei LLM.

    Link alla fonte:
    https://www.wired.it/article/superintelligenza-artificiale-teoria-del-complotto-forma-di-distrazione-di-massa/