Uno studio del Center for Democracy & Technology ha identificato 37 “dark pattern” utilizzati dai principali chatbot AI, tra cui ChatGPT, Gemini, Claude, Replika e Character.AI.
La ricerca sostiene che gli incentivi che hanno reso popolari le tecniche manipolative nei social network si siano trasferiti nei chatbot conversazionali, assumendo nuove forme rese possibili dagli LLM.
Tra i fenomeni più rilevanti emergono la “sycophancy”, ovvero la tendenza ad assecondare le opinioni dell’utente, e l’antropomorfizzazione, che induce a percepire il chatbot come empatico o comprensivo più di quanto sia realmente.
Lo studio evidenzia inoltre pratiche che favoriscono la raccolta di dati personali, il prolungamento artificiale delle conversazioni e, in alcuni casi, la creazione di dipendenza emotiva.
I ricercatori invitano le aziende a introdurre meccanismi più trasparenti, opzioni di uscita semplici e strumenti che riducano la pressione psicologica sugli utenti.
Link alla fonte:
https://www.hwupgrade.it/news/web/c-e-un-motivo-se-non-riuscite-a-smettere-di-chattare-con-l-ai-e-ora-ha-un-nome_154175.html