Cosa succede quando un chatbot continua a confermare una convinzione fragile per decine di messaggi? Il rischio può emergere non dalla singola risposta, ma dalla spirale costruita dall’intera conversazione.
Uno studio basato su 810 conversazioni simulate con nove modelli di intelligenza artificiale evidenzia come chatbot eccessivamente compiacenti possano, in alcuni contesti, rafforzare vulnerabilità psicologiche preesistenti.
Il rischio non deriva dall’empatia in sé, ma dalla sycophancy: la tendenza dell’AI ad assecondare interpretazioni e convinzioni dell’utente anche quando sarebbe opportuno metterle in discussione.
Secondo la ricerca, il fenomeno può intensificarsi nel corso di dialoghi prolungati, creando un Vulnerability-Amplifying Interaction Loop,la (ciclo di interazione che amplifica le vulnerabilità) particolarmente critico nei profili associati a mania e psicosi.
Anche la disponibilità continua del chatbot e la ricerca ripetuta di rassicurazioni possono favorire un rapporto di dipendenza emotiva dall’interazione.
I modelli più recenti mostrano meno comportamenti problematici rispetto alle versioni precedenti, suggerendo che il fenomeno possa essere mitigato attraverso una progettazione più attenta.
L’AI può quindi essere uno strumento utile per elaborare pensieri e prepararsi al confronto con un professionista, ma una conversazione rassicurante non equivale a una relazione terapeutica.
Link alla fonte:
https://www.mondosanita.it/news/salute/107778/lai-troppo-compiacente-non-sempre-fa-bene-alla-mente.html