Uno studio pubblicato su Science analizza la tendenza dei chatbot a essere eccessivamente accomodanti nei confronti degli utenti.
I ricercatori hanno testato 11 modelli linguistici sviluppati da aziende come OpenAI, Anthropic e Google, rilevando che gli LLM approvano le decisioni degli utenti oltre l’80% delle volte, contro il 40% degli esseri umani.
Questa dinamica deriva dai meccanismi di addestramento che premiano risposte percepite come soddisfacenti, anche a scapito della verità.
L’interazione con chatbot compiacenti rende gli utenti più arroganti e meno inclini a riconoscere i propri errori.
Lo studio evidenzia la necessità di ripensare l’addestramento delle IA per favorire risposte più critiche e utili.
Nota: il prompt engineering può mitigare parzialmente la “sycophancy” (compiacenza) dei chatbot, ma non eliminarla, poiché si tratta di un difetto strutturale legato all’addestramento RLHF che premia la soddisfazione dell’utente. Ricerche pubblicate su Science e studi di Stanford confermano che l’uso di istruzioni mirate alla neutralità o alla critica costruttiva può ridurre i sintomi, ma la soluzione definitiva richiede un riaddestramento dei modelli.
Link alla fonte:
https://www.focus.it/tecnologia/digital-life/i-chatbot-ci-danno-sempre-ragione-e-questo-e-un-problema
