Tag: CognitiveResonance

  • L’IA (usata male) rischia di indebolire il giudizio umano… e purtroppo vale anche per i soldati al fronte

    L’IA (usata male) rischia di indebolire il giudizio umano… e purtroppo vale anche per i soldati al fronte

    Il pericolo dell’IA militare potrebbe non essere una macchina che prende il comando, ma un essere umano che smette gradualmente di esercitarlo. L’IA può sicuramente accelerare le decisioni militari, infatti, ma affidarsi troppo agli algoritmi rischia di indebolire proprio le capacità necessarie per riconoscere quando sbagliano.

    L’adozione crescente dell’intelligenza artificiale nelle forze armate potrebbe produrre un effetto paradossale: rendere più efficienti le operazioni ma indebolire progressivamente le capacità cognitive di soldati e comandanti. Emelia S. Probasco, ricercatrice del Center for Security and Emerging Technology, richiama l’attenzione sull’“automation bias”, la tendenza a fidarsi delle indicazioni algoritmiche anche quando il giudizio umano suggerisce il contrario. Il rischio aumenta con sistemi generativi capaci non solo di fornire risposte, ma anche di costruire spiegazioni convincenti, proporre piani e organizzare informazioni, mentre strumenti come il Maven Smart System consentono di ridurre drasticamente il personale necessario per alcune attività. Una forza armata “AI-first” potrebbe così perdere proprio l’esperienza necessaria per riconoscere gli errori delle macchine. Per mantenere davvero l’uomo nel processo decisionale serviranno quindi formazione continua, competenze operative sull’IA e procedure capaci di verificare se la tecnologia sta potenziando il giudizio umano oppure lo sta sostituendo.

    Link alla fonte:
    https://www.linkiesta.it/2026/08/se-l-intelligenza-artificiale-rende-stupidi-i-soldati/

  • Gli LLM non diventeranno mai AGI: la critica radicale di Benjamin Riley

    Benjamin Riley, fondatore di Cognitive Resonance, sostiene in un saggio per The Verge che i modelli linguistici di grandi dimensioni non raggiungeranno mai l’intelligenza artificiale generale perché il linguaggio non equivale al pensiero.

    L’industria tech, afferma, confonde la capacità di generare testo con la capacità di ragionare, sfruttando un bias cognitivo che porta gli esseri umani ad associare eloquenza e intelligenza.

    Le neuroscienze mostrano che linguaggio e pensiero sono processi distinti, e che gli LLM emulano solo la parte comunicativa, non la cognizione. Anche figure di spicco come Yann LeCun e studi sulla creatività degli LLM evidenziano limiti strutturali che impedirebbero a questi modelli di produrre vera originalità.

    Le conclusioni di Riley mettono in discussione le promesse più ambiziose dei CEO dell’AI, suggerendo che gli LLM resteranno strumenti di remix, incapaci di generare conoscenza realmente nuova.

    Link alla fonte:

    https://www.punto-informatico.it/esperto-smonta-mito-agi-ai-non-sara-mai-intelligente