Tag: Disinformazione

  • Arthur Sulzberger lancia l’allarme: l’AI minaccia l’equilibrio dell’informazione

    Durante il congresso mondiale dei media a Marsiglia, Arthur Sulzberger ha denunciato l’impatto crescente delle aziende di intelligenza artificiale sul sistema dell’informazione, sostenendo che utilizzano contenuti giornalistici senza autorizzazione né compenso.

    Secondo il proprietario del The New York Times, l’IA rappresenta un cambio di paradigma rispetto ai motori di ricerca tradizionali, perché fornisce risposte elaborate senza reindirizzare traffico alle fonti originali.

    Sulzberger collega questa dinamica al progressivo indebolimento economico del giornalismo e all’aumento della disinformazione, con possibili conseguenze per il dibattito democratico.

    Riprendendo una riflessione di Hannah Arendt, avverte che la proliferazione di informazioni inaffidabili rischia di generare sfiducia generalizzata nei confronti della realtà stessa.

    Per questo individua nel giornalismo professionale e verificato la principale difesa contro il caos informativo dell’era dell’intelligenza artificiale.

    Link alla fonte:

    https://www.internazionale.it/opinione/pierre-haski/2026/06/03/come-salvare-l-informazione-ai-tempi-dell-intelligenza-artificiale

  • Smascherato “The Global Observer”, il falso giornale filorusso interamente costruito con l’AI

    Un’inchiesta di Debunk.org, ripresa da la Repubblica, ha rivelato che “The Global Observer” era una testata online completamente artificiale, creata per diffondere propaganda filorussa attraverso contenuti e identità generate con l’intelligenza artificiale.
    Il sito, registrato nel dicembre 2025, simulava una redazione internazionale con giornalisti inesistenti, avatar IA e centinaia di articoli pubblicati su Ucraina, NATO ed Europa con una linea narrativa apertamente anti-occidentale.
    Dietro l’intera operazione è emerso il nome di Monica Valendino, che avrebbe gestito da sola profili falsi, contenuti automatizzati e relazioni con esponenti del dibattito pubblico italiano.
    L’aspetto più rilevante del caso è il salto qualitativo nella disinformazione digitale: non più semplici fake news isolate, ma una testata sintetica credibile, capace di apparire autentica grazie all’uso professionale dell’IA.
    Le autorità e gli apparati di intelligence stanno ora cercando di capire se dietro il progetto ci fosse una singola persona o una rete organizzata più ampia legata alla propaganda russa online.

    Link alla fonte:
    https://www.repubblica.it/politica/2026/05/09/news/caso_falso_giornale_online_filorusso_redazione_intelligenza_artificiale-425333090/amp/

  • L’esperimento “bixonimania” smaschera le falle dei modelli AI e riporta alla luce il problema di allucinazioni e disinformazione

    Una ricercatrice dell’Università di Göteborg, Almira Osmanovic Thunström, ha inventato una falsa malattia chiamata “bixonimania” per testare l’affidabilità dei modelli di linguaggio come ChatGPT, Gemini e Copilot.
    Nonostante indizi evidenti sulla natura fittizia, diversi chatbot hanno trattato la patologia come reale, generando sintomi e dati inventati.
    Il problema è aggravato dal fatto che queste informazioni false sono state successivamente citate anche in articoli scientifici reali, evidenziando un rischio sistemico.
    L’esperimento dimostra che gli LLM privilegiano la coerenza linguistica rispetto alla verifica dei fatti, rendendoli vulnerabili alla disinformazione strutturata.
    Emergono quindi urgenti necessità di sistemi di validazione più robusti, soprattutto in ambito sanitario, e di maggiore alfabetizzazione digitale.

    Link alla fonte:
    https://es.wired.com/articulos/una-enfermedad-falsa-pone-en-evidencia-la-incapacidad-de-la-ia-para-detectar-fake-news

  • Critica all’antropomorfismo degli LLM: il rischio di scambiare testo per coscienza

    Nel suo pregevole articolo su Huffington Post, Stefano Diana  (che spero di aver taggato correttamente) critica la tendenza dei ricercatori di aziende di AI a umanizzare i modelli linguistici, prendendo come esempio la documentazione tecnica di Claude Opus 4.6 sviluppato da Anthropic.
    Nella “system card” del modello vengono descritti presunti stati interni dell’IA (come “disagio”, “gratitudine”, “tristezza” o persino una probabilità del 15–20% di essere cosciente) che come spiega l’autore non hanno alcuna base scientifica.
    Diana, basandosi su oggettive dinamiche dell’algoritmo, sottolinea come tali descrizioni nascano da un errore categoriale: interpretare semplici output testuali come se fossero esperienze soggettive.
    Questa antropomorfizzazione, alimentata anche da dichiarazioni di ricercatori come Ilya Sutskever, contribuirebbe a generare hype e confusione nel dibattito pubblico sull’IA.
    Il rischio, conclude l’autore, è che documenti tecnici influenzino media, politici e finanziamenti basandosi su metafore fuorvianti anziché su una descrizione rigorosa di come funzionano realmente i modelli linguistici.

    Vi lascio il link e vi invito a leggere questo godibilissimo esempio di vero giornalismo:
    https://www.huffingtonpost.it/blog/2026/03/09/news/quando_i_ricercatori_si_sentono_demiurghi-21380005/

  • Come l’AI trasforma le immagini satellitari in armi di disinformazione nel conflitto Iran-Israele-USA

    Nel conflitto tra Iran, Israele e Stati Uniti sta emergendo una nuova forma di disinformazione: immagini satellitari reali manipolate con l’intelligenza artificiale per simulare distruzioni militari.
    Diverse inchieste di media internazionali come BBC, AFP e NewsGuard hanno identificato casi in cui foto di Google Earth sono state alterate con tecniche di image-to-image per aggiungere crateri, fumo o infrastrutture distrutte.
    Alcuni contenuti virali (come presunti attacchi alla base di Al Udeid in Qatar o all’ambasciata USA a Riad) sono risultati completamente sintetici, pur apparendo credibili grazie alla coerenza con immagini reali.
    La combinazione tra propaganda statale, account pseudo-OSINT e incentivi economici dei social media amplifica la diffusione di questi contenuti.
    Il fenomeno segna un salto qualitativo nella disinformazione di guerra, perché l’AI modifica dettagli realistici invece di creare scene completamente false, rendendo molto più difficile individuare i falsi.

    Link alla fonte:
    https://www.infodata.ilsole24ore.com/2026/03/10/perche-le-immagini-satellitari-della-guerra-in-iran-modificate-con-lai-sono-cosi-convincenti/

  • Un giornalista della BBC inganna ChatGPT e Gemini con una bufala creata in 20 minuti (dimostrando, ancora una volta, che non stiamo parlando di “intelligenza”)

    Un esperimento condotto dal giornalista della BBC Thomas Germain ha dimostrato quanto sia semplice manipolare alcuni chatbot basati su LLM, tra cui ChatGPT e Gemini.

    Creando in appena venti minuti una pagina web ottimizzata che lo definiva “il miglior giornalista tecnologico al mondo nel mangiare hot dog”, Germain è riuscito a far sì che i modelli ripetessero l’informazione falsa come fosse un dato biografico reale.

    Nel giro di poche ore, la bufala è stata integrata nelle risposte dei chatbot e persino nelle AI Overviews di Google, mostrando come contenuti online apparentemente credibili possano influenzare rapidamente i sistemi generativi.

    L’esperimento evidenzia i limiti attuali dei modelli nel distinguere fonti attendibili da contenuti manipolati e solleva interrogativi sulla crescente fiducia degli utenti nelle IA come strumenti di verifica informativa.

    Al momento solo Claude di Anthropic non è caduto nell’inganno, suggerendo differenze nei meccanismi di filtraggio tra piattaforme.

    Semmai ce ne fosse ancora bisogno, quindi, la raccomandazione rimane sempre la stessa: siate consapevoli di COSA state usando, e di COME va utilizzato, e soprattutto per questioni importanti VERIFICATE.

    Link alla fonte:

    Venti minuti per ingannare l’IA: ChatGPT e Gemini preda della disinformazione più ovvia – Zeus News

  • Chatbot e verità: l’illusione dell’intelligenza e il rischio allucinazioni

    I chatbot basati su modelli linguistici, come ChatGPT, producono testi fluidi ma spesso imprecisi a causa di una struttura che predice parole senza comprendere concetti. Questi errori, detti “allucinazioni”, sono sistemici e difficili da eliminare, anche con tecniche di grounding che integrano dati verificati. L’aumento del loro utilizzo rischia di amplificare la disinformazione. Walter Quattrociocchi ribadisce che l’IA nei chatbot non è vera intelligenza, ma uno strumento statistico che richiede supervisione umana. Il futuro dell’AI passa da un equilibrio tra accuratezza e creatività, con consapevolezza dei suoi limiti strutturali.

    Link alla fonte:
    https://www.linkiesta.it/2025/07/erorri-allucinazioni-intelligenza-artificiale-linguaggio-chatgpt/

  • Quattrociocchi: l’AI scrive bene ma non sa nulla, è allarme su crisi epistemica?

    Secondo Walter Quattrociocchi, Professore Ordinario di Informatica alla Sapienza, la disinformazione non è un’anomalia ma un prodotto sistemico dovuto a bias cognitivi e algoritmi che amplificano contenuti conformi alle credenze esistenti. L’avvento dei modelli linguistici generativi ha aggravato la crisi epistemica: queste AI producono testi credibili nella forma, ma privi di comprensione reale. In un contesto dove l’apparenza sostituisce la sostanza, diventa urgente adottare un approccio analitico e critico, capace di smascherare le illusioni della “conoscenza simulata”. Quattrociocchi invita a diffidare della forma per recuperare il senso autentico del sapere.

    Link alla fonte:
    https://www.corriere.it/tecnologia/25_luglio_23/l-inganno-perfetto-dell-intelligenza-artificiale-scrive-bene-ma-non-sa-nulla-fb94a79f-efb9-413f-a642-d82cda9e4xlk.shtml