AI NEWS by BDB

Tag: Ricerca

  • L’esperimento “bixonimania” smaschera le falle dei modelli AI e riporta alla luce il problema di allucinazioni e disinformazione

    Una ricercatrice dell’Università di Göteborg, Almira Osmanovic Thunström, ha inventato una falsa malattia chiamata “bixonimania” per testare l’affidabilità dei modelli di linguaggio come ChatGPT, Gemini e Copilot.
    Nonostante indizi evidenti sulla natura fittizia, diversi chatbot hanno trattato la patologia come reale, generando sintomi e dati inventati.
    Il problema è aggravato dal fatto che queste informazioni false sono state successivamente citate anche in articoli scientifici reali, evidenziando un rischio sistemico.
    L’esperimento dimostra che gli LLM privilegiano la coerenza linguistica rispetto alla verifica dei fatti, rendendoli vulnerabili alla disinformazione strutturata.
    Emergono quindi urgenti necessità di sistemi di validazione più robusti, soprattutto in ambito sanitario, e di maggiore alfabetizzazione digitale.

    Link alla fonte:
    https://es.wired.com/articulos/una-enfermedad-falsa-pone-en-evidencia-la-incapacidad-de-la-ia-para-detectar-fake-news

  • L’ennesima prova che l’AI non è “intelligente”

    Nel caso abbiate ancora dubbi sull’intelligenza e sulla capacità di comprensione dell’AI “generativa”, vi mostro l’ennesima prova che questi elementi, in sostanza, non esistono.

    Si chiama “AI generativa” perché i modelli su cui si basa attualmente si limitano a generare contenuti seguendo pattern statistici, quindi anche quando vedere un “ragionamento” state osservando una fila di parole infilate una dopo l’altra secondo una serie di calcoli di affinità verbale dell’algoritmo (costruita durante l’addestramento).

    La prova finale: un gruppo di ricercatori ha sottoposto ai modelli di fascia alta di ChatGPT e Gemini una serie di problemi che avevano risolto ma mai pubblicato (di conseguenza l’AI non poteva avere acquisito dei dati dalla loro “lettura”, che peraltro deve riguardare elementi individuati con una certa frequenza per ottenere la sua “attenzione”), e il risultato è stato che nessuno dei due modelli di punta è stato in grado di risolverli.

    Si continua a parlare di AGI, di “agenti”, di “decisioni” da parte dell’AI e di sostituzione dell’essere umano, ma come ho spesso sottolineato finché non cambieranno gli algoritmi possiamo dimenticarci una vera “intelligenza” che dovrebbe essere alla base di tali scenari.

  • Google trasforma la Ricerca in una conversazione con Gemini 3 (domanda: SEO e sponsorizzate che fine fanno?)

    Google annuncia un nuovo cambio di paradigma per la Ricerca, che passa dal modello “cerco e clicco” a un’esperienza sempre più conversazionale.
    Sui dispositivi mobile, gli utenti possono ora passare senza interruzioni da AI Overview alla modalità AI Mode, mantenendo il contesto delle domande come in una chat.
    Al centro di questa evoluzione c’è Gemini 3, che diventa il modello predefinito globale per le risposte AI nella Ricerca, migliorando precisione e gestione delle query complesse.
    Secondo Robby Stein, l’obiettivo è un’esperienza “fluida”, con risposte immediate e la possibilità di approfondire tramite dialogo.
    Il risultato è una Ricerca che privilegia continuità e interazione, riducendo il peso dei link senza eliminarli.

    Link alla fonte:
    https://www.ilsole24ore.com/art/google-cambia-ancora-ricerca-gemini-3-diventa-nuovo-motore-dell-ai-AI7sNc5