Un LLM è un modello numerico, ma ciò che chiamiamo “IA” è sempre più spesso un intero sistema di software, tool e orchestrazione. Capire questa distinzione cambia anche il modo in cui attribuiamo responsabilità ai suoi errori. Errori che, come recitano ancora dopo quattro anni gli avvisi sotto la chat, sono ancora potenzialmente presenti.
Guardate l’immagine che fa da cover a questo post: un robottino confuso, mano al mento, sguardo interrogativo, circondato da icone di errore, warning e documenti che dicono “sbagliato”. Sotto, ho aggiunto le interfacce di Gemini, Claude e ChatGPT per mostrare come ripetono, dopo anni, tutte la stessa formula di rito: può commettere errori, verifica sempre.
Quel messaggio potrebbe apparire come una sorta di marketing difensivo, ma in realtà è la “dichiarazione di realtà” più onesta che queste aziende abbiano mai fatto e facciano ancora oggi.
Perché, giova ripeterlo, l’intelligenza artificiale generativa non “pensa”, non “capisce”, non “ragiona”, insomma non è “senziente”. È un sistema statistico di previsione della prossima parola, addestrato su quantità enormi di testo, che produce sequenze altamente probabili rispetto ai pattern che ha assorbito. Nient’altro.
Un Large Language Model (LLM), nella sua forma grezza, è un agglomerato inerte di valori numerici: miliardi di parametri organizzati in matrici e tensori. In sé non fa nulla, potremmo paragonarlo al cervello nel vaso che Igor porta al dottor Frankenstein: un pezzo di materia organizzata, privo di vita propria, finché qualcuno non lo collega a un sistema che lo alimenta e lo fa funzionare. Il “qualcuno”, in questo caso, è il codice di inferenza: il software che carica i pesi, esegue i forward pass, campiona i token, gestisce il contesto, applica le temperature, i top-p, i filtri di sicurezza e tutto il resto. Senza quel codice, il modello resta un file “morto” su disco. Con quel codice, diventa capace di generare testo che sembra intelligente.
La distinzione che avete appena letto non è pedanteria tecnica, ma bensì il punto centrale della responsabilità nella progettazione, nello sviluppo e nell’utilizzo di questa tecnologia. L’illusione del ragionamento, della comprensione, della “agenticità” non nasce dal modello in quanto tale, ma dal modo in cui gli sviluppatori lo fanno girare, lo “promptano”, lo interconnettono con tool esterni e lo presentano all’utente. Quando un sistema scrive “passo 1, passo 2, passo 3” o costruisce piani elaborati, non sta eseguendo un processo cognitivo, ma sta generando testo che “simula” a tale processo, perché nei dati di addestramento esisteva moltissimo testo di quel tipo, e perché il codice di inferenza è stato progettato per favorire proprio quel tipo di output. Gli “agenti” non sono entità autonome: sono loop di prompt → risposta → nuovo prompt, orchestrati da codice scritto da esseri umani. Moltiplicano il meccanismo originale senza superarlo. Sembra più intelligente perché il cerchio è più lungo e perché gli strumenti esterni mascherano parte della fragilità. Ma il nucleo resta identico: previsione statistica animata da software.
Ecco perché quegli avvisi sotto le chat non spariscono mai. Non possono sparire, visto che rappresentano l’unico punto in cui le aziende ammettono pubblicamente la natura del prodotto: un sistema fallibile, privo di comprensione, che produce errori sistematici proprio perché non “sa” di cosa sta parlando.
Eppure, nello stesso momento in cui questi disclaimer restano fissi, assistiamo a un’escalation retorica. OpenAI parla di AGI imminente, di sistemi che “ragionano a livello di un ricercatore PhD”, di scadenze sempre più vicine, di progressi che “cambieranno tutto”. Ammettiamolo, la distanza tra il linguaggio pubblico e la realtà tecnica è diventata abissale. Si continua a vendere l’apparenza come sostanza, la fluenza come intelligenza, la coerenza superficiale come comprensione. E si continua a scaricare su questa “IA” (che di “i” ha veramente poco) una responsabilità che, in realtà, appartiene interamente a chi progetta, addestra, deploya e orchestrata questi sistemi. E a chi li utilizza, a valle.
L’ironia è quasi perfetta: abbiamo costruito macchine straordinariamente brave a sembrare “pensanti”, e invece di trattarle come strumenti potenti e fallibili — agglomerati inerti animati da codice umano — preferiamo proiettare su di esse le nostre fantasie di soggettività. L’errore non è nella macchina, ma in chi continua a confondere un generatore di testo altamente sofisticato, messo in moto da software scritto da sviluppatori, con qualcosa che “capisce”. E la colpa, per omissione o per azione, è di chi non informa o lo fa in modo fuorviante, mezzi di comunicazione in primis.
L’IA generativa è uno degli strumenti più potenti mai creati, ma riane uno strumento. E gli strumenti, per quanto “impressionanti”, non pensano, non capiscono, non ragionano. E non diventeranno senzienti solo perché qualcuno ha deciso di chiamare “AGI” o “super intelligenza” la prossima versione del modello, o perché il codice di inferenza è diventato un po’ più elaborato.
Ora, a meno che aziende come OpenAI, Anthropic Google non abbiano intanto sviluppato modelli secondo criteri alternativi rispetto a quelli che abbiamo visto (e usato) finora, la prossima volta che un chatbot vi dà una risposta sicura di sé, ricordate l’immagine del robot confuso, l’avviso in piccolo sotto la barra di input, e il cervello nel vaso di Young Frankenstein. Quello è il messaggio più onesto che queste tecnologie siano in grado di darvi: non c’è nessuno a casa. C’è solo un agglomerato di numeri e il codice che lo fa parlare.
Intanto, potete ottenere risultati qualitativamente migliori imparando a “interrogare” nel modo giusto (in un modo “intelligente” dove l’intelligenza parte da voi) questi sistemi di “intelligenza simulata”, magari con l’aiuto del mio manuale sui prompt for Dummies.
