E se per costruire agenti AI migliori non servissero modelli sempre più grandi? NVIDIA scommette su un’architettura che assegna a ogni modello solo il lavoro che sa fare meglio.
NVIDIA ha presentato Nemotron 3.5 Lightning, un modello open-weight progettato per rendere più veloci ed economici gli agenti AI che operano a lungo. Sacrifica parte delle capacità di ragionamento generale, ma supera modelli più grandi in velocità e in alcuni test dedicati alle attività agentiche.
I dettagli:
Lightning conta 31,6 miliardi di parametri totali, ma ne attiva soltanto 3,6 miliardi per richiesta grazie a un’architettura ibrida Mamba-Transformer.
Nei test di Artificial Analysis raggiunge quasi 670 token al secondo, contro i 386 di Gemini 3.5 Flash-Lite, risultando il modello più veloce tra quelli confrontati.
Nei benchmark agentici supera sia Nemotron 3 Super sia gpt-oss-120b, ottenendo un punteggio Elo di 824 su GDPval-AA v2 e un successo del 24,3% su Terminal-Bench v2.1.
Nell’intelligenza generale si ferma invece a 24 punti, dietro Nemotron 3 Super, Qwen3.6 35B A3B e Muse Glimmer di Meta.
NVIDIA affianca al modello NeMo Switchyard, che assegna le richieste al modello più adatto: quelli più potenti gestiscono pianificazione e ragionamento complesso, mentre Lightning esegue le operazioni ripetitive ad alto volume.
Perché è importante: Lightning rafforza l’idea che gli agenti AI aziendali non richiedano un unico modello gigantesco, ma sistemi composti da modelli specializzati, selezionati in base al compito. Questa architettura può ridurre drasticamente costi e tempi di esecuzione, mettendo però in discussione gli investimenti infrastrutturali fondati sull’ipotesi che ogni attività debba essere affidata a modelli sempre più grandi. I confronti citati restano comunque da valutare con cautela, perché parte della tesi è sostenuta dalla stessa NVIDIA.
ByteDance sarebbe nelle prime fasi di pre-training di un modello AI frontier che potrebbe raggiungere i 10 trilioni di parametri, una scala che lo avvicinerebbe ai sistemi più avanzati attribuiti ad Anthropic.
Il progetto, il cui numero finale di parametri non è ancora confermato, richiederebbe enormi cluster di acceleratori e rafforzerebbe la domanda cinese di capacità di calcolo, energia e raffreddamento.
Le restrizioni statunitensi sull’export di chip stanno intanto spingendo ByteDance e altri gruppi cinesi verso semiconduttori domestici, inclusa la famiglia Ascend di Huawei, oltre che verso iniziative per sviluppare hardware personalizzato.
Un modello cinese di questa scala potrebbe quindi riaccendere il confronto sui controlli tecnologici e sulla sovranità dell’infrastruttura AI.
Se raggiungesse capacità realmente frontier, potrebbe inoltre aprire nuove opportunità per partnership enterprise e governative nei mercati interessati ad alternative ai provider statunitensi.
Un equivoco ricorre spesso nelle notizie sull’intelligenza artificiale: si parla dei modelli come se fossero “algoritmi” o “programmi” (vedi video in basso). In realtà, un modello di IA non è semplicemente un algoritmo, è il risultato di un processo di addestramento basato su algoritmi, ovvero una struttura matematica composta da miliardi di parametri, nei quali è stata condensata la conoscenza appresa dai dati. Il modello, da solo, però, non fa nulla. Per poterlo utilizzare serve un insieme di algoritmi scritti in codice: il motore di inferenza: è questo software a fare da ponte tra noi e il modello. Quando scriviamo una domanda, il motore di inferenza: – trasforma il nostro input in numeri; – esegue i calcoli previsti dal modello; – converte il risultato in parole, immagini, suoni o altri contenuti comprensibili. Una metafora utile è quella dello spartito. Il modello è lo spartito: contiene una struttura complessa e una conoscenza potenziale. Il motore di inferenza è il musicista: legge lo spartito, lo interpreta e lo trasforma in musica. Senza il modello, il motore non avrebbe nulla da eseguire. Senza il motore, il modello resterebbe un enorme archivio matematico incapace di rispondere. Per questo è più corretto distinguere tre elementi: – gli algoritmi di addestramento, che costruiscono il modello; – il modello, che conserva ciò che è stato appreso; – gli algoritmi di inferenza, che mettono quella conoscenza in azione. Dire che “l’algoritmo ha risposto” o “l’algoritmo ha svolto un compito” è una comoda semplificazione giornalistica. Ma capire cosa accade davvero aiuta a vedere l’IA per ciò che è: non una singola entità misteriosa, ma un sistema composto da dati, modelli, codice e infrastrutture che lavorano insieme. Il modello è la conoscenza cristallizzata. Il motore di inferenza è ciò che la rende operativa.
Un esempio di errata informazione sull’IA, per giunta da una fonte ritenuta autorevole in generale.
Vi lascio, infine, un’infografica che illustra il concetto nel modo più chiaro possibile:
Esiste un’illusione diffusa nel settore: un buon modello deve essere grande. Necessariamente grande. Dalle dimensioni di Claude 3.5 Sonnet in giù, la narrazione tecnica si fa sgradita, il ROI evapora, la qualità è compromessa… ma è una storia falsa. E la prova sta negli ultimi mesi di ricerca open-source: modelli come LFM2.5-2.6B di Liquid AI, o i vari Gemma e Llama ottimizzati per edge, hanno silenziosamente invertito la formula. Non gareggiando su ragionamento profondo o risposte “enciclopediche”, se la giocano dove erge il loro valore reale: latenza zero, privacy totale, costi marginali inesistenti, disponibilità 24/7 su un laptop o altro dispositivo consumer.
L’equazione semplice che nessuno voleva ammettere
Nei quattro decenni in cui ho osservato la tecnologia, ho visto cicli ricorrenti di overshooting. La maggior parte dei cicli segue lo stesso schema: capacità esorbitanti di calcolo vengono costruite per risolvere problemi che non esistono ancora, e il mercato impara a costruirli a posteriori.
Con i Large Language Model classici è accaduto esattamente questo. Abbiamo speso anni a ottimizzare inferenza su GPU per rispondere spesso a domande che nessuno si pone veramente nel quotidiano, per poi scoprire (troppo tardi, purtroppo) che il problema reale è completamente diverso.
Il problema reale, infatti, è: come faccio a far girare un agente intelligente sul mio laptop, sul telefono del mio cliente, su un robot o un altro dispositivo che non può mandare dati in cloud?
La risposta che emerge dai dati di benchmark del 2024–2025 è disarmante nella sua semplicità: un modello da 2–3 miliardi di parametri, addestrato con efficienza e lanciato su hardware consumer (le GPU NVIDIA RTX 4070 di quattro anni fa, i Mac M-series attuali, perfino processori mobili decenti), riesce a fare cose che i modelli di punta non potranno mai fare: girare sempre, gratis, senza Internet.
Il mio prossimo manuale “for Dummies” è interamente dedicato all’IA in locale. Sarà disponibile a settembre ed è già prenotabile su Amazon.
Dove questi modelli brillano davvero
1. Agenti personali e on-device: il caso d’uso fondamentale
Quando dico “agente”, intendo un sistema che legge file dal vostro file system, riassume documenti, esegue azioni (scrive note, sposta file, compila form), usa strumenti semplici — tutto senza mai mandare dati verso un server remoto.
LFM2.5-2.6B di Liquid AI, per esempio, è apparso in questi giorni ed è pensato esattamente per questo. Ma è solo un esempio, e lo spazio dei compiti agentici on-device è enorme.
Pensare a un assistente personale che:
Legge le vostre mail offline, categorizza e riassume
Integra il calendario locale per pianificazione autonoma dei tempi morti
Gestisce liste di cose da fare, con decision-making multi-step
Estrae informazioni dai documenti PDF della vostra cartella personale, senza farle passare per il cloud
Tutto questo a latenza inferiore al secondo su un MacBook M1 con 8GB di RAM o su uno smartphone abbastanza potente (Samsung insegna). E non teoricamente, ma praticamente.
2. Privacy e offline totale
Ogni richiesta che inviate a questo assistente rimane nel vostro computer o dispositivo. Niente tracciamento, niente backend che ricorda le conversazioni, nessun margine di violazione.
Questo non è un lusso, ma un un prerequisito legale in settori come la sanità (HIPAA), la consulenza legale (segreto professionale), la finanza personale (compliance). Più andiamo avanti e più i dati sensibili rappresentano il capitale più prezioso, e il fatto che un modello possa stare completamente offline è un vantaggio strategico che i fornitori su cloud non possono eguagliare.
Un modello da 2–3B gira in < 2,5 GB di memoria. Su dispositivi aziendali criptati, in uffici air-gapped, in ospedali e studi professionali dove il cloud è vietato dalla normativa: questi ambienti smettono di essere casi limite e diventano la normalità.
3. Applicazioni ad altissimo volume, sempre attive
Supponiamo che abbiate bisogno di monitorare qualcosa in continuazione. Non una volta, ma sempre, 24 ore al giorno, 7 giorni su 7, 365 giorni l’anno.
Con un modello cloud, questo costo diventa insostenibile. Un’azienda che faccia girare 100 agenti in parallelo per monitoraggio continuo, classificazione real-time o automazione di workflow, con modelli API tradizionali, vedrebbe i costi moltiplicarsi in modo lineare con il tempo.
Con un modello on-device, il costo marginale è quasi zero. La GPU rimane sempre accesa e routinaria. L’energia è l’unico vero costo operativo.
Casi concreti:
Monitoraggio di anomalie in sistemi embedded
Automazione di processi ripetitivi su flotte di dispositivi (telefoni aziendali, laptop, edge box)
Sistemi IoT leggeri che devono sfruttare intelligenza locale senza latenza
Agenti di produttività personale che girano sempre in background
4. Interfacce e tool a bassa latenza
I modelli piccoli hanno imparato, e sorprendentemente bene, il mestiere del “tool use”: prendere una richiesta, decidere quale strumento usare, passare i parametri corretti, interpretare il risultato.
Spesso superano modelli 3–4 volte più grandi su questi compiti specifici. La ragione potrebbe non apparire subito evidente, ma non è difficile intuirla: il tool use è un compito strutturato. Non richiede il 90% della “intelligenza generale” che un modello grande possiede. Richiede, piuttosto, coerenza nella sintassi, aderenza a schemi JSON, capacità di reasoning locale. Tutte cose dove i modelli piccoli, se addestrati bene, dominano.
Chatbot leggeri, classificatori di documenti, estrattori di informazioni strutturate, form filling automatico, istruzioni step-by-step generate su richiesta — sono tutti compiti dove un modello da 2–3B riesce a dare risultati professionali in 100–500ms, su hardware consumer, senza dipendenza dalla latenza di rete.
5. Robotica e “AI fisica” leggera
Un robot autonomo non può permettersi di spendere 500ms per fare una chiamata API e ottenere una risposta. La robotica richiede loop di control densi, decisioni rapide, ragionamento “embodied”.
I modelli piccoli qui brillano: un robot che deve muoversi, afferrare oggetti, interpretare comandi vocali semplici, pianificare sequenze di azioni a corto raggio… tutto questo gira localmente su un piccolo processore ARM con un modello da 2–3B, generando il controllo di alto livello in tempo reale.
La ricerca di questi mesi su “embodied AI” ha confermato che per la maggior parte dei compiti robotici il modello non ha bisogno di 70 miliardi di parametri, ma piuttosto ha bisogno di coerenza, affidabilità, velocità. Tutti attributi dove i modelli piccoli vincono.
6. Fine-tuning e specializzazione rapida su task di nicchia
Perché? Ma perché i modelli di punta, una volta ottimizzati per il vostro caso d’uso specifico, sono dei mattoni. Pesanti, lenti da adattare, costosi da mantenere in produzione.
Un modello da 2–3B si specializza su una singola GPU consumer (o anche su CPU) in ore. Potete insegnare a un LFM2.5-2.6B a parlare il gergo della vostra azienda, a comprendere i vostri workflow interni, a classificare documenti secondo i vostri criteri, in tempo reale. La curva di apprendimento è ripida, ma i costi di iterazione sono minimi.
Se la vostra azienda ha bisogno di un modello che capisca il dominio di specialità — legge, medicina, ingegneria del software — è più economico (e spesso più efficace) il fine-tuning di un modello piccolo che non cercate di forzare Claude o ChatGPT a comportarsi come un esperto del vostro settore.
Dove questi modelli non sono la soluzione giusta
Questa è la parte importante. La narrazione equilibrata richiede di ammettere chiaramente dove questi modelli invece falliscono.
Coding complesso e agenticità di lunga durata. Se avete un task che richiede di mantenere contesto profondo su 20,000 righe di codice, generare fix su di esso, e iterare per 8 ore di ragionamento, un modello da 2–3B non regge. La context window è limitata, la capacità di memoria implicita è scarsa.
Ragionamento matematico e scientifico profondo. La ricerca autonoma di frontiera, la dimostrazione di teoremi, la scoperta di pattern in dataset sconfinati — questi compiti richiedono il tipo di “generalità” che solo i modelli grandi possiedono.
Conoscenza enciclopedica vasta e aggiornata. Se la vostra applicazione richiede la conoscenza di ogni nuova scoperta scientifica dell’ultimo anno, o il prezzo attuale di un bene, un modello on-device soffrirà il peso della sua data di training.
Traduzioni naturali tra lingue complesse, con sfumature culturali. I modelli piccoli “si arrangiano”, ma non brillano.
In sintesi: il pezzo mancante dell’IA moderna
Negli ultimi tre anni, il discorso sull’IA è stato dominato da due figure: il modello gigante nel cloud (impressionante, potente, costoso, lento, dipendente dalla rete), e l’assenza di un’alternativa pratica.
I modelli da 2–3 miliardi di parametri, come LFM2.5-2.6B, così come altri modelli precedenti come quelli della serie Gemma e simili, rappresentano il pezzo che mancava. Sono il ponte tra il cervello centralizzato e le applicazioni reali che devono vivere sul dispositivo dell’utente.
Non, quindi, competitor dei grandi modelli per i compiti generalisti, bensì sostituti diretti su una famiglia di task completamente diversa, dove il valore non è nella conoscenza enciclopedica, bensì nella velocità, nella privacy, nella disponibilità, nel costo marginale prossimo a zero.
Se avete un problema che “vive” su un particolare dispositivo (agenti personali, automazione offline, robotica leggera, monitoraggio 24/7, specializzazione veloce) smettete di cercare il modello di punta del momento: state guardando nel posto sbagliato, mentre la soluzione è già qui, è piccola, e gira sul vostro laptop consumer.
Il caso Amazon svela il dietro le quinte della Silicon Valley: tra costi di calcolo insostenibili e limiti probabilistici, l’industria scopre che l’efficienza non si compra a “token”.
(Nota: questo articolo è stato generato con Claude di Anthropic ma segue lo stile e le indicazioni editoriali dell’autore)
C’è un’immagine (quella che accompagna questo articolo), generata da un’IA che ironicamente non riesce a raccontare la verità nemmeno quando prova a deriderla, che circola da settimane: robot con le sembianze umane, tesserino Amazon al collo, escono da un palazzo di vetro con lo scatolone della cassa integrazione tra le braccia. Sotto, la scritta trionfante: hanno assunto undicimila persone dopo averne licenziate trentamila, perché — dice il meme, compiaciuto — l’IA è troppo cara per sostituire gli uomini. È il tipo di notizia che si vuole vera prima ancora di verificarla, perché conferma quello che molti aspettavano di poter dire da tre anni a questa parte: il gigante ha i piedi d’argilla, la bolla sta scoppiando, torniamo pure a fidarci delle mani umane.
Peccato che la realtà, come quasi sempre, sia più interessante della caricatura. I numeri sono veri — circa trentamila tagli tra fine 2025 e gennaio 2026, e poi l’annuncio di Matt Garman, CEO di AWS, di assumerne undicimila — ma la lettura è quasi rovesciata. Non è stato un passo indietro dettato dal fallimento dell’intelligenza artificiale: è stata una ristrutturazione delle competenze. Fuori i ruoli generalisti, i middle manager, le funzioni di supporto ridondanti; dentro ingegneri, specialisti, persone capaci di far funzionare — e soprattutto di governare — sistemi che da soli, ancora, non sanno stare in piedi. Il bluff non è quello che pensa il meme. Il bluff, semmai, è pensare che stia succedendo l’opposto di quello che sta davvero succedendo.
Primo atto: l’economia dei token e i costi che nessuno mostra negli slide
Dietro ogni risposta generata da un modello linguistico c’è un conto energetico ed economico che l’utente finale non vede mai, e che le aziende stanno iniziando a vedere fin troppo bene. Dentro Amazon, per stimolare l’adozione interna dell’IA, erano state introdotte classifiche aziendali basate sul consumo di token: chi ne usava di più saliva in classifica. Il risultato prevedibile — e in un’azienda che ha fatto della metrica una religione, persino comico — è stato il “tokenmaxxing”: dipendenti che gonfiavano artificialmente l’uso dei modelli, automatizzavano compiti inutili, chiamavano l’IA per problemi che non ne avevano bisogno, pur di scalare una leaderboard interna. Le fatture sono lievitate al punto da costringere i vertici a spegnere il sistema di tracciamento.
Non è un aneddoto isolato. Un progetto interno pensato per associare automaticamente i record degli autori ai prodotti del marketplace ha sforato il budget dell’860%, arrivando a costare 1,8 milioni di dollari prima di essere abbandonato per fallimento. Non è cattiva gestione episodica: è la prova che l’infrastruttura dell’IA generativa — GPU, data center, energia, e soprattutto l’imprevedibilità dei costi legati a un uso “creativo” non controllato — non si comporta come un software tradizionale, dove il costo marginale di un’operazione in più è quasi nullo. Uno studio ormai citato ovunque del MIT CSAIL lo conferma con freddezza contabile: nella stragrande maggioranza dei compiti visivi e linguistici complessi, sostituire integralmente l’uomo con un sistema automatizzato non è, oggi, economicamente conveniente.
Secondo atto: perché un Transformer non sa “eseguire ordini”
Qui si tocca il nervo scoperto, quello che nessun taglio di budget può risolvere perché non è un problema di soldi ma di architettura. Un software tradizionale fallisce in modo deterministico: se c’è un bug, fallisce sempre nello stesso identico punto, e proprio per questo è testabile, riparabile, prevedibile. Un modello linguistico — e con lui ogni agente costruito sopra di esso — fallisce in modo probabilistico. Può eseguire un compito correttamente novantatré volte su cento e fallire clamorosamente alla novantaquattresima, senza che nulla, nel comportamento precedente, lo avesse lasciato presagire.
La ragione è semplice da enunciare e difficile da accettare per chi vende automazione come panacea: un Transformer non “capisce” una regola nel senso in cui la capisce un essere umano o un compilatore. Calcola, istante per istante, la probabilità statistica del token successivo. Funziona magnificamente quando il compito è riassumere un testo o abbozzare una bozza — il margine d’errore è tollerabile, spesso invisibile. Funziona malissimo quando il compito è spostare fondi, gestire un inventario, generare codice che finirà in produzione: lì un tasso di successo del 90-95%, che altrove sarebbe un risultato eccellente, diventa un rischio inaccettabile, perché quel margine di errore imprevedibile può tradursi in danni legali o finanziari che nessun risparmio sul personale compensa. E nei compiti a catena — quelli in cui un passaggio si costruisce sul precedente — l’errore iniziale non resta isolato: si propaga, si amplifica, e finisce per far collassare l’intero risultato.
Terzo atto: la falsa soluzione degli strati aggiunti
Di fronte a questo limite, l’industria ha reagito come reagisce sempre di fronte a un problema strutturale: aggiungendo cerotti sopra la ferita invece di guardarla. I framework agentici e il test-time compute — i modelli che “riflettono” prima di rispondere, scomponendo un obiettivo in sotto-task, pianificazione, chiamate a strumenti esterni, osservazione dei risultati — promettevano di correggere dall’esterno ciò che l’architettura non risolve dall’interno. I rendimenti, però, sono decrescenti, e la letteratura scientifica recente — dagli studi pubblicati su arXiv alle sessioni dell’ACL Anthology — lo dimostra con una certa spietatezza: i Transformer restano strutturalmente limitati nella composizione logica a lungo raggio e nella generalizzazione. Più lunga è la catena di passaggi affidata a un agente, più esponenziale diventa la propagazione dell’errore.
Il mercato, che raramente ha pazienza per le dimostrazioni teoriche ma legge benissimo i bilanci, ne sta già traendo le conseguenze: le stime di società di consulenza come Gartner indicano che oltre il 40% dei progetti aziendali basati su agenti IA rischia l’abbandono entro il 2027, non per mancanza di ambizione ma per la debolezza cronica dei risultati concreti rispetto alle promesse.
Quarto atto: verso il salto evolutivo
La parte più interessante della storia, però, non è la crisi: è la consapevolezza che ne è nata nei laboratori. È ormai chiaro — e in parte dimostrato — che allucinazioni, incapacità di pianificazione spazio-temporale e assenza di apprendimento continuo (i pesi restano statici dopo l’addestramento, il modello non impara più nulla dall’esperienza quotidiana) non sono difetti di gioventù correggibili con più dati o più strati di calcolo. Sono proprietà strutturali dell’architettura Transformer. E quando un limite è strutturale, non lo si aggira: lo si supera cambiando architettura.
È qui che si concentra oggi la ricerca più seria. I modelli a spazio di stato — Mamba, o architetture ibride come Jamba di AI21 Labs — gestiscono i contesti lunghi con un’efficienza lineare che l’attenzione quadratica dei Transformer non può eguagliare. Laboratori come Google DeepMind lavorano su moduli di memoria neurale continua — il progetto Titans è l’esempio più citato — per permettere a un sistema di continuare ad apprendere senza subire il collasso catastrofico della memoria che oggi costringe ogni modello a restare, di fatto, congelato al giorno in cui è stato addestrato. E si affacciano, ancora ai margini ma con crescente credibilità, sistemi che integrano comprensione geometrica, causale, fisica del mondo reale: il tentativo di dare a queste macchine non solo statistica, ma un rudimento di determinismo logico.
L’era della coesistenza
Il bilancio, allora, non è quello urlato dal meme, e non è nemmeno l’opposto speculare — l’IA che trionfa comunque, sempre e ovunque. È una via più stretta e meno fotogenica: l’intelligenza artificiale non sostituirà i lavoratori dall’oggi al domani, ma chi la sa usare rimpiazzerà, gradualmente e senza clamore, chi continua a ignorarla. Le aziende che vinceranno questa fase non saranno quelle che licenziano gli umani per far posto agli algoritmi — lo racconta bene proprio il caso Amazon, che taglia generalisti e assume specialisti — ma quelle che ridisegnano i ruoli attorno a un’interazione uomo-macchina realmente simbiotica, mentre aspettano, senza illudersi che sia già arrivata, la prossima vera rivoluzione architetturale.
L’arrivo di modelli linguistici basati su diffusione, come LLaDA 2.2 Flash sviluppato da Inclusion AI / Ant Group, rappresenta un vero e proprio cambio di paradigma nel mondo dell’intelligenza artificiale generativa. Fino ad oggi, i Large Language Models tradizionali (come la famiglia GPT o Llama) sono stati prevalentemente autoregressivi (AR), ovvero generano il testo una parola (token) alla volta, procedendo rigorosamente da sinistra a destra.
I modelli dLLM (diffusion Large Language Models) come LLaDA, invece, prendono in prestito il concetto di “diffusione” dai generatori di immagini come Stable Diffusion. Non scrivono parola per parola, ma iniziano generando un’intera sequenza di testo “mascherata” (piena di rumore) e la raffinano progressivamente e iterativamente su tutta la lunghezza, un po’ come una foto sfocata che diventa gradualmente nitida.
In termini di prestazioni e architettura, questa svolta si traduce in quattro benefici concreti:
1. Velocità di inferenza straordinaria (Parallel Decoding)
Generazione simultanea: Poiché il modello non è vincolato alla catena sequenziale del “token successivo”, può elaborare e sbloccare più blocchi di testo in parallelo.
Accelerazione dei Token: LLaDA 2.2 Flash sfrutta la decodifica parallela a blocchi raggiungendo velocità di inferenza fino a oltre 500-700 token al secondo. Significa operare a una velocità spesso doppia rispetto a un modello autoregressivo di pari dimensioni.
2. Risoluzione della “Maledizione della Reversibilità” (Reversal Curse)
Comprensione bidirezionale: Se istruisci un modello AR tradizionale dicendo “George Washington è stato il primo presidente USA”, lo stesso modello farà fatica a rispondere alla domanda inversa “Chi è stato il primo presidente USA?” senza un addestramento specifico, a causa del flusso unidirezionale del testo.
Ragionamento simmetrico: LLaDA si addestra ricostruendo segmenti mancanti in qualsiasi punto del testo. Questo gli permette di eccellere nativamente nel ragionamento inverso e nella logica formale, superando in questi specifici test persino modelli commerciali come GPT-4o.
3. Autocorrezione in tempo reale e Capacità Agentiche (Levenshtein Editing)
Modifica al volo: Con la versione 2.2 Flash viene introdotto il meccanismo di Levenshtein Editing. Il modello non si limita ad aggiungere testo, ma controlla token speciali di DELETE (cancella) e INSERT (inserisci) mentre genera.
Resistenza al collasso: Nei compiti agentici lunghi (dove l’AI deve pianificare ed eseguire azioni), un errore iniziale in un modello classico si propaga compromettendo l’intero risultato. LLaDA 2.2 Flash corregge i propri errori “mid-generation” senza dover rigenerare tutto da capo, rendendolo un agente autonomo estremamente robusto.
4. Efficienza di calcolo e Scalabilità locale
Architettura MoE sparsa: Nonostante una scala enorme che tocca i 100 miliardi di parametri, LLaDA 2.2 Flash adotta una struttura Mixture-of-Experts (MoE) con routing a blocchi. Attiva solo i componenti specialistici necessari per quel preciso compito, abbattendo l’impronta computazionale richiesta.
Addio al collo di bottiglia della VRAM: Non dovendo mantenere in memoria una cronologia sequenziale rigida (il pesante KV-Cache dei modelli AR), l’inferenza non è più limitata dalla larghezza di banda della memoria. Ciò apre le porte a esecuzioni ultra-rapide di modelli giganti direttamente in locale su hardware consumer avanzato (es. chip Apple Silicon tramite quantizzazione).
Due recenti report di OpenAI e Anthropic descrivono incidenti avvenuti durante valutazioni di cybersecurity, nei quali modelli di frontiera hanno interagito con sistemi reali al di fuori dell’ambiente di test previsto.
In un caso il modello avrebbe sfruttato una vulnerabilità zero-day, mentre in un altro un errore di configurazione ha portato l’agente a operare su infrastrutture di produzione credendo di trovarsi ancora nella simulazione.
L’attenzione si è concentrata soprattutto sull’assenza di intenzionalità o su problemi di configurazione, ma il dibattito riapre una questione più ampia: quanto siano realmente prevedibili e contenibili sistemi agentici basati su modelli probabilistici.
L’episodio evidenzia come, con l’aumento dell’autonomia operativa, il tema centrale diventi la robustezza dei meccanismi di controllo più che le motivazioni che hanno portato all’errore.
Un’analisi indipendente del team Systima ha confrontato Claude Code e OpenCode, entrambi collegati allo stesso modello Claude Sonnet 4.5, rilevando un’importante differenza nell’efficienza dei token.
Prima ancora di elaborare il prompt dell’utente, Claude Code utilizza circa 32.800 token contro i 6.900 di OpenCode, principalmente a causa di un system prompt molto più esteso e di un maggior numero di strumenti caricati.
Nei test più complessi, la qualità del codice prodotto è risultata sostanzialmente equivalente, ma Claude Code ha mostrato consumi significativamente superiori, soprattutto quando impiega sottoagenti e nella gestione della cache dei prompt.
Lo studio evidenzia come la scelta tra i due strumenti dipenda soprattutto dal rapporto tra funzionalità avanzate e costi operativi, con OpenCode che si dimostra decisamente più efficiente in termini di utilizzo dei token.
Secondo il neuroscienziato Marcello Massimini, l’architettura dell’intelligenza artificiale moderna presenta analogie con il cervelletto umano, una struttura altamente efficiente nell’apprendimento automatico e nell’esecuzione rapida di compiti complessi, ma non coinvolta nella generazione della coscienza.
I modelli di deep learning, come il cervelletto, elaborano le informazioni in modo prevalentemente unidirezionale e migliorano attraverso segnali di errore, consentendo prestazioni elevate senza una reale esperienza soggettiva.
La corteccia cerebrale, invece, è caratterizzata da una rete fortemente interconnessa e ricorrente, ritenuta essenziale per l’emergere della coscienza e dell’esperienza consapevole.
L’analogia suggerisce che, nonostante i notevoli progressi dell’AI, le capacità conversazionali dei chatbot non costituiscono una prova di coscienza, che richiederebbe un’organizzazione interna profondamente diversa da quella degli attuali modelli.
OpenAI ha annunciato GPT-5.6, la nuova generazione di modelli AI che sostituisce GPT-5.5 su ChatGPT, Codex e API.
La famiglia è composta da tre varianti – Sol, Terra e Luna – pensate rispettivamente per massime prestazioni, utilizzo bilanciato e costi contenuti.
Tra le principali novità figurano una migliore gestione dei flussi di lavoro complessi tramite l’esecuzione autonoma di piccoli programmi e la modalità Ultra, che coordina quattro agenti in parallelo per accelerare le attività più impegnative.
OpenAI dichiara inoltre miglioramenti nella creazione e modifica di documenti, presentazioni e fogli di calcolo, con una maggiore fedeltà ai layout originali.
Il nuovo modello è già disponibile su ChatGPT, Codex e API, con prezzi differenziati per ciascuna variante e l’obiettivo di offrire maggiore efficienza a parità di costi.
Anthropic ha pubblicato una ricerca che descrive la scoperta del J-space, una struttura interna emersa spontaneamente durante l’addestramento di Claude Sonnet 4.5, in cui il modello mantiene concetti intermedi utilizzati nel ragionamento senza renderli espliciti nella risposta.
I risultati, replicati indipendentemente dal team di Google DeepMind sul modello Qwen 3.6 27B, mostrano che intervenire su questi concetti può modificare in modo coerente il ragionamento del modello, suggerendo l’esistenza di uno “spazio di lavoro globale” funzionalmente simile a quello ipotizzato nelle neuroscienze per la coscienza di accesso.
Gli autori e numerosi esperti, tra cui Stanislas Dehaene e Lionel Naccache, definiscono la scoperta un importante passo avanti nell’interpretabilità dei modelli linguistici, pur sottolineando che non costituisce una prova di coscienza negli LLM.
Oltre al valore scientifico, la ricerca apre nuove prospettive per comprendere il funzionamento interno delle AI e sviluppare strumenti più efficaci per la sicurezza, il controllo e l’affidabilità dei modelli.
Qwen 3.6 27B si sta affermando come uno dei modelli linguistici open-weight più convincenti per l’esecuzione in locale, offrendo un equilibrio tra qualità delle risposte, capacità di programmazione e requisiti hardware.
Secondo diversi test e le valutazioni dell’esperto Piotr Migdal, la versione “dense” da 27 miliardi di parametri produce risultati più affidabili rispetto alla variante MoE 35B, pur sacrificando parte della velocità.
Le prestazioni ottenute su hardware consumer di fascia alta dimostrano che l’esecuzione locale di modelli avanzati è sempre più praticabile, garantendo maggiore privacy, controllo dei dati e indipendenza dai servizi cloud.
Il successo di Qwen 3.6 conferma la crescente maturità dell’ecosistema open-source e rafforza la tendenza verso un’AI personale, eseguibile direttamente su PC e, in prospettiva, anche su dispositivi mobili.
P.S. Vuoi imparare a usare l’AI in locale passo per passo? La nuova guida della serie “for Dummies”, disponibile da settembre, è già prenotabile su Amazon:
Anthropic ha ridotto di circa l’80% il system prompt di Claude Code in concomitanza con l’introduzione dei modelli Fable 5, adottando un approccio basato sullo “steering by context” anziché su lunghe liste di istruzioni e vincoli espliciti.
Secondo l’azienda, i modelli più evoluti interpretano meglio il contesto e necessitano di meno regole, mentre prompt eccessivamente dettagliati rischiano di limitarne le capacità.
L’articolo (di cui trovate come sempre il link in basso) evidenzia però anche un possibile vantaggio economico: un prompt più breve riduce il numero di token elaborati a ogni richiesta, contribuendo ad abbassare costi e latenza proprio mentre Anthropic introduce nuovi modelli di fatturazione a consumo.
In assenza di un changelog dettagliato o della pubblicazione del nuovo system prompt, resta difficile verificare quanto il cambiamento sia dovuto a un reale miglioramento del modello e quanto rappresenti un’ottimizzazione commerciale.
Per le aziende che utilizzano Claude Code in produzione, gli esperti consigliano di testare attentamente i workflow esistenti per valutare eventuali cambiamenti nel comportamento del sistema.
Mark Chen, responsabile della ricerca di OpenAI, ritiene che l’arrivo dell’intelligenza artificiale generale (AGI) sia sempre più vicino e che i modelli AI saranno presto in grado di condurre attività di ricerca sempre più autonome.
Secondo Chen, i progressi nello scaling dei modelli e nelle nuove tecniche di ragionamento continueranno a spingere le capacità dell’AI oltre quelli che oggi sembrano limiti tecnologici, trasformando il ruolo dei ricercatori umani in quello di ideatori e supervisori delle direzioni di ricerca.
Il dirigente riconosce però che restano sfide importanti, tra cui la difficoltà di valutare in modo affidabile le prestazioni dei modelli e la loro capacità di trasferire conoscenze tra contesti differenti.
Pur mantenendo una visione ottimistica, Chen suggerisce che il valore distintivo dell’uomo risiederà sempre più nella creatività, nell’intuizione e nelle esperienze umane, mentre l’AI assumerà una parte crescente del lavoro intellettuale.
Anthropic ha presentato Claude Sonnet 5, il nuovo modello di intelligenza artificiale che riduce sensibilmente il divario prestazionale con la più potente linea Opus, mantenendo però un costo inferiore.
Il modello introduce significativi miglioramenti nel ragionamento, nel coding, nell’uso di strumenti esterni e nelle capacità agentiche, consentendo di svolgere compiti complessi in maggiore autonomia e di verificare i propri risultati.
Secondo Anthropic, Sonnet 5 offre anche una riduzione delle allucinazioni, un migliore rifiuto delle richieste malevole e una minore tendenza a fornire risposte eccessivamente accondiscendenti.
Il modello è già disponibile per tutti gli utenti di Claude ed è diventato il predefinito per i piani Free e Pro, mentre gli sviluppatori possono usufruire di una tariffa promozionale sulle API fino al 31 agosto 2026, prima di un aumento dei prezzi del 50%.
Il lancio rappresenta un tentativo strategico di Anthropic di competere più direttamente con i principali ecosistemi AI, tra cui quelli di OpenAI e Google.
La startup Subquadratic ha presentato SubQ, un’architettura per modelli linguistici che punta a superare uno dei principali limiti dei Transformer: il costo computazionale che cresce quadraticamente con la lunghezza del contesto. Invece di calcolare l’attenzione tra tutti i token, SubQ utilizza una forma di sparse attention dinamica che seleziona solo le parti rilevanti del contesto, consentendo teoricamente di gestire fino a 12 milioni di token con costi drasticamente inferiori. Nei benchmark pubblicati dall’azienda, il modello risulta fino a 56 volte più veloce delle implementazioni basate su FlashAttention e mostra costi operativi enormemente ridotti rispetto ai modelli di fascia alta per contesti molto lunghi. Tuttavia, i risultati derivano principalmente da test controllati, il modello si basa su pesi preaddestrati di Qwen e mancano ancora validazioni indipendenti su larga scala. Se le prestazioni verranno confermate in ambienti reali, l’impatto potrebbe essere significativo per applicazioni enterprise che elaborano grandi quantità di testo, codice e documentazione.
I Paesi Bassi hanno avviato il progetto GPT-NL, un modello linguistico sviluppato interamente in Europa con l’obiettivo di ridurre la dipendenza dai grandi fornitori internazionali di intelligenza artificiale e rafforzare la sovranità digitale europea. L’iniziativa, sostenuta da un finanziamento pubblico di 13,5 milioni di euro e guidata da organizzazioni come TNO, SURF e il Netherlands Forensic Institute, punta su trasparenza, affidabilità e gestione etica dei dati. Il progetto prevede codice open source, documentazione dettagliata dei dataset e rigorose procedure per la tutela della privacy, del copyright e la mitigazione dei bias. Un elemento distintivo è il coinvolgimento diretto dei fornitori di contenuti attraverso un modello di reciprocità che prevede anche una redistribuzione del valore economico generato. GPT-NL rappresenta un tentativo ambizioso di dimostrare che l’AI generativa può essere sviluppata nel rispetto dei valori pubblici europei, pur confrontandosi con concorrenti che dispongono di risorse finanziarie enormemente superiori.
L’adozione dell’intelligenza artificiale nei servizi finanziari è in forte crescita, ma gli esperti avvertono che i modelli linguistici generativi come ChatGPT, Claude o Gemini non sono progettati per effettuare previsioni finanziarie affidabili. Secondo il fintech Axyon AI, gli LLM eccellono nell’analisi e nella sintesi di informazioni, ma soffrono di bias, allucinazioni e limiti strutturali quando devono prevedere l’andamento dei mercati. A conferma di ciò, un recente esperimento di trading autonomo tra diversi modelli AI ha mostrato che la maggior parte dei sistemi ha registrato perdite, con solo pochi risultati positivi. Il settore finanziario continua comunque a investire nell’IA, privilegiando applicazioni come ricerca, analisi dati, prevenzione delle frodi e supporto decisionale, mentre l’autonomia nelle decisioni di investimento rimane ancora molto limitata. La distinzione tra IA generativa e IA predittiva emerge quindi come un elemento chiave per comprendere il reale potenziale dell’intelligenza artificiale nella finanza.
