E se per costruire agenti AI migliori non servissero modelli sempre più grandi? NVIDIA scommette su un’architettura che assegna a ogni modello solo il lavoro che sa fare meglio.
NVIDIA ha presentato Nemotron 3.5 Lightning, un modello open-weight progettato per rendere più veloci ed economici gli agenti AI che operano a lungo. Sacrifica parte delle capacità di ragionamento generale, ma supera modelli più grandi in velocità e in alcuni test dedicati alle attività agentiche.
I dettagli:
- Lightning conta 31,6 miliardi di parametri totali, ma ne attiva soltanto 3,6 miliardi per richiesta grazie a un’architettura ibrida Mamba-Transformer.
- Nei test di Artificial Analysis raggiunge quasi 670 token al secondo, contro i 386 di Gemini 3.5 Flash-Lite, risultando il modello più veloce tra quelli confrontati.
- Nei benchmark agentici supera sia Nemotron 3 Super sia gpt-oss-120b, ottenendo un punteggio Elo di 824 su GDPval-AA v2 e un successo del 24,3% su Terminal-Bench v2.1.
- Nell’intelligenza generale si ferma invece a 24 punti, dietro Nemotron 3 Super, Qwen3.6 35B A3B e Muse Glimmer di Meta.
- NVIDIA affianca al modello NeMo Switchyard, che assegna le richieste al modello più adatto: quelli più potenti gestiscono pianificazione e ragionamento complesso, mentre Lightning esegue le operazioni ripetitive ad alto volume.
Perché è importante: Lightning rafforza l’idea che gli agenti AI aziendali non richiedano un unico modello gigantesco, ma sistemi composti da modelli specializzati, selezionati in base al compito. Questa architettura può ridurre drasticamente costi e tempi di esecuzione, mettendo però in discussione gli investimenti infrastrutturali fondati sull’ipotesi che ogni attività debba essere affidata a modelli sempre più grandi. I confronti citati restano comunque da valutare con cautela, perché parte della tesi è sostenuta dalla stessa NVIDIA.
Fonte:
https://www.tomshw.it/business/nvidia-aggiorna-il-suo-llm-diventa-unopzione-sempre-piu-valida