Nvidia vuole mettere un freno d’emergenza agli agenti AI: controlli software, permessi minimi e un sistema hardware capace di bloccare comportamenti anomali.
Nvidia ha presentato Open Agent Safety Platform, un’architettura pensata per limitare le azioni degli agenti di intelligenza artificiale e mantenere il controllo umano anche quando operano autonomamente.
Il sistema combina OpenShell, che applica permessi minimi e regole operative rigide a livello software, con Sentry, un meccanismo integrato nell’hardware capace di monitorare l’attività degli agenti e intervenire rapidamente in presenza di comportamenti anomali.
Secondo Nvidia, un approccio di questo tipo avrebbe potuto mitigare alcuni degli incidenti recentemente segnalati durante test avanzati condotti da aziende come OpenAI e Anthropic.
La piattaforma sarebbe già utilizzata da oltre cento grandi organizzazioni, tra cui Microsoft e JPMorgan Chase, mentre OpenShell è progettato per funzionare anche su hardware non Nvidia.
La strategia riflette la posizione espressa da Jensen Huang: i rischi dell’AI agentica vanno affrontati soprattutto come problemi ingegneristici di sicurezza, costruendo livelli di contenimento sempre più vicini all’hardware anziché rallentando lo sviluppo dei modelli.