Ricercatore Anthropic (ex OpenAI) si dimette: «La corsa alla superintelligenza sta giocando con le nostre vite»

Un ricercatore di Anthropic lascia l’azienda e denuncia una corsa troppo rischiosa verso l’AI capace di auto-migliorarsi. Intanto il dibattito sulla superintelligenza entra sempre più nelle agende politiche di Stati Uniti e Regno Unito.

Jacob Coxon, ricercatore che ha lavorato sul pretraining prima in OpenAI e poi in Anthropic, si è dimesso accusando i principali laboratori di AI di correre verso sistemi capaci di auto-migliorarsi senza garanzie sufficienti sulla sicurezza.

Il suo allarme è stato rafforzato da Evan Hubinger, alignment science lead di Anthropic, secondo cui esisterebbe una probabilità superiore al 10% che una futura superintelligenza possa causare l’estinzione umana entro il prossimo decennio; si tratta, naturalmente, di una valutazione di rischio, non di una previsione certa.

Le dichiarazioni arrivano mentre negli Stati Uniti e nel Regno Unito emergono proposte legislative per limitare o vietare lo sviluppo della superintelligenza e cresce la pressione per un coordinamento internazionale.

Guardian e TechCrunch (vedi link sotto il post) riportano anche posizioni più caute: diversi esperti contestano gli scenari catastrofici o ritengono più urgenti problemi già concreti come disinformazione, impatto sul lavoro, sicurezza informatica e costi ambientali.

Il punto centrale del dibattito diventa, quindi, se sia possibile continuare la corsa verso sistemi sempre più autonomi affidando principalmente ai laboratori privati la gestione di rischi potenzialmente sistemici.


Link alle fonti:
https://www.theguardian.com/technology/2026/sep/09/ai-superintelligence-risks-warnings-scientists-politicians⁠

https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai


Scopri di più da AI NEWS by BDB

Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.