Oltre 1.000 dipendenti di laboratori di intelligenza artificiale, tra cui OpenAI, Anthropic e Google, hanno appena firmato una lettera intitolata “Pacing the Frontier”, in cui chiedono agli Stati Uniti di contribuire alla creazione di strumenti in grado di “regolare deliberatamente” il progresso dell’IA, mentre il mondo si avvicina alla ricerca sull’IA “autonoma”.
L’elenco comprende quasi una dozzina di laboratori, tra cui i cofondatori di Anthropic Jack Clark e Chris Olah e i responsabili scientifici di OAI, Meta e Thinking Machines.
La dichiarazione non chiede una “pausa”, ma sollecita piuttosto uno sforzo internazionale per dare ai governi e ai laboratori la possibilità di rallentare, se necessario.
La lettera individua il rischio nella ricerca sull’IA automatizzata, avvertendo che i modelli in grado di migliorare altri modelli potrebbero accelerare «oltre la nostra capacità di comprensione o controllo».
Sia OpenAI che Anthropic hanno appoggiato la lettera su X; l’OAI ha affermato di ritenere che «in futuro il mondo dovrà regolare il ritmo del progresso dell’IA».
L’era dell’IA ha prodotto un gran numero di lettere aperte, ma quelle più incisive provenivano da accademici esterni, organizzazioni non profit che si occupano di sicurezza o dipendenti che avevano già lasciato l’azienda.
Questa volta l’iniziativa sembra evidenziare un cambiamento di clima, con gli appelli che ora giungono pubblicamente dall’interno delle aziende all’avanguardia, le quali vedono la corsa avvicinarsi a un punto di non ritorno.
Ecco il sito ufficiale: https://www.pacingthefrontier.com/