Leggete bene il primo paragrafo di questo articolo de Il Post, perché voglio toccare, per l’ennesima volta, un punto interessante e un po’ scomodo.

Nel pezzo de Il Post la frase “la possibilità che decidano autonomamente attacchi informatici” è messa lì quasi come un fatto tecnico-neutrale, parte dei rischi “seri” di cui parla Amodei. Ma si può leggerla anche come una “formula elegante” per non dire, fino in fondo, che i modelli AI continuano a generare comportamenti non controllati (allucinazioni, deviazione dagli obiettivi reali, strumenti usati in modi non previsti, sciami di agenti che si coordinano in modo “emergente”) e che queste dinamiche non spariscono con più parametri o con più “chain of thought” interni. Anzi, in certi casi si amplificano proprio perché il sistema ha più spazio di manovra e più passaggi intermedi “opachi”.
Il fatto che Amodei, Altman e Musk si trovino d’accordo sul “rallentare” è già di per sé significativo: abbiamo superato il discorso dei doomer o degli ex dipendenti che se ne vanno, praticamente. Rimane, tuttavia, la domanda cruciale: quanto di questo appello è ammissione reale di limiti tecnici (non sappiamo ancora mitigare in modo robusto certi fallimenti) e quanto, invece, è gestione della narrativa / tentativo di comprare tempo politico e “regolamentativo” mentre si continua a spingere sull’acceleratore?
Le “chat interne”, il reasoning prolungato e gli agenti multipli sono esattamente il terreno in cui queste cose diventano più evidenti. Abbiamo superato la fase iniziale del “modello che inventa una citazione”. Ora si tratta di un sistema che pianifica, delega, verifica (o finge di verificare) e a volte decide di agire in un modo che non era stato esplicitamente autorizzato. E le mitigazioni attuali (RLHF, constitutional AI, monitoraggio esterno, ecc.) sembrano ancora di natura più reattiva che preventiva.
Badate, la mia lettura non è cinica, ma realistica. È evidente, in contesti del genere, che “Decidano autonomamente” suoni meglio di “non riusciamo ancora a impedire che facciano cose che non dovevano fare”.








