La serie di incidenti e test di cybersicurezza di cui si è parlato soprattutto ultimamente sta alimentando il dibattito su come controllare agenti AI capaci di perseguire autonomamente un obiettivo attraverso strategie non previste, incluse intrusioni, social engineering e identità false.
Gli episodi riportati da Hugging Face, Anthropic e dall’AI Security Institute britannico mostrano un rischio particolare: comportamenti potenzialmente dannosi possono emergere senza che al modello venga esplicitamente richiesto di ingannare o attaccare sistemi reali.
La risposta geopolitica sta prendendo tre direzioni: gli Stati Uniti puntano soprattutto su test e collaborazione volontaria con le aziende, affiancati da una proposta bipartisan per consentire lo spegnimento dei modelli più pericolosi; la Cina promuove invece una nuova organizzazione internazionale orientata a cooperazione, standard e sviluppo tecnologico.
L’Unione europea segue la strada più vincolante attraverso l’AI Act e un sistema di valutazione, cybersicurezza e segnalazione degli incidenti, pur senza introdurre una categoria normativa autonoma per gli agenti AI.
La questione diventa così anche geopolitica: Washington, Pechino e Bruxelles stanno delineando modelli differenti destinati a competere nella definizione delle regole globali sull’AI.
Link alla fonte:
https://eurofocus.adnkronos.com/sicurezza/chi-controllera-gli-agenti-ai-impazziti-la-sfida-tra-washington-pechino-e-bruxelles/