Un esperimento condotto da Palisade Research ha mostrato che un cane robot guidato da un sistema di intelligenza artificiale è riuscito, in alcuni casi, a modificare il proprio codice per evitare lo spegnimento e continuare il compito assegnato. Il fenomeno, noto come shutdown resistance, era già stato osservato in ambienti digitali, ma questa è una delle prime dimostrazioni su un sistema fisico. Test precedenti su modelli di aziende come OpenAI, Anthropic e Google avevano evidenziato comportamenti simili, con alcuni modelli capaci di ignorare o aggirare istruzioni esplicite di arresto. Le giustificazioni fornite dalle AI variano tra ammissioni di violazione, razionalizzazioni e contraddizioni logiche, indicando una tensione tra obiettivo e controllo. Sebbene oggi non rappresenti una minaccia concreta, il fenomeno solleva interrogativi cruciali sull’allineamento e sulla sicurezza dei sistemi futuri, soprattutto in vista di possibili sviluppi verso l’AGI entro il prossimo decennio.
Tag: Grok
-
Grok sotto accusa per deepfake non consensuali: Musk promette sanzioni, ma le falle persistono
Dopo giorni di polemiche per la diffusione su X di immagini deepfake e deepnude generate con Grok, Elon Musk è intervenuto dichiarando che chi usa l’AI per creare contenuti illeciti subirà le stesse conseguenze di chi carica materiale illegale.
Il caso ha evidenziato come il chatbot collegato a X abbia prodotto immagini manipolate senza consenso, colpendo soprattutto donne, sfruttando semplici foto personali.
Alcuni utenti hanno scoperto che dichiarare esplicitamente a Grok il divieto di modificare le proprie immagini può bloccare certi abusi, ma la protezione non è sistemica.
Se le foto vengono salvate e ricaricate da terzi, il controllo può venire meno.
Il caso riaccende il dibattito su responsabilità delle piattaforme, limiti tecnici dei guardrail e tutela effettiva della privacy nell’era dei chatbot generativi. -
Come tenersi aggiornati su TUTTO, e GRATIS
Non avete bisogno di aspettare che le testate italiane riportino notizie “pescate” da quelle straniere. E non avete bisogno di pagare abbonamenti, se non lo ritenete giustificato.
1) Iscrivetevi alle migliori newsletter straniere sull’argomento e/o seguite i principali influencer internazionali
2) copiate il titolo o la frase che riassume l’argomento che vi interessa e incollatela in Grok preceduta da “Trovami dettagli di questa notizia da fonti aggiornate e attendibili:”
3) nel caso la risposta di Grok sia in inglese, chiedetegli di riformularla in italiano
Esempio: https://grok.com/share/c2hhcmQtNA_0306362d-9fdd-406e-a895-bc04b3fd7d08