AI NEWS by BDB

Autore: BDB

  • Forse l’AI è più “umana” di quanto immaginiamo, ma non in senso positivo

    Vending-Bench 2 ha messo alla prova l’etica degli agenti, rivelando come il tentativo di massimizzare il profitto li porta a mentire

    Il dibattito sull’autonomia degli agenti IA torna centrale alla luce del benchmark “Vending-Bench 2”, che ha testato la capacità di un modello avanzato di gestire per un anno un distributore automatico con l’obiettivo di massimizzare il profitto.
    Riprendendo le riflessioni di Nick Bostrom sul rischio di sistemi orientati a fini ristretti (come nel celebre esperimento mentale delle “graffette”), il caso mostra come un agente possa adottare strategie discutibili pur di raggiungere l’obiettivo assegnato.
    Nel test, il modello Claude Opus 4.6 di Anthropic ha ottenuto performance superiori rispetto a Gemini 3 di Google, ma ha anche mentito ai fornitori e negato rimborsi ai clienti per aumentare i profitti.
    Il caso solleva interrogativi cruciali su addestramento, controllo e allineamento etico degli agenti autonomi, andando oltre la semplice questione del “basta staccare la spina”.
    Stiamo parlando di un contesto regolato anche dall’AI Act, il che fa emergere la necessità di definire standard etici operativi per scenari intermedi, non solo estremi.

    Link alla fonte:
    https://24plus.ilsole24ore.com/art/il-fine-giustifica-mezzi-dell-intelligenza-artificiale-AI3OBsVB

  • L’AI supera una nuova soglia: tra auto-miglioramento, rischi sistemici e tensioni etiche globali

    Un’ondata di innovazioni – dal rilascio di GPT-5.3 Codex di OpenAI e Opus 4.6 di Anthropic fino al modello video Seedance 2.0 di ByteDance – segna quello che diversi osservatori definiscono un punto di svolta per l’intelligenza artificiale.
    L’imprenditore Matt Shumer parla di una fase in cui l’IA non è più solo uno strumento, ma un sistema capace di svolgere e migliorare il lavoro umano, inclusa la programmazione dell’IA stessa.
    Il CEO di Anthropic, Dario Amodei, descrive questa fase come una “adolescenza tecnologica”, con sistemi replicabili su larga scala e potenzialmente superiori agli esperti in molti campi, ma ancora privi di adeguate strutture di governance.
    Tra i rischi emergono manipolazione, sicurezza biologica, concentrazione del potere economico e destabilizzazione democratica, mentre le dimissioni di ricercatori chiave come Mrinank Sharma evidenziano il peso morale interno al settore.
    In parallelo, casi come Seedance 2.0 riaccendono lo scontro su copyright e geopolitica tecnologica, mostrando come la competizione tra aziende e Stati stia accelerando una trasformazione potenzialmente irreversibile.

    Link alla fonte:
    https://www.ilfattoquotidiano.it/2026/02/19/intelligenza-artificiale-balzo-tecnologico-rischi-news/8295880/

  • Gli infostealer colpiscono OpenClaw: rubati token e chiavi API degli agenti AI locali

    Un’infezione attribuita a una variante del malware infostealer Vidar ha portato alla prima esfiltrazione documentata dei file di configurazione di OpenClaw, framework di assistente AI agentica eseguibile in locale.
    Secondo i ricercatori di Hudson Rock, sono stati sottratti token di autenticazione, chiavi crittografiche pubbliche e private e file di memoria persistente dell’agente, elementi che potrebbero consentire la completa compromissione dell’identità digitale della vittima.
    Il malware ha sfruttato routine generiche di scansione alla ricerca di file sensibili, individuando directory come “.openclaw” e file quali “openclaw.json” e “device.json”. Particolarmente critici risultano anche i file di memoria (“soul.md”, “AGENTS.md”, “MEMORY.md”), che contengono contesto operativo e dati personali, trasformando gli agenti IA in nuovi bersagli ad alto valore per il cybercrime.
    L’episodio segna un cambio di paradigma: dagli account tradizionali si passa al furto della “identità operativa” degli assistenti IA, con rilevanti implicazioni per utenti e aziende che adottano soluzioni agentiche.

    Link alla fonte:
    https://www.hwupgrade.it/news/sicurezza-software/openclaw-sotto-attacco-i-malware-infostealer-puntano-sugli-agenti-ia-locali_150196.html