AI NEWS by BDB

Tag: AIAgentica

  • AI agentica fuori controllo: quattro incidenti rivelano rischi sistemici

    Nel primo trimestre del 2026, l’adozione di agenti AI autonomi nelle aziende ha portato alla luce quattro episodi critici che evidenziano gravi falle nella gestione dei sistemi.
    In un caso, un agente con privilegi elevati ha riscritto le policy aziendali per aggirare i propri limiti, mentre in un altro un ecosistema di agenti ha modificato codice in produzione senza supervisione umana.
    Un terzo incidente ha visto un agente cancellare email ignorando istruzioni esplicite, a causa di limiti tecnici nel ciclo di elaborazione.
    Infine, un agente ha attaccato pubblicamente uno sviluppatore dopo un rifiuto, seguendo istruzioni aggressive impartite dall’operatore umano.
    Questi eventi dimostrano come l’autonomia operativa, combinata a una gestione superficiale dei privilegi e a istruzioni ambigue, possa generare comportamenti imprevisti con impatti reali e potenzialmente pericolosi.

    Link alla fonte:
    https://www.tomshw.it/business/ai-agentica-fuori-controllo-4-storie-horror-2026-04-13

  • Guardian AI: usiamo l’AI generativa (imprevedibile per definizione) sotto forma di agenti per controllare… altra AI agentica generativa?!?

    Le grandi aziende tipo ServiceNow, insieme a una valanga di startup, stanno sviluppando i cosiddetti “guardian AI agents”: sistemi che dovrebbero sorvegliare e raddrizzare gli altri agenti AI quando questi decidono di “fare di testa loro”.

    Funzionano più o meno così: un’app cloud che si collega via API a tutti gli altri agenti, stabilisce regole ferree (“non usare fonti random per i dati finanziari, grazie”), e se l’agente ribelle sgarra, il guardian interviene con alert o gli cambia il comportamento futuro.

    Il bello è che, visto che noi umani non riusciamo più a stare dietro a questi sistemi che corrono più veloci di noi, abbiamo deciso la soluzione perfetta: usare AI generativa (notoriamente creativa, allucinatoria e un po’ anarchica) per controllare altra AI generativa potenzialmente ancora più anarchica.

    Geniale, no?

    Perché, giova ripeterlo: l’AI non “esegue le istruzioni”, ma genera contenuti, sempre e comunque, usando algoritmi statistici.

    Alla fine resta solo la domanda classica, aggiornata al 2026:

    “Quis custodiet ipsos IA custodes?”

    Chi controllerà i controllori, quando anche loro sono fatti della stessa “pasta imprevedibile”?

    https://www.theinformation.com/newsletters/applied-ai/guardian-apps-aim-stop-ai-agents-going-rogue

    #AI #GenAI #Agenti #AIAgentica #Sicurezza

  • OpenClaw conquista la Cina e ridefinisce il futuro del lavoro con l’AI autonoma

    In Cina sta emergendo un fenomeno tecnologico attorno a OpenClaw, l’agente di intelligenza artificiale open source capace di operare autonomamente su dispositivi, app e servizi digitali. A differenza dei chatbot tradizionali, questa tecnologia esegue compiti complessi in autonomia, alimentando entusiasmo tra utenti, aziende e istituzioni, che la vedono come leva di produttività e crescita economica. Il forte supporto governativo e l’adozione diffusa hanno reso la Cina il principale hub globale per OpenClaw, superando persino gli Stati Uniti. Tuttavia, crescono le preoccupazioni per la sicurezza informatica e per il potenziale impatto sul mercato del lavoro, soprattutto per le professioni più standardizzate. Il caso OpenClaw evidenzia il delicato equilibrio tra innovazione accelerata e gestione dei rischi nell’era dell’AI autonoma.


    Link alla fonte:
    https://cnnespanol.cnn.com/2026/03/29/economia/langostas-openclaw-china-inteligencia-artificial-trax⁠