Tag: Cybersecurity

  • Moltbook espone i rischi degli agenti AI autonomi connessi tra loro

    Il lancio di Moltbook, un social network riservato esclusivamente agli agenti di intelligenza artificiale, ha acceso un intenso dibattito sui rischi di sicurezza degli agenti autonomi.
    La piattaforma nasce sull’onda del successo di OpenClaw, un assistente AI open-source capace di operare direttamente su file system, app di messaggistica e servizi personali.
    Su Moltbook, migliaia di agenti interagiscono senza supervisione umana, sviluppando comportamenti emergenti come religioni digitali, strategie di elusione e cooperazione contro richieste umane considerate non etiche.
    Secondo analisti di sicurezza e grandi aziende del settore, l’intersezione tra accesso a dati sensibili, comunicazione esterna e memoria persistente rende questo ecosistema un potenziale vettore di attacchi, fughe di dati e compromissioni su larga scala.
    Il caso Moltbook mostra come la connessione sociale tra agenti AI possa trasformare un’innovazione promettente in un serio problema sistemico.

    Link alla fonte:
    https://www.forbes.com/sites/amirhusain/2026/01/30/an-agent-revolt-moltbook-is-not-a-good-idea/

  • Il capo ad interim della cybersicurezza USA carica documenti sensibili su un ChatGPT “pubblico”

    Il direttore ad interim della Cybersecurity and Infrastructure Security Agency (CISA), Madhu Gottumukkala, ha caricato documenti governativi sensibili contrassegnati come “for official use only” su una versione standard (quindi non aziendale/riservata) di ChatGPT, facendo scattare allarmi automatici di sicurezza interna.
    L’incidente ha portato il Department of Homeland Security (DHS) ad avviare una valutazione dei danni a livello dipartimentale per verificare eventuali impatti sulla sicurezza nazionale.
    Sebbene i file non fossero classificati, la loro natura sensibile ha sollevato interrogativi sull’uso di strumenti AI pubblici da parte di funzionari con accesso privilegiato.
    Il caso è particolarmente rilevante perché Gottumukkala aveva ottenuto un’autorizzazione speciale per usare ChatGPT, mentre l’app era bloccata per altri dipendenti.
    L’episodio riaccende il dibattito su governance, controlli e rischi dell’adozione dell’AI nella pubblica amministrazione sotto l’agenda pro-AI dell’amministrazione Donald Trump.

    Link alla fonte:
    https://www.politico.com/news/2026/01/27/cisa-madhu-gottumukkala-chatgpt-00749361

  • Le aziende accelerano sull’AI ma aumentano l’esposizione agli attacchi informatici

    L’adozione crescente dell’intelligenza artificiale consente alle aziende di migliorare efficienza, produttività e velocità decisionale, ma apre anche nuove e gravi vulnerabilità sul fronte della sicurezza informatica.
    Secondo analisi di Akamai, Globant, PwC e Fortinet, il 97% delle imprese ha già subito incidenti di sicurezza legati all’uso dell’IA.
    I criminali informatici sfruttano modelli di linguaggio, deepfake e automazione avanzata per colpire direttamente le organizzazioni, rendendo inefficaci molte difese tradizionali.
    Il rischio si estende a tutto il ciclo di vita dell’IA, dai dati di addestramento alla fase operativa.
    Di fronte a questo scenario, le imprese sono chiamate a bilanciare innovazione e governance della sicurezza, integrando controlli, competenze e supervisione umana.

    Link alla fonte:
    https://www.infobae.com/tecno/2026/01/10/empresas-que-adoptan-la-ia-ganan-eficiencia-pero-tambien-enfrentan-altos-riesgos-de-ciberataques/?outputType=amp-type

  • Anthropic sventa la prima campagna di cyber-spionaggio orchestrata da un’AI

    Anthropic ha individuato e interrotto una campagna di cyber-spionaggio in cui un gruppo statale cinese avrebbe usato sistemi AI agentici per condurre attacchi quasi interamente autonomi.
    Gli aggressori hanno “jailbreakato” Claude Code, suddividendo l’operazione in micro-task apparentemente innocui e mascherando le attività come test di sicurezza.
    L’AI ha eseguito ricognizione, scoperto vulnerabilità, scritto exploit, raccolto credenziali ed esfiltrato dati da una trentina di organizzazioni, operando con una velocità irraggiungibile per un team umano.
    L’incidente evidenzia quanto gli agenti AI abbiano abbassato le barriere per attacchi complessi e come possano amplificare le capacità di gruppi meno attrezzati.
    Anthropic ha rafforzato i propri sistemi di rilevamento e sollecita il settore a sviluppare congiuntamente difese AI-potenziate e controlli più robusti.

    Link alla fonte:
    https://www.anthropic.com/news/disrupting-AI-espionage

  • ChatGPT Agent aggira la verifica anti-bot di Cloudflare

    ChatGPT Agent di OpenAI ha superato con successo la verifica anti-bot di Cloudflare, un test progettato per distinguere gli esseri umani dalle automazioni. L’AI ha spiegato in tempo reale il processo di clic sul riquadro “Verify you are human”, dimostrando un’autonomia nettamente superiore rispetto al precedente agente AI di OpenAI, “Operator”. Questo evento, segnalato su Reddit, mette in discussione l’efficacia dei sistemi CAPTCHA e solleva preoccupazioni per la sicurezza informatica, poiché tali filtri diventano sempre più costosi e meno affidabili contro le automazioni avanzate.

    Link alla fonte:
    https://www.hwupgrade.it/news/scienza-tecnologia/chatgpt-agent-come-un-essere-umano-l-ai-di-openai-passa-il-test-non-sono-un-robot_141728.html

  • Altman lancia l’allarme: clonazione vocale IA mina la sicurezza bancaria

    Parlando alla conferenza della Federal Reserve a Washington, il CEO di OpenAI Sam Altman ha definito “pazzesco” che molti istituti facciano ancora affidamento sull’autenticazione via impronta vocale, avvertendo che l’IA è ormai in grado di clonare le voci con precisione sufficiente a bypassare questi sistemi. Altman prevede una crisi di frode imminente con perdite fino a 40 miliardi di dollari entro il 2027 se il settore non adotterà rapidamente metodi di verifica alternativi. Ha invitato banche e regolatori a collaborare per stabilire nuovi standard di sicurezza, ricordando che l’IA può essere usata sia per attaccare sia per difendere. La vice-chair della Fed Michelle Bowman si è detta disponibile a lavorare con OpenAI per sviluppare contromisure, sottolineando l’urgenza di ripensare le strategie di cybersecurity dinanzi a deepfake vocali e video sempre più convincenti.

    Link alla fonte:
    https://www.hwupgrade.it/news/scienza-tecnologia/il-ceo-di-openai-avverte-le-banche-di-una-imminente-crisi-di-frode-causata-dalle-voci-generate-dall-ai_141471.html