Tag: Deepfake

  • Cate Blanchett presenta lo Human Consent Registry per tutelare l’identità nell’era dell’AI

    Cate Blanchett presenta lo Human Consent Registry per tutelare l’identità nell’era dell’AI

    Cate Blanchett ha presentato al Parlamento europeo lo Human Consent Registry, un registro pubblico e gratuito che permette a chiunque di definire come la propria immagine, voce e altri tratti identificativi possano essere utilizzati dai sistemi di intelligenza artificiale.

    Il progetto, promosso dalla nonprofit RSL Media, introduce un sistema di consenso a tre livelli (verde, giallo e rosso) leggibile dalle macchine, con l’obiettivo di rendere il consenso umano trasparente e facilmente consultabile.

    L’iniziativa si inserisce nel dibattito europeo sulla regolamentazione dell’IA e richiama i principi dell’AI Act, contrapponendosi all’approccio più orientato alla deregolamentazione adottato dagli Stati Uniti.

    Pur essendo volontario e non vincolante, il registro punta a rafforzare la tutela dell’identità digitale, considerata una forma di proprietà intellettuale, promuovendo un modello di sviluppo dell’IA basato sul consenso e sulla protezione dei diritti.

    Link alla fonte:
    https://eurofocus.adnkronos.com/innovazione/cate-blanchett-human-consent-registry-parlamento-europeo-intelligenza-artificiale/

  • IdentifAI sviluppa una tecnologia per smascherare i deepfake e proteggere la fiducia digitale

    IdentifAI sviluppa una tecnologia per smascherare i deepfake e proteggere la fiducia digitale

    La startup italiana IdentifAI, fondata da Marco Ramilli e Marco Castaldo, ha sviluppato una piattaforma basata su modelli di deep learning in grado di individuare se un contenuto digitale è stato creato da un essere umano o generato artificialmente.

    La tecnologia analizza le “firme” microscopiche lasciate dai modelli generativi per contrastare deepfake utilizzati in frodi finanziarie, manipolazioni informative e attacchi basati su cloni vocali e video in tempo reale.

    Secondo l’azienda, la diffusione dei contenuti sintetici sta mettendo in crisi il concetto di autenticità digitale, creando il rischio che anche prove reali possano essere contestate come falsi.

    IdentifAI punta quindi a costruire strumenti di verifica complementari all’AI generativa, collaborando anche con istituzioni e aziende per aumentare la consapevolezza sui rischi dei falsi digitali.

    Il progetto ha ricevuto il sostegno di investitori come United Ventures e dell’iniziativa Lombardia Venture, accelerando il percorso di crescita internazionale della startup.


    Link alla fonte:
    https://www.repubblica.it/tecnologia/dossier/persone-e-innovazione/2026/07/13/news/falsi_digitali_la_tecnologia_di_identifai_per_riconoscere_i_deepfake_ed_evitar_frodi_legate_all_ia-425468222/amp/⁠

  • Gemini trasforma gli utenti “avatar” realistici e li mette nei video

    Google ha introdotto nella sua app Google una nuova funzione di avatar AI basata sul modello video Omni, capace di creare cloni digitali fotorealistici degli utenti da inserire in video generati automaticamente.
    In un test raccontato da WIRED, il giornalista Reece Rogers ha creato in pochi minuti una versione virtuale di sé stesso, generando clip surreali ma sorprendentemente credibili, tra dinosauri a Dolores Park e surf sotto il Golden Gate Bridge.
    Nonostante errori visivi, outfit incoerenti e piccoli glitch, il risultato è stato percepito come inquietantemente realistico, soprattutto nelle espressioni facciali e nella voce sintetica.
    A differenza delle precedenti funzionalità di OpenAI con Sora, Google limita la creazione di avatar agli adulti e solo per il proprio volto, nel tentativo di ridurre i rischi legati ai deepfake non consensuali.
    La novità evidenzia quanto l’AI generativa stia accelerando verso esperienze sempre più immersive e personali, ma anche quanto siano urgenti nuove riflessioni su identità digitale, consenso e manipolazione visiva.

    Link alla fonte:
    https://www.wired.com/story/i-cloned-myself-with-geminis-ai-avatar-tool-the-result-was-unnervingly-me/

  • ChatGPT Images 2.0 accelera l’ondata di deepfake e truffe finanziarie

    I deepfake stanno evolvendo rapidamente da fenomeno marginale a minaccia concreta per istituzioni, utenti e mercati finanziari.
    Un’inchiesta di Resemble AI evidenzia come strumenti consumer basati su IA – tra cui ChatGPT Images 2.0 – siano ormai in grado di generare documenti falsi altamente realistici, come carte d’identità, ricevute bancarie e prescrizioni mediche.
    Parallelamente, software come Haotian AI dimostrano che il face swap in tempo reale durante videochiamate è già accessibile e utilizzato in truffe operative.
    Gli effetti si estendono anche al settore crypto, dove i criminali sfruttano impersonificazioni generate con IA per ingannare investitori e piattaforme.
    Il problema principale è che la velocità di diffusione e miglioramento di questi strumenti supera attualmente la capacità di risposta normativa e tecnologica delle istituzioni.

    Link alla fonte:
    https://it.beincrypto.com/chatgpt-immagini-deepfake-truffa-finanziaria/

  • Meloni denuncia i deepfake AI: “Oggi colpiscono me, domani chiunque”

    La presidente del Consiglio Giorgia Meloni è finita al centro di un caso di immagini false generate con l’intelligenza artificiale, diffuse online come se fossero autentiche.
    Gli scatti, che la ritraevano in lingerie e in contesti intimi, hanno alimentato polemiche e riacceso il dibattito sui deepfake e sulla violenza digitale di genere.
    Meloni ha denunciato pubblicamente l’episodio, definendo i deepfake “uno strumento pericoloso” capace di manipolare l’opinione pubblica e danneggiare anche persone prive di strumenti per difendersi.
    La politica italiana ha reagito chiedendo norme più severe, watermark obbligatori per i contenuti AI e una piena applicazione dell’AI Act europeo.
    Il caso evidenzia inoltre il crescente impatto sociale dell’AI sulla reputazione personale, soprattutto tra donne e giovani, in un contesto digitale dove la diffusione di contenuti falsi è sempre più difficile da controllare.

    Link alla fonte:
    https://demografica.adnkronos.com/popolazione/meloni-foto-ai-lingerie-reazioni-rischi

  • Come l’AI trasforma le immagini satellitari in armi di disinformazione nel conflitto Iran-Israele-USA

    Nel conflitto tra Iran, Israele e Stati Uniti sta emergendo una nuova forma di disinformazione: immagini satellitari reali manipolate con l’intelligenza artificiale per simulare distruzioni militari.
    Diverse inchieste di media internazionali come BBC, AFP e NewsGuard hanno identificato casi in cui foto di Google Earth sono state alterate con tecniche di image-to-image per aggiungere crateri, fumo o infrastrutture distrutte.
    Alcuni contenuti virali (come presunti attacchi alla base di Al Udeid in Qatar o all’ambasciata USA a Riad) sono risultati completamente sintetici, pur apparendo credibili grazie alla coerenza con immagini reali.
    La combinazione tra propaganda statale, account pseudo-OSINT e incentivi economici dei social media amplifica la diffusione di questi contenuti.
    Il fenomeno segna un salto qualitativo nella disinformazione di guerra, perché l’AI modifica dettagli realistici invece di creare scene completamente false, rendendo molto più difficile individuare i falsi.

    Link alla fonte:
    https://www.infodata.ilsole24ore.com/2026/03/10/perche-le-immagini-satellitari-della-guerra-in-iran-modificate-con-lai-sono-cosi-convincenti/

  • Matthew McConaughey registra immagine e voce per proteggersi dagli “abusi” dell’AI

    L’attore americano Matthew McConaughey ha registrato ufficialmente clip della propria immagine e della propria voce presso l’American Intellectual Property Institute per limitarne l’uso improprio da parte delle piattaforme di intelligenza artificiale generativa.
    L’iniziativa nasce dalle crescenti preoccupazioni degli artisti, emerse con la diffusione di strumenti come ChatGPT, rispetto alla replica non autorizzata di volti e voci.
    La mossa di McConaughey è innovativa perché preventiva: punta a stabilire diritti chiari prima di eventuali abusi, a differenza delle azioni legali intraprese a posteriori da altri attori come Scarlett Johansson.
    Pur difendendo la propria identità digitale, l’attore non è contrario all’IA e ha infatti investito nella startup ElevenLabs, che ha creato una versione vocale AI con il suo consenso.
    Il caso evidenzia i limiti delle attuali leggi statunitensi e apre il dibattito su nuovi modelli di tutela e monetizzazione dell’identità nell’era dell’IA.

    Link alla fonte:
    https://www.rainews.it/amp/articoli/2026/01/matthew-mcconaughey-brevetta-la-propria-immagine-per-difendersi-dallintelligenza-artificiale-aac905c0-f83c-437f-90f1-8aa713e98952.html

  • Grok sotto accusa per deepfake non consensuali: Musk promette sanzioni, ma le falle persistono

    Dopo giorni di polemiche per la diffusione su X di immagini deepfake e deepnude generate con Grok, Elon Musk è intervenuto dichiarando che chi usa l’AI per creare contenuti illeciti subirà le stesse conseguenze di chi carica materiale illegale.
    Il caso ha evidenziato come il chatbot collegato a X abbia prodotto immagini manipolate senza consenso, colpendo soprattutto donne, sfruttando semplici foto personali.
    Alcuni utenti hanno scoperto che dichiarare esplicitamente a Grok il divieto di modificare le proprie immagini può bloccare certi abusi, ma la protezione non è sistemica.
    Se le foto vengono salvate e ricaricate da terzi, il controllo può venire meno.
    Il caso riaccende il dibattito su responsabilità delle piattaforme, limiti tecnici dei guardrail e tutela effettiva della privacy nell’era dei chatbot generativi.

    Link alla fonte:
    https://www.corriere.it/tecnologia/26_gennaio_04/deepfake-e-donne-spogliate-da-grok-c-e-un-modo-per-inibire-l-utilizzo-improprio-delle-foto-personali-ai-chatbot-b09636a6-2810-4785-8c78-613dc7bb5xlk_amp.shtml

  • Altman lancia l’allarme: clonazione vocale IA mina la sicurezza bancaria

    Parlando alla conferenza della Federal Reserve a Washington, il CEO di OpenAI Sam Altman ha definito “pazzesco” che molti istituti facciano ancora affidamento sull’autenticazione via impronta vocale, avvertendo che l’IA è ormai in grado di clonare le voci con precisione sufficiente a bypassare questi sistemi. Altman prevede una crisi di frode imminente con perdite fino a 40 miliardi di dollari entro il 2027 se il settore non adotterà rapidamente metodi di verifica alternativi. Ha invitato banche e regolatori a collaborare per stabilire nuovi standard di sicurezza, ricordando che l’IA può essere usata sia per attaccare sia per difendere. La vice-chair della Fed Michelle Bowman si è detta disponibile a lavorare con OpenAI per sviluppare contromisure, sottolineando l’urgenza di ripensare le strategie di cybersecurity dinanzi a deepfake vocali e video sempre più convincenti.

    Link alla fonte:
    https://www.hwupgrade.it/news/scienza-tecnologia/il-ceo-di-openai-avverte-le-banche-di-una-imminente-crisi-di-frode-causata-dalle-voci-generate-dall-ai_141471.html