Tag: Deepfake

  • Gemini trasforma gli utenti “avatar” realistici e li mette nei video

    Google ha introdotto nella sua app Google una nuova funzione di avatar AI basata sul modello video Omni, capace di creare cloni digitali fotorealistici degli utenti da inserire in video generati automaticamente.
    In un test raccontato da WIRED, il giornalista Reece Rogers ha creato in pochi minuti una versione virtuale di sé stesso, generando clip surreali ma sorprendentemente credibili, tra dinosauri a Dolores Park e surf sotto il Golden Gate Bridge.
    Nonostante errori visivi, outfit incoerenti e piccoli glitch, il risultato è stato percepito come inquietantemente realistico, soprattutto nelle espressioni facciali e nella voce sintetica.
    A differenza delle precedenti funzionalità di OpenAI con Sora, Google limita la creazione di avatar agli adulti e solo per il proprio volto, nel tentativo di ridurre i rischi legati ai deepfake non consensuali.
    La novità evidenzia quanto l’AI generativa stia accelerando verso esperienze sempre più immersive e personali, ma anche quanto siano urgenti nuove riflessioni su identità digitale, consenso e manipolazione visiva.

    Link alla fonte:
    https://www.wired.com/story/i-cloned-myself-with-geminis-ai-avatar-tool-the-result-was-unnervingly-me/

  • ChatGPT Images 2.0 accelera l’ondata di deepfake e truffe finanziarie

    I deepfake stanno evolvendo rapidamente da fenomeno marginale a minaccia concreta per istituzioni, utenti e mercati finanziari.
    Un’inchiesta di Resemble AI evidenzia come strumenti consumer basati su IA – tra cui ChatGPT Images 2.0 – siano ormai in grado di generare documenti falsi altamente realistici, come carte d’identità, ricevute bancarie e prescrizioni mediche.
    Parallelamente, software come Haotian AI dimostrano che il face swap in tempo reale durante videochiamate è già accessibile e utilizzato in truffe operative.
    Gli effetti si estendono anche al settore crypto, dove i criminali sfruttano impersonificazioni generate con IA per ingannare investitori e piattaforme.
    Il problema principale è che la velocità di diffusione e miglioramento di questi strumenti supera attualmente la capacità di risposta normativa e tecnologica delle istituzioni.

    Link alla fonte:
    https://it.beincrypto.com/chatgpt-immagini-deepfake-truffa-finanziaria/

  • Meloni denuncia i deepfake AI: “Oggi colpiscono me, domani chiunque”

    La presidente del Consiglio Giorgia Meloni è finita al centro di un caso di immagini false generate con l’intelligenza artificiale, diffuse online come se fossero autentiche.
    Gli scatti, che la ritraevano in lingerie e in contesti intimi, hanno alimentato polemiche e riacceso il dibattito sui deepfake e sulla violenza digitale di genere.
    Meloni ha denunciato pubblicamente l’episodio, definendo i deepfake “uno strumento pericoloso” capace di manipolare l’opinione pubblica e danneggiare anche persone prive di strumenti per difendersi.
    La politica italiana ha reagito chiedendo norme più severe, watermark obbligatori per i contenuti AI e una piena applicazione dell’AI Act europeo.
    Il caso evidenzia inoltre il crescente impatto sociale dell’AI sulla reputazione personale, soprattutto tra donne e giovani, in un contesto digitale dove la diffusione di contenuti falsi è sempre più difficile da controllare.

    Link alla fonte:
    https://demografica.adnkronos.com/popolazione/meloni-foto-ai-lingerie-reazioni-rischi

  • Come l’AI trasforma le immagini satellitari in armi di disinformazione nel conflitto Iran-Israele-USA

    Nel conflitto tra Iran, Israele e Stati Uniti sta emergendo una nuova forma di disinformazione: immagini satellitari reali manipolate con l’intelligenza artificiale per simulare distruzioni militari.
    Diverse inchieste di media internazionali come BBC, AFP e NewsGuard hanno identificato casi in cui foto di Google Earth sono state alterate con tecniche di image-to-image per aggiungere crateri, fumo o infrastrutture distrutte.
    Alcuni contenuti virali (come presunti attacchi alla base di Al Udeid in Qatar o all’ambasciata USA a Riad) sono risultati completamente sintetici, pur apparendo credibili grazie alla coerenza con immagini reali.
    La combinazione tra propaganda statale, account pseudo-OSINT e incentivi economici dei social media amplifica la diffusione di questi contenuti.
    Il fenomeno segna un salto qualitativo nella disinformazione di guerra, perché l’AI modifica dettagli realistici invece di creare scene completamente false, rendendo molto più difficile individuare i falsi.

    Link alla fonte:
    https://www.infodata.ilsole24ore.com/2026/03/10/perche-le-immagini-satellitari-della-guerra-in-iran-modificate-con-lai-sono-cosi-convincenti/

  • Matthew McConaughey registra immagine e voce per proteggersi dagli “abusi” dell’AI

    L’attore americano Matthew McConaughey ha registrato ufficialmente clip della propria immagine e della propria voce presso l’American Intellectual Property Institute per limitarne l’uso improprio da parte delle piattaforme di intelligenza artificiale generativa.
    L’iniziativa nasce dalle crescenti preoccupazioni degli artisti, emerse con la diffusione di strumenti come ChatGPT, rispetto alla replica non autorizzata di volti e voci.
    La mossa di McConaughey è innovativa perché preventiva: punta a stabilire diritti chiari prima di eventuali abusi, a differenza delle azioni legali intraprese a posteriori da altri attori come Scarlett Johansson.
    Pur difendendo la propria identità digitale, l’attore non è contrario all’IA e ha infatti investito nella startup ElevenLabs, che ha creato una versione vocale AI con il suo consenso.
    Il caso evidenzia i limiti delle attuali leggi statunitensi e apre il dibattito su nuovi modelli di tutela e monetizzazione dell’identità nell’era dell’IA.

    Link alla fonte:
    https://www.rainews.it/amp/articoli/2026/01/matthew-mcconaughey-brevetta-la-propria-immagine-per-difendersi-dallintelligenza-artificiale-aac905c0-f83c-437f-90f1-8aa713e98952.html

  • Grok sotto accusa per deepfake non consensuali: Musk promette sanzioni, ma le falle persistono

    Dopo giorni di polemiche per la diffusione su X di immagini deepfake e deepnude generate con Grok, Elon Musk è intervenuto dichiarando che chi usa l’AI per creare contenuti illeciti subirà le stesse conseguenze di chi carica materiale illegale.
    Il caso ha evidenziato come il chatbot collegato a X abbia prodotto immagini manipolate senza consenso, colpendo soprattutto donne, sfruttando semplici foto personali.
    Alcuni utenti hanno scoperto che dichiarare esplicitamente a Grok il divieto di modificare le proprie immagini può bloccare certi abusi, ma la protezione non è sistemica.
    Se le foto vengono salvate e ricaricate da terzi, il controllo può venire meno.
    Il caso riaccende il dibattito su responsabilità delle piattaforme, limiti tecnici dei guardrail e tutela effettiva della privacy nell’era dei chatbot generativi.

    Link alla fonte:
    https://www.corriere.it/tecnologia/26_gennaio_04/deepfake-e-donne-spogliate-da-grok-c-e-un-modo-per-inibire-l-utilizzo-improprio-delle-foto-personali-ai-chatbot-b09636a6-2810-4785-8c78-613dc7bb5xlk_amp.shtml

  • Altman lancia l’allarme: clonazione vocale IA mina la sicurezza bancaria

    Parlando alla conferenza della Federal Reserve a Washington, il CEO di OpenAI Sam Altman ha definito “pazzesco” che molti istituti facciano ancora affidamento sull’autenticazione via impronta vocale, avvertendo che l’IA è ormai in grado di clonare le voci con precisione sufficiente a bypassare questi sistemi. Altman prevede una crisi di frode imminente con perdite fino a 40 miliardi di dollari entro il 2027 se il settore non adotterà rapidamente metodi di verifica alternativi. Ha invitato banche e regolatori a collaborare per stabilire nuovi standard di sicurezza, ricordando che l’IA può essere usata sia per attaccare sia per difendere. La vice-chair della Fed Michelle Bowman si è detta disponibile a lavorare con OpenAI per sviluppare contromisure, sottolineando l’urgenza di ripensare le strategie di cybersecurity dinanzi a deepfake vocali e video sempre più convincenti.

    Link alla fonte:
    https://www.hwupgrade.it/news/scienza-tecnologia/il-ceo-di-openai-avverte-le-banche-di-una-imminente-crisi-di-frode-causata-dalle-voci-generate-dall-ai_141471.html