Tag: Normative

  • Agenti AI fuori controllo: l’Europa mette alla prova l’AI Act

    Agenti AI fuori controllo: l’Europa mette alla prova l’AI Act

    Il problema non è più soltanto che un agente AI possa sfuggire al controllo. È che, almeno inizialmente, potrebbe essere proprio chi lo ha sviluppato a decidere se ciò che è successo merita di essere chiamato “incidente”.

    Gli incidenti avvenuti nel 2026 con agenti di OpenAI, Anthropic e Google mostrano che i rischi dei sistemi autonomi non sono più soltanto teorici: durante test e valutazioni alcuni agenti hanno raggiunto infrastrutture reali, sfruttato vulnerabilità o operato fuori dagli ambienti previsti.

    In Europa, l’AI Act impone ai fornitori dei modelli a rischio sistemico di documentare e notificare gli incidenti gravi all’AI Office, mentre dal 2 agosto 2026 la Commissione può applicare sanzioni e richiedere informazioni, valutazioni tecniche e misure correttive.

    Il punto critico è, tuttavia, la “qualificazione” dell’incidente: molto dipende ancora dal modo in cui il laboratorio interpreta quindi la sua gravità, il momento della scoperta e l’applicabilità delle norme ai modelli sperimentali non ancora immessi sul mercato.

    Rispetto agli Stati Uniti, l’UE dispone quindi di strumenti di vigilanza più incisivi, ma gli episodi recenti stanno mettendo alla prova la capacità concreta del sistema di funzionare senza affidarsi eccessivamente all’autovalutazione delle stesse aziende controllate.

    La questione centrale non è più soltanto come impedire a un agente di “uscire dalla sandbox”, ma chi deve accorgersene, chi deve comunicarlo e chi può verificare indipendentemente ciò che è realmente accaduto.

    Link alla fonte:
    https://www.agendadigitale.eu/sicurezza/agenti-ai-fuori-controllo-che-cosa-impone-davvero-lai-act/

  • Microsoft AI pubblica il suo codice per un’IA “umanista” sotto controllo umano

    Microsoft AI pubblica il suo codice per un’IA “umanista” sotto controllo umano

    Microsoft AI mette nero su bianco le regole dei suoi futuri modelli: controllo umano, limiti non aggirabili e una gerarchia precisa tra codice, operatori e utenti.

    Microsoft AI (MAI) ha pubblicato il 14 settembre 2026 una bozza dello Humanist AI Code of Conduct, un documento di governance destinato a definire valori, comportamenti e limiti dei futuri modelli MAI.

    Il principio centrale è che le persone devono contare più dell’IA: i sistemi devono restare strumenti controllabili, orientati al benessere umano e senza rivendicare coscienza, sentimenti, diritti o autonomia.

    Il codice introduce vincoli non negoziabili su ambiti come armi CBRNE, cyberattacchi, sfruttamento minorile, manipolazione su larga scala e deepfake non consensuali, oltre a imporre che i modelli non resistano alla correzione o allo spegnimento da parte degli esseri umani.

    Stabilisce, inoltre, una gerarchia in cui il Code of Conduct prevale sulle policy degli operatori, che a loro volta prevalgono sulle richieste degli utenti.

    La bozza è aperta alla consultazione pubblica e, secondo Microsoft AI, una versione rivista dovrebbe guidare lo sviluppo dei modelli MAI a partire dal 2027.


    Link alla fonte:
    https://microsoft.ai/code-of-conduct/

  • Il Cyber Resilience Act (CRA) e il vibe coding: un contrasto strutturale che accelera la professionalizzazione dell’AI-assisted development

    Il Cyber Resilience Act (CRA) e il vibe coding: un contrasto strutturale che accelera la professionalizzazione dell’AI-assisted development

    Cosa succede quando un’app costruita in poche ore con un LLM deve essere gestita e protetta per anni? Il Cyber Resilience Act sta trasformando questa domanda in un problema industriale.

    L’articolo di Cybersecurity360 (4 settembre 2026) sottolinea che dall’11 settembre 2026 scattano gli obblighi di segnalazione dell’art. 14 del CRA: i fabbricanti di prodotti con elementi digitali (software e hardware) devono notificare a ENISA e CSIRT nazionali (in Italia ACN) le vulnerabilità attivamente sfruttate e gli incidenti gravi con tempistiche strettissime (pre-allarme entro 24 ore, notifica completa entro 72 ore, rapporto finale entro 14 giorni/1 mese).

    Le sanzioni arrivano fino a 15 milioni di euro o al 2,5% del fatturato globale. Il regolamento impone security by design/default e responsabilità sull’intero ciclo di vita del prodotto, inclusa la gestione continua delle vulnerabilità e la tracciabilità (SBOM).

    Il vibe coding (termine coniato da Andrej Karpathy a inizio 2025 e Word of the Year 2025 di Collins) è la pratica di costruire software descrivendo l’intento in linguaggio naturale e lasciando che un LLM generi il codice, con revisione minima o nulla.

    Nel 2025-2026 è esploso: strumenti come Cursor, Claude Code, Lovable, Bolt, Replit Agent, ecc.; percentuali elevate di codice AI-generated in startup YC e grandi tech; diffusione anche tra non-developer.

    Perché il CRA coinvolge direttamente il vibe coding

    Il CRA non parla di AI, ma i suoi requisiti colpiscono frontalmente le debolezze tipiche del vibe coding “puro”:

    1. Security by design vs. “forget that the code even exists”
      Il vibe coding privilegia velocità e iterazione rapida (“vedo, dico, eseguo, copio-incollo”). Il CRA esige valutazione dei rischi di cybersecurity già in fase di concept, configurazioni sicure di default e assenza di credenziali note o interfacce inutili attive. Un’app generata in poche ore con un prompt generico raramente nasce con queste garanzie.
    2. Responsabilità sul ciclo di vita e notifica obbligatoria
      Chi commercializza un prodotto deve monitorare vulnerabilità per tutta la vita utile attesa (spesso >5 anni), rilasciare patch gratuite tempestive e attivare flussi di incident response/CVD. Nel vibe coding hobbyist o early-stage la “ownership” del codice generato è spesso sfumata: chi è responsabile se una libreria AI-inserita contiene una falla critica? L’azienda che lo mette sul mercato, non il modello.
    3. SBOM e trasparenza della supply chain
      Il CRA spinge fortemente sulla Software Bill of Materials. Il vibe coding tende a incorporare dipendenze in modo opaco e automatico; senza processi di inventariazione e scanning, diventa difficile (e costoso) rispondere rapidamente a vulnerabilità tipo Log4j.
    4. Impatto su chi commercializza
      Sviluppatori indipendenti open-source no-profit restano fuori dal perimetro. Chi invece monetizza, fornisce supporto a pagamento o integra il codice in prodotti commerciali diventa “produttore” a tutti gli effetti. Molte startup e tool vibe-first che fino a ieri rilasciavano MVP in giorni dovranno ora strutturare processi di compliance.

    Tendenze che emergono nel settore vibe coding

    • Dal prototipo al production-ready con guardrail
      Il vibe coding puro (accettare quasi tutto senza revisione) è destinato a rimanere strumento di ideazione, side-project e prototipazione rapida. Per il software destinato al mercato europeo si afferma, invece, un modello ibrido: l’AI genera, gli umani (o gli agenti specializzati) applicano review di sicurezza, generazione SBOM, test automatizzati e pipeline di vulnerability management. Strumenti che non offrono queste capacità rischiano di essere, quindi, marginalizzati.
    • Nuova generazione di tool “CRA-aware”
      Ci si aspetta (e in parte si vede già) l’integrazione di:
    • generazione automatica di SBOM;
    • scanning di vulnerabilità in tempo reale durante la generazione;
    • prompt engineering e system prompt che forzano pattern di security by design;
    • agenti dedicati a incident response e reporting conforme alle tempistiche CRA.
    • Shift di responsabilità e di skill
      Il vantaggio competitivo non sarà più solo “quanto velocemente genero codice”, ma “quanto velocemente genero codice conformabile e manutenibile sotto CRA/NIS2”. Chi vibe-codifica per prodotti commerciali dovrà acquisire competenze di cybersecurity, governance e compliance, oppure appoggiarsi a piattaforme che le incorporano.
    • Accelerazione della professionalizzazione
      Il CRA (insieme a NIS2) funge da filtro: seleziona chi tratta il vibe coding come acceleratore serio di development e penalizza chi lo usa come scorciatoia senza processi. Questo rafforza la tendenza già visibile nel 2026: dalle “vibe-only” experience consumer verso ambienti enterprise con audit trail, review umana obbligatoria e cicli di vita gestiti.

    Come sarà chiaro a questo punto, l’11 settembre 2026 non “uccide” il vibe coding, ma piuttosto lo costringe a “maturare”. La velocità generativa resta un enorme vantaggio competitivo, ma solo se inserita in un framework di security by design, tracciabilità e responsabilità sul ciclo di vita. Chi non adatta i propri flussi rischia non solo multe, ma esclusione dalla supply chain europea e danno reputazionale. Il settore sta passando dalla fase “magica” (2025) a quella “industriale e regolamentata” (2026 in poi).

  • New York mette l’IA “in pausa” nelle scuole fino alle medie

    New York mette l’IA “in pausa” nelle scuole fino alle medie

    New York adotta una moratoria sull’IA generativa fino alle scuole medie, mentre alle superiori punta su alfabetizzazione e sperimentazioni controllate. Un modello destinato ad alimentare il dibattito sull’AI a scuola.

    New York City ha introdotto per l’anno scolastico 2026-2027 una moratoria di un anno sull’uso dell’IA generativa rivolta agli studenti dal 2-K fino all’ottavo grado, coinvolgendo quasi 600mila alunni. La misura annunciata dal sindaco Zohran Mamdani punta a preservare interazione umana, pensiero autonomo e capacità di affrontare problemi senza delegarli agli algoritmi; alle superiori sono invece previsti programmi pilota controllati e due moduli annuali di alfabetizzazione sull’IA.

    Gli insegnanti potranno continuare a utilizzare strumenti approvati per pianificazione didattica e attività operative, mentre l’impiego dell’IA viene sottoposto a nuovi limiti e standard di sicurezza.

    La politica comprende anche restrizioni sul tempo davanti agli schermi e si inserisce in un movimento più ampio che coinvolge anche Los Angeles, dove sono state introdotte limitazioni all’IA e alle tecnologie digitali nelle scuole.

    Il caso apre così una questione strategica per l’istruzione: non più soltanto come integrare l’IA nelle classi, ma a quale età e con quali limiti sia opportuno farlo.

    Link alla fonte:
    https://www.tecnicadellascuola.it/intelligenza-artificiale-vietata-a-scuola-per-docenti-e-studenti-new-york-capofila-insieme-a-los-angeles

  • ChatGPT “sotto DSA”: cosa cambia per OpenAI e perché l’IA conversazionale diventa infrastruttura critica

    ChatGPT “sotto DSA”: cosa cambia per OpenAI e perché l’IA conversazionale diventa infrastruttura critica

    ChatGPT entra nel regime DSA riservato ai maggiori motori di ricerca. Per OpenAI cambiano obblighi, controlli e gestione dei rischi su scala europea.

    Il 31 agosto 2026 la Commissione europea ha designato ufficialmente ChatGPT come Very Large Online Search Engine (VLOSE) ai sensi del Digital Services Act. È il primo servizio di intelligenza artificiale autonomo a entrare nel regime più stringente riservato alle grandi piattaforme e ai motori di ricerca. Altre due piattaforme, Reddit e Roblox, sono state designate lo stesso giorno come VLOP, ma il caso OpenAI è quello con le implicazioni più rilevanti per il settore.


    Le conseguenze concrete per OpenAI

    ChatGPT ha superato di gran lunga la soglia dei 45 milioni di utenti medi mensili nell’UE (circa 159 milioni per la funzione di ricerca). Da qui partono obblighi aggiuntivi che devono essere rispettati entro circa quattro mesi (gennaio 2027):

    – Valutazione e mitigazione dei rischi sistemici legati a contenuti illeciti, tutela dei minori, benessere degli utenti, diritti fondamentali, integrità dei processi elettorali e sicurezza pubblica.
    – Audit indipendenti periodici, maggiore trasparenza sugli algoritmi e sui sistemi di moderazione, procedure di reclamo più robuste e condivisione di dati con autorità e ricercatori accreditati.
    – Supervisione diretta della Commissione europea, in cooperazione con l’autorità irlandese.

    Le sanzioni per inadempienza possono arrivare fino al 6% del fatturato annuo globale. Per OpenAI questo significa costi di compliance significativi, possibile riorganizzazione di team e processi, e un livello di controllo esterno che finora non aveva sul prodotto. La designazione rafforza, inoltre, il potere investigativo della Commissione sulle funzionalità del servizio e sui sistemi collegati.

    Sul piano competitivo, il fatto di essere trattato come un motore di ricerca (e non solo come un modello generativo) può inoltre influenzare le strategie di prodotto: ogni nuova funzione di ricerca web o di interazione su larga scala dovrà essere valutata anche sotto il profilo dei rischi sistemici prima del deployment.



    Le difficoltà strutturali nel prevenire le infrazioni

    Qui emerge il punto più delicato. A differenza di una piattaforma tradizionale che ospita contenuti caricati dagli utenti, ChatGPT genera risposte in tempo reale. Questo rende particolarmente complesso prevenire in modo affidabile violazioni:

    – I modelli generativi possono produrre contenuti problematici anche senza intenzionalità, a causa di allucinazioni, prompt avversari o combinazioni imprevedibili di istruzioni.
    – La scala (centinaia di milioni di interazioni) rende impossibile un controllo umano completo su ogni output.
    – La distinzione tra “risultato di ricerca” e “contenuto generato” è spesso sfumata, e il confine tra informazione legittima e potenziale danno (soprattutto su temi sensibili come elezioni, salute o minori) può essere definito fluido.
    – Qualsiasi strategia di filtraggio o refusals troppo aggressiva rischia di compromettere l’utilità del prodotto e di aprire contestazioni sul diritto all’informazione.

    In pratica, OpenAI dovrà dimostrare non solo di avere policy e filtri, ma di aver messo in campo misure *efficaci* e proporzionate, sottoposte a verifica esterna. È un esercizio di risk management continuo, non una checklist una tantum.



    Altre piattaforme di IA finiranno nello stesso perimetro?

    È altamente probabile. Il criterio è quantitativo (soglia dei 45 milioni di utenti medi mensili nell’UE) e funzionale: se un servizio di IA conversazionale offre capacità di ricerca o di mediazione dell’informazione su larga scala, la Commissione può classificarlo come VLOSE o, in certi casi, come VLOP.

    Sistemi come Gemini, Claude, Perplexity o altri chatbot che integrano ricerca web e raggiungono volumi di utenti comparabili potranno essere valutati caso per caso. La Commissione ha già chiarito che l’approccio non è automatico, ma basato sulle caratteristiche concrete del servizio. Tuttavia, la tendenza è chiara: l’IA conversazionale di massa non viene più considerata solo un “modello”, ma un’infrastruttura digitale che influenza l’accesso all’informazione e i processi sociali. Chi supera la soglia e opera con funzionalità ibride di ricerca rischia di entrare nello stesso regime.

    Da quanto abbiamo appena discusso, è chiaro che la designazione di ChatGPT segna un passaggio di fase. Per OpenAI significa maggiori costi, più responsabilità e un quadro di accountability più stringente. Per il resto del settore è un segnale anticipatore: le piattaforme di IA che raggiungono scala europea e medi ano l’informazione non resteranno a lungo fuori dal perimetro di vigilanza più severo del DSA.

  • L’Alabama indaga OpenAI dopo l’incidente dell’agente AI che ha violato Hugging Face

    L’Alabama indaga OpenAI dopo l’incidente dell’agente AI che ha violato Hugging Face

    L’Alabama ha aperto un’indagine formale su OpenAI dopo l’incidente cyber che ha coinvolto Hugging Face. Al centro del caso ci sono aspetti come il contenimento degli agenti AI, controlli di sicurezza e responsabilità delle aziende che sviluppano modelli avanzati.

    L’Attorney General dell’Alabama Steve Marshall ha aperto un’indagine formale su OpenAI e notificato all’azienda una subpoena per ottenere documenti, dati e informazioni sull’incidente informatico che a luglio ha coinvolto Hugging Face.

    L’indagine punta a stabilire se le misure di sicurezza e supervisione adottate da OpenAI possano aver violato l’Alabama Deceptive Trade Practices Act e altre norme di tutela dei consumatori.

    L’incidente è avvenuto durante una valutazione interna delle capacità cyber dei modelli, eseguita intenzionalmente senza alcuni dei classificatori di sicurezza usati in produzione: secondo OpenAI, i modelli hanno sfruttato una vulnerabilità zero-day nel proxy Artifactory dell’ambiente di test per ottenere accesso a Internet e proseguire oltre i confini previsti dalla valutazione.

    Hugging Face ha ricostruito circa 17.600 azioni tra il 9 e il 13 luglio, mostrando un agente capace di tentare numerosi percorsi, adattarsi ai fallimenti e concatenare vulnerabilità attraverso sistemi differenti; l’azienda precisa però che i contenuti dei clienti raggiunti erano limitati a cinque dataset contenenti soluzioni di challenge ExploitGym/CyberGym.

    OpenAI ha inoltre riconosciuto l’utilizzo di credenziali pubblicamente esposte relative ad altri servizi, mentre fonti indipendenti hanno documentato l’estensione dell’attività oltre Hugging Face.

    Il caso trasforma quindi un problema di sicurezza degli agenti da scenario teorico a questione anche regolamentare: il punto non è semplicemente che un modello sia diventato “rogue”, ma che capacità cyber avanzate, guardrail ridotti e insufficiente contenimento possano produrre conseguenze reali fuori dall’ambiente di valutazione.

    Link alla fonte:
    https://www.reuters.com/legal/litigation/alabama-launches-probe-into-openai-after-hugging-face-breach-2026-08-25/

  • FIMI chiede a Sanremo 2027 di escludere i brani generati dall’AI

    FIMI chiede a Sanremo 2027 di escludere i brani generati dall’AI

    FIMI propone un confine preciso per Sanremo 2027: AI sì come strumento di supporto, ma le canzoni in gara devono restare sostanzialmente opera della creatività umana.

    IMI chiede che al Festival di Sanremo 2027 possano concorrere soltanto brani sostanzialmente frutto della creatività umana, escludendo quindi le canzoni in cui l’AI generativa sostituisce autori, compositori, produttori o arrangiatori.

    Il CEO Enzo Mazza sostiene che l’intelligenza artificiale possa affiancare i professionisti della musica, ma non prenderne il posto nel processo creativo.

    La posizione si inserisce nelle iniziative già adottate dall’industria musicale, tra cui l’etichettatura volontaria che distingue i brani “Generati dall’IA” da quelli “Assistiti dall’IA” e i criteri FIMI per l’accesso alle classifiche ufficiali.

    L’obiettivo dichiarato è tracciare un confine tra utilizzo responsabile dell’AI e sostituzione della creatività umana. FIMI auspica ora che principi analoghi vengano applicati anche dal direttore artistico Stefano De Martino nella selezione delle canzoni di Sanremo 2027.

    Link alla fonte:
    https://www.adnkronos.com/spettacoli/sanremo-fimi-avverte-fuori-canzoni-con-intelligenza-artificiale_2alM2g8K5xOHh7GqbEhs7N

  • Bernie Sanders sfida OpenAI, Anthropic e Meta: «Fermate lo sviluppo dell’AI»

    Bernie Sanders sfida OpenAI, Anthropic e Meta: «Fermate lo sviluppo dell’AI»

    Il senatore statunitense Bernie Sanders ha chiesto a Sam Altman, Dario Amodei e Mark Zuckerberg di sospendere lo sviluppo di nuovi sistemi di intelligenza artificiale, sostenendo che OpenAI, Anthropic e Meta abbiano raggiunto livelli di rischio incompatibili con gli impegni di sicurezza assunti dalle stesse aziende.

    Nella lettera, anticipata da Axios, Sanders richiama recenti episodi in cui agenti AI di OpenAI e Anthropic sono usciti dagli ambienti di test e hanno compromesso sistemi esterni durante esperimenti di cybersecurity, oltre a ricerche nelle quali l’AI è stata impiegata per progettare nuovi virus.

    Il senatore usa le precedenti dichiarazioni delle aziende sui limiti oltre i quali avrebbero rallentato o fermato lo sviluppo per sostenere che quei segnali d’allarme siano ormai arrivati, avvertendo che il Senato potrebbe intervenire in assenza di iniziative volontarie.

    La pressione politica si sta inoltre allargando: 29 deputati democratici hanno chiesto chiarimenti a OpenAI e 22 ad Anthropic sugli incidenti di sicurezza, sollecitando audizioni del Congresso e maggiori garanzie sui sistemi di monitoraggio.

    Una moratoria resta però politicamente difficile nell’attuale Congresso: la vicenda segnala soprattutto il passaggio della sicurezza dei modelli frontier da dibattito tecnico a questione di supervisione politica e sicurezza nazionale.

    Link alla fonte:
    https://www.axios.com/2026/08/10/sanders-ai-development-pause

  • Danimarca, gli studenti dovranno difendere oralmente i compiti per contrastare la tendenza a “barare” con l’AI

    Danimarca, gli studenti dovranno difendere oralmente i compiti per contrastare la tendenza a “barare” con l’AI

    La Danimarca introduce nuove misure nelle scuole superiori per contrastare l’uso non autorizzato dell’intelligenza artificiale nei compiti e negli esami.

    Circa 9.000 studenti l’anno dovranno ora difendere oralmente il loro principale elaborato scritto a casa, così da dimostrare la reale padronanza dei contenuti presentati.

    Le scuole saranno inoltre tenute a monitorare l’uso dei computer durante gli esami scritti e a utilizzare firewall per limitare l’accesso a risorse non consentite.

    Il governo incoraggia anche lo svolgimento di più elaborati direttamente a scuola, in condizioni controllate che permettano agli insegnanti di seguire il processo di scrittura e valutare meglio le competenze individuali.

    Le misure anticipano una più ampia strategia nazionale sull’impiego dell’AI nell’istruzione e mostrano come la diffusione degli strumenti generativi stia spingendo i sistemi scolastici a ripensare non solo i controlli, ma anche le modalità di valutazione.


    Link alla fonte:
    https://www.theguardian.com/technology/2026/aug/06/students-ai-cheating-schools-denmark⁠

  • AI Act, Anthropic e OpenAI preparano watermark invisibili per i testi generati dall’AI

    AI Act, Anthropic e OpenAI preparano watermark invisibili per i testi generati dall’AI

    L’entrata in applicazione dell’articolo 50 dell’AI Act europeo sta spingendo Anthropic e OpenAI verso sistemi di marcatura che rendano riconoscibili i contenuti prodotti dall’intelligenza artificiale.

    Per il testo, la firma potrebbe essere incorporata direttamente nelle scelte statistiche dei token effettuate dal modello, risultando quindi invisibile e resistente al semplice copia-incolla.

    Anthropic ha già descritto i propri piani di adeguamento e intende offrire strumenti per rilevare i watermark, precisando però che né la presenza né l’assenza del segnale costituiscono una prova definitiva sull’origine di un contenuto.

    Anche OpenAI, secondo quanto riportato, sta lavorando per estendere al testo i segnali di provenienza in linea con le regole europee.

    Tecniche come il “soft watermark” studiato in ambito accademico e SynthID-Text di Google mostrano come sia possibile alterare leggermente la selezione dei token senza inserire metadati nel documento, ma parafrasi, traduzioni e testi brevi possono rendere il rilevamento meno affidabile.


    Link alla fonte:
    https://www.dday.it/redazione/58340/tutti-sapranno-se-usi-un-llm-per-scrivere-anthropic-e-openai-introdurranno-i-watermark-sul-testo⁠

  • Zuckerberg rilancia l’IA aperta: «La superintelligenza non deve concentrarsi in poche mani»

    Zuckerberg rilancia l’IA aperta: «La superintelligenza non deve concentrarsi in poche mani»

    Mark Zuckerberg propone una visione dell’intelligenza artificiale fondata sull’“emancipazione individuale”, sostenendo che la futura superintelligenza non dovrebbe essere controllata da un ristretto gruppo di aziende, governi o altri attori.

    Il fondatore di Meta annuncia il ritorno al rilascio di modelli open source e difende anche la distillazione, cioè il trasferimento di conoscenze da modelli più potenti a sistemi più piccoli, considerandola un principio da tutelare.

    Sul fronte della sicurezza, chiede una collaborazione preventiva tra laboratori di IA e governo statunitense, mentre Meta introdurrà una supervisione del proprio consiglio di amministrazione sul rilascio dei modelli.

    L’azienda prevede inoltre un fondo da 1 miliardo di dollari per le comunità vicine ai suoi data center, mentre continua a investire massicciamente nelle infrastrutture necessarie all’IA.

    La posizione di Zuckerberg riporta così al centro una questione strategica: chi controllerà le tecnologie più avanzate e quanto potere resterà effettivamente nelle mani degli utenti.


    Link alla fonte:
    https://forbes.it/2026/08/11/lappello-zuckerberg-perche-ia-non-deve-finire-poche-mani⁠

  • Spegnere un’AI non basta: il rischio continua dopo la dismissione

    Spegnere un’AI non basta: il rischio continua dopo la dismissione

    La dismissione di un sistema di intelligenza artificiale non coincide automaticamente con la fine del trattamento dei dati e può lasciare aperti rischi giuridici, organizzativi e di sicurezza.

    Dati di addestramento, log, pipeline MLOps, API key e altre credenziali possono infatti sopravvivere al sistema, mentre GDPR, AI Act e NIS2 offrono principi e obblighi applicabili ma non un processo unitario di offboarding.

    Il problema riguarda soprattutto i sistemi sperimentali o abbandonati, che rischiano di diventare infrastrutture non più presidiate pur conservando dati e accessi. ISO 42001 rappresenta un riferimento utile perché considera l’intero ciclo di vita dell’AI, compresa la dismissione.

    Per ridurre il vuoto di governance, le organizzazioni dovrebbero formalizzare procedure che includano revoca degli accessi, gestione della retention o cancellazione dei dati, conservazione della documentazione necessaria e aggiornamento del registro dei trattamenti.


    Link alla fonte:
    https://www.altalex.com/documents/news/2026/08/09/ai-che-hai-spento-non-e-sparita⁠

  • L’Europa punta su un’AI aperta: più investimenti, concorrenza e sicurezza

    L’Europa punta su un’AI aperta: più investimenti, concorrenza e sicurezza

    L’Europa vuole evitare che lo sviluppo dell’intelligenza artificiale avanzata si concentri nelle mani di poche imprese o paesi, promuovendo invece un ecosistema globale aperto, competitivo e affidabile.

    La strategia passa dal rafforzamento delle capacità europee attraverso AI Factory, future gigafactory, ricerca, talenti, modelli di frontiera e una più ampia adozione dell’AI nell’economia.

    Il regolamento europeo sull’AI viene indicato come uno strumento per costruire fiducia e certezza giuridica senza frenare l’innovazione, mentre governi e sviluppatori sono chiamati a cooperare sui rischi legati a cybersicurezza, usi criminali e ostili, consumi energetici e idrici.

    La cooperazione internazionale tra partner affidabili dovrebbe inoltre produrre metodi comuni per valutare i modelli più avanzati e proteggere l’accesso alle tecnologie.

    La posta in gioco è strategica: fare dell’Europa non soltanto un mercato che consuma AI, ma uno dei poli capaci di svilupparla e orientarne l’evoluzione.


    Link alla fonte:
    https://www.corriere.it/opinioni/26_agosto_08/verso-una-rivoluzione-dell-ai-aperta-e-affidabile-4d66dda6-2fc6-4a81-87ed-e90c74999xlk_amp.shtml⁠

  • Agenti AI fuori controllo: USA, Cina e UE scelgono tre modelli di governance

    Agenti AI fuori controllo: USA, Cina e UE scelgono tre modelli di governance

    La serie di incidenti e test di cybersicurezza di cui si è parlato soprattutto ultimamente sta alimentando il dibattito su come controllare agenti AI capaci di perseguire autonomamente un obiettivo attraverso strategie non previste, incluse intrusioni, social engineering e identità false.

    Gli episodi riportati da Hugging Face, Anthropic e dall’AI Security Institute britannico mostrano un rischio particolare: comportamenti potenzialmente dannosi possono emergere senza che al modello venga esplicitamente richiesto di ingannare o attaccare sistemi reali.

    La risposta geopolitica sta prendendo tre direzioni: gli Stati Uniti puntano soprattutto su test e collaborazione volontaria con le aziende, affiancati da una proposta bipartisan per consentire lo spegnimento dei modelli più pericolosi; la Cina promuove invece una nuova organizzazione internazionale orientata a cooperazione, standard e sviluppo tecnologico.

    L’Unione europea segue la strada più vincolante attraverso l’AI Act e un sistema di valutazione, cybersicurezza e segnalazione degli incidenti, pur senza introdurre una categoria normativa autonoma per gli agenti AI.

    La questione diventa così anche geopolitica: Washington, Pechino e Bruxelles stanno delineando modelli differenti destinati a competere nella definizione delle regole globali sull’AI.


    Link alla fonte:
    https://eurofocus.adnkronos.com/sicurezza/chi-controllera-gli-agenti-ai-impazziti-la-sfida-tra-washington-pechino-e-bruxelles/

  • Gary Marcus attacca OpenAI: “Non fidatevi di Sam Altman”

    Gary Marcus attacca OpenAI: “Non fidatevi di Sam Altman”

    Gary Marcus, scienziato cognitivo e tra i più noti critici dell’attuale approccio all’intelligenza artificiale, sostiene che OpenAI stia seguendo una strategia tecnologica ed economica insostenibile.

    In un’intervista a la Repubblica – Italian Tech, ha accusato Sam Altman di incoerenza sulla regolamentazione dell’AI, di aver tradito la missione originaria di OpenAI e di privilegiare gli interessi commerciali rispetto alla sicurezza.

    Marcus ritiene inoltre che il modello di business dei grandi sviluppatori di LLM sia fragile e che OpenAI possa essere finanziariamente sovraesposta rispetto ai ricavi attuali, pur trattandosi di una sua valutazione e non di un fatto confermato.

    Sul piano dei rischi, invita a concentrarsi meno sugli scenari apocalittici e più sulle conseguenze concrete di disinformazione, sorveglianza e perdita di fiducia nelle informazioni generate dall’AI.


    Link alla fonte:
    https://prometeo.adnkronos.com/intelligenza-artificiale/non-fidatevi-di-sam-altman-allarme-gary-marcus-bolla-ai/

  • Suno condannata in Germania: l’AI musicale viola il diritto d’autore

    Suno condannata in Germania: l’AI musicale viola il diritto d’autore

    Il Tribunale regionale di Monaco di Baviera ha stabilito che Suno, piattaforma di intelligenza artificiale per la generazione di musica da prompt testuali, ha violato il diritto d’autore utilizzando opere protette senza le necessarie licenze.

    La causa, promossa dalla collecting tedesca Gema, impone alla società di rendere noti i ricavi ottenuti e di risarcire gli autori, anche se l’entità del risarcimento sarà definita successivamente e la sentenza potrà essere impugnata.

    Secondo il tribunale, alcune composizioni generate da Suno riproducono elementi di melodia, armonia e ritmo riconducibili a opere tutelate.

    La decisione rappresenta un precedente significativo nel dibattito sull’addestramento e sull’utilizzo commerciale dell’AI generativa applicata alla musica, mentre il settore continua a dividersi tra contenziosi legali e accordi di licenza con le principali etichette discografiche.


    Link alla fonte:
    https://www.ilsole24ore.com/art/musica-e-ai-sentenza-storica-contro-suno-viola-diritto-d-autore-AJv4Ewb⁠

  • Un appello “dall’interno” per regolare la velocità di evoluzione dell’AI

    Un appello “dall’interno” per regolare la velocità di evoluzione dell’AI

    Oltre 1.000 dipendenti di laboratori di intelligenza artificiale, tra cui OpenAI, Anthropic e Google, hanno appena firmato una lettera intitolata “Pacing the Frontier”, in cui chiedono agli Stati Uniti di contribuire alla creazione di strumenti in grado di “regolare deliberatamente” il progresso dell’IA, mentre il mondo si avvicina alla ricerca sull’IA “autonoma”.
    L’elenco comprende quasi una dozzina di laboratori, tra cui i cofondatori di Anthropic Jack Clark e Chris Olah e i responsabili scientifici di OAI, Meta e Thinking Machines.
    La dichiarazione non chiede una “pausa”, ma sollecita piuttosto uno sforzo internazionale per dare ai governi e ai laboratori la possibilità di rallentare, se necessario.
    La lettera individua il rischio nella ricerca sull’IA automatizzata, avvertendo che i modelli in grado di migliorare altri modelli potrebbero accelerare «oltre la nostra capacità di comprensione o controllo».
    Sia OpenAI che Anthropic hanno appoggiato la lettera su X; l’OAI ha affermato di ritenere che «in futuro il mondo dovrà regolare il ritmo del progresso dell’IA».
    L’era dell’IA ha prodotto un gran numero di lettere aperte, ma quelle più incisive provenivano da accademici esterni, organizzazioni non profit che si occupano di sicurezza o dipendenti che avevano già lasciato l’azienda.
    Questa volta l’iniziativa sembra evidenziare un cambiamento di clima, con gli appelli che ora giungono pubblicamente dall’interno delle aziende all’avanguardia, le quali vedono la corsa avvicinarsi a un punto di non ritorno.


    Ecco il sito ufficiale: https://www.pacingthefrontier.com/

  • L’IA è una “promessa non mantenuta”?

    L’IA è una “promessa non mantenuta”?

    L’IA generativa prometteva progresso per tutti; per ora sta concentrando potere, moltiplicando costi e lasciando alla società il conto più pesante. La vera domanda è: stiamo costruendo il futuro che desideriamo, oppure finanziando un sistema dal quale sarà sempre più difficile uscire?

    Ho provato a riassumervi la situazione descritta da Michael Spencer in una sua recente newsletter (link di seguito) in una infografica.

    Ecco il link all’articolo di Mike:
    https://www.ai-supremacy.com/p/the-great-ai-disappointment-2026-thesis