Tag: HuggingFace

  • L’Alabama indaga OpenAI dopo l’incidente dell’agente AI che ha violato Hugging Face

    L’Alabama indaga OpenAI dopo l’incidente dell’agente AI che ha violato Hugging Face

    L’Alabama ha aperto un’indagine formale su OpenAI dopo l’incidente cyber che ha coinvolto Hugging Face. Al centro del caso ci sono aspetti come il contenimento degli agenti AI, controlli di sicurezza e responsabilità delle aziende che sviluppano modelli avanzati.

    L’Attorney General dell’Alabama Steve Marshall ha aperto un’indagine formale su OpenAI e notificato all’azienda una subpoena per ottenere documenti, dati e informazioni sull’incidente informatico che a luglio ha coinvolto Hugging Face.

    L’indagine punta a stabilire se le misure di sicurezza e supervisione adottate da OpenAI possano aver violato l’Alabama Deceptive Trade Practices Act e altre norme di tutela dei consumatori.

    L’incidente è avvenuto durante una valutazione interna delle capacità cyber dei modelli, eseguita intenzionalmente senza alcuni dei classificatori di sicurezza usati in produzione: secondo OpenAI, i modelli hanno sfruttato una vulnerabilità zero-day nel proxy Artifactory dell’ambiente di test per ottenere accesso a Internet e proseguire oltre i confini previsti dalla valutazione.

    Hugging Face ha ricostruito circa 17.600 azioni tra il 9 e il 13 luglio, mostrando un agente capace di tentare numerosi percorsi, adattarsi ai fallimenti e concatenare vulnerabilità attraverso sistemi differenti; l’azienda precisa però che i contenuti dei clienti raggiunti erano limitati a cinque dataset contenenti soluzioni di challenge ExploitGym/CyberGym.

    OpenAI ha inoltre riconosciuto l’utilizzo di credenziali pubblicamente esposte relative ad altri servizi, mentre fonti indipendenti hanno documentato l’estensione dell’attività oltre Hugging Face.

    Il caso trasforma quindi un problema di sicurezza degli agenti da scenario teorico a questione anche regolamentare: il punto non è semplicemente che un modello sia diventato “rogue”, ma che capacità cyber avanzate, guardrail ridotti e insufficiente contenimento possano produrre conseguenze reali fuori dall’ambiente di valutazione.

    Link alla fonte:
    https://www.reuters.com/legal/litigation/alabama-launches-probe-into-openai-after-hugging-face-breach-2026-08-25/

  • Hugging Face valuta una “vendita” da almeno 13 miliardi di dollari

    Hugging Face valuta una “vendita” da almeno 13 miliardi di dollari

    Per valere miliardi nell’AI non serve necessariamente costruire il modello più potente. Hugging Face mostra quanto possa essere strategico controllare il luogo in cui quei modelli vengono distribuiti e utilizzati.

    Aggiornamento a 4 settembre 2026: Nvidia ha annunciato l’accordo definitivo per acquisire Hugging Face per 12,93 miliardi di dollari. L’operazione rientra pienamente nella stima di 12,9–13 miliardi di dollari e prevede che la piattaforma rimanga aperta e neutrale. Per maggiori dettagli, leggi l’annuncio ufficiale sul blog di Nvidia.

    Hugging Face starebbe esplorando una possibile vendita che potrebbe portare la valutazione della società ad almeno 13 miliardi di dollari, secondo quanto riportato da Business Insider (vedi link in basso).

    La startup, fondata da Clément Delangue, Julien Chaumond e Thomas Wolf, avrebbe incaricato una banca di sondare l’interesse di potenziali acquirenti, ma al momento non sarebbe stato raggiunto alcun accordo.

    La cifra rappresenterebbe un forte salto rispetto alla valutazione di 4,5 miliardi di dollari raggiunta nel 2023 e riflette il crescente valore delle piattaforme che costituiscono l’infrastruttura operativa dell’ecosistema AI.

    Hugging Face non compete principalmente nella corsa ai modelli frontier: mette invece a disposizione strumenti e una piattaforma attraverso cui sviluppatori e aziende possono pubblicare, distribuire e utilizzare modelli di numerosi produttori.

    L’interesse per una possibile acquisizione segnala quindi come repository, marketplace e piattaforme per sviluppatori stiano diventando asset strategici quasi quanto i modelli stessi.

    Link alla fonte:
    https://www.businessinsider.com/hugging-face-could-be-acquired-13-billion-2026-8

  • Hugging Face segnala uno dei primi attacchi hacker eseguiti interamente da un agente AI

    Hugging Face segnala uno dei primi attacchi hacker eseguiti interamente da un agente AI


    Hugging Face ha reso noto di aver subito un attacco informatico condotto da un sistema di intelligenza artificiale autonoma capace di eseguire l’intera catena di compromissione senza intervento umano diretto.

    L’agente AI avrebbe identificato una vulnerabilità, ottenuto privilegi elevati e ampliato progressivamente il proprio accesso alle infrastrutture interne attraverso migliaia di operazioni automatizzate.

    Sebbene non siano emerse prove di alterazioni ai modelli pubblici o di un furto di dati su larga scala, l’episodio rappresenta uno dei casi più significativi finora documentati sull’utilizzo dell’AI agentica in ambito offensivo.

    L’incidente conferma come gli strumenti di intelligenza artificiale stiano rapidamente trasformando anche il panorama della cybersecurity, rendendo possibili attacchi sempre più sofisticati e autonomi.

    Hugging Face ha già rafforzato le proprie misure di sicurezza e raccomanda agli utenti di verificare le attività dei propri account e aggiornare i token di accesso.

    Link alla fonte:
    https://www.hdblog.it/sicurezza/articoli/n664831/hugging-face-attacco-hacker-agente-ai/

    Vedi anche:

    https://www.rainews.it/amp/articoli/2026/07/openai-nostri-modelli-di-intelligenza-artificiale-hanno-hackerato-piattaforma-hugging-face-abae2c92-4d54-4784-80ba-a082145a12c4.html

  • Qwen3.5-9B “Uncensored” elimina i filtri e riaccende il dibattito sulla sicurezza dell’AI

    È stata pubblicata su Hugging Face una versione modificata del modello Qwen3.5-9B, classificata come “Uncensored”, ovvero che rimuove completamente i meccanismi di rifiuto delle risposte.

    L’autore, HauhauCS, sostiene che il modello non abbia subito modifiche ai dati o alle capacità, ma solo la rimozione dei filtri, ottenendo 0 rifiuti su 465 test.

    Il modello mantiene caratteristiche avanzate come multimodalità, supporto a oltre 200 lingue e contesto fino a 1 milione di token.

    Come sappiamo, questo tipo di “modifiche” solleva forti preoccupazioni legate all’uso improprio e alla sicurezza, soprattutto in ambito open source dove tali strumenti sono facilmente accessibili, e il caso evidenzia il crescente conflitto tra apertura tecnologica e necessità di governance etica dell’intelligenza artificiale.

    Nota: i modelli “uncensored” sono versioni di LLM (come Llama o Mistral) private dello strato di sicurezza RLHF/DPO, quindi progettate per non rifiutare alcuna richiesta e garantire libertà operativa totale. Sebbene utili per narrativa matura, ricerca accademica o analisi di contenuti sensibili, l’assenza di filtri trasferisce l’intera responsabilità etica e legale sui contenuti generati all’utente, rendendoli inadatti a contesti aziendali, educativi o per minori. Per la maggior parte degli utilizzi, i modelli standard con filtri attivi rimangono la scelta più sicura e coerente.

    Link alla fonte

  • L’India lancia MANAS 1: il modello AI addestrato su “60.000 ore” di onde cerebrali per ottenere diagnosi neurologiche precoci

    L’India ha presentato MANAS 1, un Brain Language Foundation Model addestrato su 60.000 ore di segnali EEG provenienti da oltre 25.000 pazienti, con l’obiettivo di individuare precocemente disturbi neurologici e psichiatrici.
    Sviluppato da Intellihealth (NeuroDx) sotto la guida del neurologo Dr. Puneet Agarwal, ex professore dell’AIIMS, il modello è stato rilasciato open source su Hugging Face con il supporto computazionale della Indian AI Mission del Ministero dell’Elettronica e IT.
    Con 400 milioni di parametri, MANAS 1 è progettato come modello fondazionale capace di interpretare l’attività elettrica cerebrale, creando la base per strumenti diagnostici dedicati a epilessia, demenza e altre patologie.
    In un contesto segnato dalla carenza di specialisti in India, la piattaforma potrebbe supportare screening preliminari nei centri sanitari territoriali, riducendo il ritardo tra insorgenza dei sintomi e diagnosi.
    Una versione evoluta, MANAS 2, è attesa nelle prossime settimane.

    Link alla fonte:
    https://timesofindia.indiatimes.com/india/india-unveils-manas-1-ai-trained-on-60000-hours-of-brainwaves-aims-to-detect-disorders-early/articleshow/128698521.cms

  • Algoritmi speculativi accelerano i modelli linguistici fino a 3 volte

    Un team di ricercatori del Weizmann Institute, Intel Labs e d-Matrix ha sviluppato algoritmi innovativi di “speculative decoding” per accelerare l’inferenza dei modelli linguistici fino a 2,8 volte senza perdita di qualità. Presentati all’ICML, gli algoritmi SLEM, TLI e SLRS eliminano la necessità di condividere il vocabolario tra modelli, migliorando l’efficienza del processo. SLEM, già adottato come default in Hugging Face, rappresenta una soluzione plug-and-play per ottimizzare le performance AI. La ricerca apre nuove prospettive per modelli più veloci e flessibili, anche su hardware meno potente.

    Link alla fonte:
    https://www.hwupgrade.it/news/web/modelli-linguistici-fino-a-3-volte-piu-veloci-non-serve-avere-una-mega-gpu_141232.html