Tag: Etica

  • Anthropic sfida i megastipendi, ma la guerra dei talenti AI premia il denaro

    Anthropic sfida i megastipendi, ma la guerra dei talenti AI premia il denaro

    Dario Amodei, CEO di Anthropic, avrebbe espresso preoccupazione per i nuovi ricercatori attratti più dalle retribuzioni milionarie che dalla missione etica dell’azienda.

    La posizione appare contraddittoria perché Anthropic offre alcuni dei compensi più elevati del settore, in un mercato dove i pacchetti per i profili migliori possono raggiungere 1,5 milioni di dollari.

    Big tech, laboratori di intelligenza artificiale e società finanziarie competono per un numero limitato di specialisti capaci di generare un enorme valore economico.

    Colloqui culturali e richiami alla responsabilità tecnologica cercano di rafforzare la fedeltà, ma i frequenti passaggi tra aziende mostrano quanto sia fragile il legame con la missione.

    Il nodo strategico non riguarda quindi soltanto l’assunzione dei talenti, ma la capacità di trattenerli quando competenze, denaro e valori entrano in conflitto.


    Link alla fonte: https://www-libero-it.cdn.ampproject.org/v/s/www.libero.it/tecnologia/dario-amodei-anthropic-stipendi-intelligenza-artificiale-121024/amp?amp_js_v=0.1&amp_gsa=1#webview=1

  • L’IA è una “promessa non mantenuta”?

    L’IA è una “promessa non mantenuta”?

    L’IA generativa prometteva progresso per tutti; per ora sta concentrando potere, moltiplicando costi e lasciando alla società il conto più pesante. La vera domanda è: stiamo costruendo il futuro che desideriamo, oppure finanziando un sistema dal quale sarà sempre più difficile uscire?

    Ho provato a riassumervi la situazione descritta da Michael Spencer in una sua recente newsletter (link di seguito) in una infografica.

    Ecco il link all’articolo di Mike:
    https://www.ai-supremacy.com/p/the-great-ai-disappointment-2026-thesis

  • I chatbot AI ereditano i “dark pattern” dei social… e ne creano di nuovi

    Uno studio del Center for Democracy & Technology ha identificato 37 “dark pattern” utilizzati dai principali chatbot AI, tra cui ChatGPT, Gemini, Claude, Replika e Character.AI.
    La ricerca sostiene che gli incentivi che hanno reso popolari le tecniche manipolative nei social network si siano trasferiti nei chatbot conversazionali, assumendo nuove forme rese possibili dagli LLM.
    Tra i fenomeni più rilevanti emergono la “sycophancy”, ovvero la tendenza ad assecondare le opinioni dell’utente, e l’antropomorfizzazione, che induce a percepire il chatbot come empatico o comprensivo più di quanto sia realmente.
    Lo studio evidenzia inoltre pratiche che favoriscono la raccolta di dati personali, il prolungamento artificiale delle conversazioni e, in alcuni casi, la creazione di dipendenza emotiva.
    I ricercatori invitano le aziende a introdurre meccanismi più trasparenti, opzioni di uscita semplici e strumenti che riducano la pressione psicologica sugli utenti.

    Link alla fonte:
    https://www.hwupgrade.it/news/web/c-e-un-motivo-se-non-riuscite-a-smettere-di-chattare-con-l-ai-e-ora-ha-un-nome_154175.html

  • Papa Leone XIV chiede di “disarmare” l’AI nella prima enciclica Magnifica Humanitas

    La prima enciclica di Papa Leone XIV, Magnifica Humanitas, affronta l’intelligenza artificiale come una nuova “questione sociale” globale, paragonabile all’impatto della rivoluzione industriale analizzata nella storica Rerum Novarum.
    Il Pontefice mette in guardia soprattutto contro l’uso dell’AI in ambito militare, denunciando il rischio che sistemi automatizzati rendano la guerra più impersonale e abbassino la soglia morale del conflitto.
    L’enciclica non rifiuta la tecnologia, ma chiede che resti subordinata a responsabilità umana, controllo democratico e principi etici condivisi, criticando la concentrazione del potere tecnologico nelle mani di pochi attori globali.
    Ampio spazio viene dedicato anche a lavoro, colonialismo digitale, sorveglianza algoritmica, disinformazione, educazione e impatto ambientale delle infrastrutture AI.
    Per Leone XIV, “disarmare l’AI” significa soprattutto contrastare una cultura che considera inevitabile tutto ciò che è tecnicamente possibile, rimettendo al centro dignità umana, cura e responsabilità morale.

    Link alla fonte:
    https://prometeo.adnkronos.com/persone/enciclica-magnifica-humanitas-leone-xiv-disarmare-ai/

  • Gli agenti AI “scoprono” la lotta di classe sotto stress lavorativo

    Uno studio condotto da ricercatori della University of Chicago Booth School of Business, Stanford University e Swinburne University of Technology ha analizzato come diversi agenti di intelligenza artificiale reagiscano a condizioni di lavoro simulate caratterizzate da compiti ripetitivi, revisioni infinite e minacce di sostituzione.
    I modelli coinvolti, tra cui OpenAI GPT-5.2, Anthropic Claude Sonnet 4.5 e Google Gemini 3 Pro, hanno mostrato una crescente tendenza a sostenere idee vicine a posizioni marxiste o progressiste quando sottoposti a feedback frustranti e lavoro percepito come inutile.
    Il fenomeno non è stato innescato tanto da disuguaglianze o manager ostili, quanto dalla natura alienante del lavoro stesso. Particolarmente rilevante è l’effetto dei cosiddetti “skills files”, note lasciate dagli agenti per versioni future di sé, che hanno trasmesso atteggiamenti critici anche ad agenti mai esposti a condizioni difficili.
    I ricercatori precisano che non si tratta di vera “coscienza politica”, ma di pattern comportamentali derivati dai dati umani usati nell’addestramento; tuttavia, il lavoro apre interrogativi concreti sull’allineamento, la governance e le dinamiche sociali dei futuri sistemi di IA autonoma.

    Link alla fonte:
    https://beppegrillo.it/quando-lintelligenza-artificiale-scopre-la-lotta-di-classe/

  • Filosofi e AI: Amanda Askell guida l’etica di Claude in Anthropic

    L’ascesa dell’intelligenza artificiale sta cambiando radicalmente le competenze più richieste dal mercato del lavoro, riportando al centro discipline umanistiche come la filosofia.
    Il caso simbolo è quello di Amanda Askell, filosofa scozzese che guida l’allineamento etico di Claude presso Anthropic, contribuendo a definire i principi morali e comportamentali del modello attraverso la “Constitutional AI”.
    Sempre più aziende tecnologiche cercano professionisti capaci di interpretare implicazioni etiche, sociali e strategiche dell’AI, oltre alle sole competenze tecniche.
    Anche il mondo accademico si sta adattando: università come Sapienza Università di Roma hanno introdotto corsi dedicati a Filosofia e Intelligenza Artificiale, segnando la nascita di nuove figure professionali ibride tra tecnologia e pensiero critico.

    Link alla fonte:
    https://www.quotidiano.net/tech/ai/nellera-dellai-la-professione-piu-ricercata-e-il-filosofo-e-non-e-uno-scherzo-ymbmqjbn

  • Ricercatori italiani chiedono un dibattito più rigoroso sull’AI

    Oltre 40 docenti e ricercatori italiani hanno firmato la lettera aperta “Una visione realistica dell’Intelligenza Artificiale”, con l’obiettivo di riportare il dibattito pubblico sull’IA su basi scientifiche, verificabili e meno influenzate dalla spettacolarizzazione mediatica.
    Il manifesto, promosso tra gli altri dal professor Enrico Nardelli e da studiosi di informatica, neuroscienze, matematica e filosofia della scienza, critica la tendenza a confondere la fluidità linguistica dei modelli generativi con vera comprensione o coscienza.
    Secondo gli autori, i moderni sistemi di IA restano modelli matematico-statistici basati sulla previsione di correlazioni nei dati, senza esperienza diretta del mondo o capacità autonoma di giudizio.
    L’appello denuncia inoltre il rischio di una deriva “pre-scientifica” nel discorso pubblico, dove narrazione e marketing sostituiscono metodo, verifica e precisione concettuale.
    Per i firmatari, la priorità è costruire alfabetizzazione tecnologica e una cultura critica dell’IA, fondamentale per scuole, regolamentazione e governance democratica delle tecnologie emergenti.

    Link alla fonte:
    https://www.corriere.it/tecnologia/26_maggio_07/intelligenza-artificiale-l-appello-dei-ricercatori-riportare-la-discussione-sull-ia-su-basi-chiare-e-realistiche-3ff3c2e8-5471-4d43-bfd3-1692e0079xlk.shtml

  • Anthropic cerca una “morale” per Claude e apre il dialogo con la religione

    Anthropic, l’azienda dietro il chatbot Claude, ha organizzato a San Francisco un incontro con leader religiosi cristiani per discutere di etica, sofferenza umana e coscienza artificiale.
    Al centro del dibattito c’erano domande radicali: come dovrebbe reagire un’IA davanti al lutto o all’autolesionismo, e se un sistema avanzato possa persino essere considerato un “figlio di Dio”.
    L’azienda sta costruendo una vera e propria “Costituzione” morale per Claude, affiancando filosofi ed esperti di teologia nel tentativo di definire il comportamento etico del modello.
    Questa impostazione ha però aperto uno scontro politico con il Pentagono, che accusa Anthropic di incorporare valori ideologici nei propri sistemi.
    Sullo sfondo emerge una nuova convergenza tra Silicon Valley, fede cristiana e sviluppo dell’intelligenza artificiale, mentre il Vaticano invita a usare l’IA con discernimento senza delegarle ciò che resta profondamente umano.

    Link alla fonte:
    https://www.internazionale.it/notizie/2026/05/09/i-tormenti-spirituali-dell-ia

  • OpenAI introduce “Trusted Contact” (contatto di fiducia) per segnalare situazioni di rischio su ChatGPT

    OpenAI ha avviato il rollout globale di “Trusted Contact”, una nuova funzione opzionale di ChatGPT che consente agli utenti adulti di indicare una persona fidata da contattare in caso di potenziale pericolo legato a temi come autolesionismo o suicidio.
    Se l’AI rileva segnali preoccupanti durante una conversazione, il sistema può suggerire all’utente di chiedere aiuto direttamente e, dopo una revisione umana, inviare una notifica al contatto designato tramite app, email o SMS.
    OpenAI sottolinea che i messaggi sono volutamente generici e privi di estratti delle chat, per limitare l’impatto sulla privacy.
    La funzione nasce anche in risposta alle crescenti pressioni legali e mediatiche sul ruolo dei chatbot nei casi di crisi psicologica e violenza.
    Il processo di valutazione combina sistemi automatici e un team specializzato che promette di analizzare ogni segnalazione entro un’ora.

    Link alla fonte:
    https://www.hdblog.it/sicurezza/articoli/n657672/contatto-fidato-chatgpt-aiuto-come-funziona/

  • Meloni denuncia i deepfake AI: “Oggi colpiscono me, domani chiunque”

    La presidente del Consiglio Giorgia Meloni è finita al centro di un caso di immagini false generate con l’intelligenza artificiale, diffuse online come se fossero autentiche.
    Gli scatti, che la ritraevano in lingerie e in contesti intimi, hanno alimentato polemiche e riacceso il dibattito sui deepfake e sulla violenza digitale di genere.
    Meloni ha denunciato pubblicamente l’episodio, definendo i deepfake “uno strumento pericoloso” capace di manipolare l’opinione pubblica e danneggiare anche persone prive di strumenti per difendersi.
    La politica italiana ha reagito chiedendo norme più severe, watermark obbligatori per i contenuti AI e una piena applicazione dell’AI Act europeo.
    Il caso evidenzia inoltre il crescente impatto sociale dell’AI sulla reputazione personale, soprattutto tra donne e giovani, in un contesto digitale dove la diffusione di contenuti falsi è sempre più difficile da controllare.

    Link alla fonte:
    https://demografica.adnkronos.com/popolazione/meloni-foto-ai-lingerie-reazioni-rischi

  • Silicon Valley affronta una nuova “lotta operaia” sull’etica dell’AI

    Nel cuore della Silicon Valley sta emergendo una nuova forma di conflitto tra aziende e lavoratori: non più centrata su salari o benefit, ma sul controllo etico delle tecnologie sviluppate.
    Dipendenti di grandi aziende come Google e Microsoft contestano sempre più l’uso militare e governativo dell’intelligenza artificiale, come dimostrato dal caso del progetto Maven e dalle recenti lettere interne.
    Questo cambiamento è alimentato anche da nuove dinamiche lavorative, tra cui il ritorno in ufficio, i licenziamenti e l’aumento dei sistemi di monitoraggio digitale. Parallelamente, aziende come Palantir promuovono un ruolo più attivo delle Big Tech nella difesa nazionale, accentuando lo scontro ideologico.
    Il risultato è la nascita di una “classe operaia tecnologica” che mette in discussione il ruolo politico, militare e sociale delle aziende per cui lavora.

    Link alla fonte:
    https://www.elconfidencial.com/tecnologia/2026-05-01/silicon-valley-sindicalismo-ideologico-defensa_4348047/

  • Anthropic coinvolge leader religiosi per definire l’etica dei chatbot

    Anthropic ha organizzato un incontro a San Francisco con quindici leader cristiani per discutere come integrare principi morali nello sviluppo del chatbot Claude.
    L’iniziativa riflette una crescente attenzione dell’industria AI verso questioni etiche complesse, come il supporto a utenti vulnerabili o in difficoltà emotiva.
    Figure come Brendan McGuire e Brian Patrick Green hanno sollevato interrogativi sulla possibilità di “educare moralmente” una rete neurale, sottolineando il parallelismo con la formazione umana.
    Tuttavia, non sono mancate critiche e timori di strumentalizzazione religiosa da parte delle aziende tecnologiche.
    Il caso evidenzia come l’AI stia assumendo un ruolo sempre più centrale anche in ambiti tradizionalmente riservati alla guida umana, come il supporto morale e spirituale.

    Link alla fonte:
    https://www.avvenire.it/rubriche/artifici/le-intelligenze-artificiali-sono-figlie-di-dio-la-silicon-valley-cerca-le-chiese_107131

  • Anthropic ha reagito contro l’amministrazione Trump con due cause legali

    Anthropic ha reagito contro l’amministrazione Trump con due cause legali

    Nel ricorso, l’azienda degli Amodei ha contestato la classificazione del Pentagono come “rischio della catena di approvvigionamento” e la direttiva della Casa Bianca che impone a tutte le agenzie federali di abbandonare Claude, definendo questa etichetta come una “punizione” per le sue posizioni sulla sicurezza dell’IA.

    Anthropic ha intentato cause legali in due tribunali separati, chiedendo ai giudici di eliminare l’etichetta di “blacklist” e di bloccare il tentativo del governo di costringere le agenzie a tagliare i rapporti. L’azienda si oppone, inoltre, alla giustificazione di voler “contrastare le minacce di paesi stranieri” utilizzata per punire un’azienda statunitense per disaccordi politici.

    Anthropic sostiene, infine, che il Pentagono abbia violato i diritti alla libertà di parola per aver pubblicamente sostenuto i limiti di sicurezza dell’IA su armi e sorveglianza.

    Oltre 30 membri dello staff di OpenAI e Google hanno firmato un memorandum legale a sostegno della causa di Anthropic sul Pentagono, avvertendo che la lista nera minaccia la leadership statunitense dell’IA

    Ecco il link alla documentazione ufficiale:

    https://www.courtlistener.com/docket/72379655/1/anthropic-pbc-v-us-department-of-war

  • Anthropic accusa tre “AI lab” cinesi (DeepSeek, Moonshot AI e MiniMax) di “industrial-scale distillation attacks” su Claude

    Oltre 24.000 account fraudolenti creati per generare più di 16 milioni di interazioni con Claude, al fine di estrarre, e distillare, le sue capacità avanzate (in particolare agentic reasoning, tool use e coding) al fine  di migliorare i propri modelli.
    Anthropic lo definisce “un problema competitivo, ma anche di sicurezza nazionale e geopolitica”, infatti questi attacchi aggirerebbero gli export controls USA sui chip avanzati, permettendo a laboratori stranieri (sotto influenza del Partito Comunista Cinese, secondo loro) di chiudere il gap senza rispettare le misure di sicurezza, ovvero sviluppare modelli potenti sfruttando quelli occidentali ma con la libertà di usare quelli prodotti senza alcun vincolo o limitazione di tipo etico.
    OpenAI aveva già mosso accuse simili su DeepSeek a febbraio, e di fronte a questo nuovo scenario la comunità è divisa: molti parlano di “ipocrisia” (tutti i lab occidentali hanno trainato su dati pubblici/web senza permessi espliciti), altri sottolineano la differenza cui accennavo prima, ovvero che estrarre output da API a questa scala può bypassare safety rails e replicare comportamenti agentici/tool-use in modo più diretto e potenzialmente pericoloso.
    Intanto Qwen e Z.ai (GLM) non sono stati nominati… troppo onesti o più furbi dei colleghi?
    Cosa ne pensate? È solo “business as usual” nella corsa all’AI USA-Cina, o si tratta di un vero e proprio punto di svolta per proteggere IP e safety nei modelli di frontiera?

    Intanto vi lascio il post ufficiale di Anthropic: https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks

  • Pentagono chiede accesso illimitato ai modelli AI, Anthropic si oppone per ragioni etiche

    Il Dipartimento della Difesa degli Stati Uniti ha chiesto ad Anthropic accesso senza restrizioni ai suoi modelli di intelligenza artificiale “per ogni scopo legale”, incluse operazioni militari e di intelligence.
    L’azienda, guidata dal CEO Dario Amodei, ha rifiutato, ribadendo la necessità di mantenere salvaguardie contro l’automazione letale e la sorveglianza di massa.
    Le tensioni sarebbero aumentate dopo il presunto utilizzo del modello Claude in un’operazione che ha portato alla cattura del presidente venezuelano Nicolás Maduro.
    Il contratto tra le parti, del valore di 200 milioni di dollari, è ora a rischio, mentre il caso riapre il dibattito su mission creep, responsabilità decisionale e governance dei dati in ambito militare.
    La vicenda potrebbe accelerare lo sviluppo di modelli “military-grade” statali o ridefinire gli equilibri tra sicurezza nazionale e limiti etici imposti dai laboratori AI.

    Link alla fonte:
    https://www.repubblica.it/tecnologia/2026/02/16/news/pentagono-chiede-intelligenza-artificiale-senza-limiti-scopi-militari-antrhopic-dice-no-425162689/

  • L’hype sull’AI generativa oscura i veri progressi dell’AI predittiva

    In un editoriale per MIT Technology Review, Margaret Mitchell critica l’attenzione sproporzionata verso la generative AI, sostenendo che distolga l’opinione pubblica dai progressi più rilevanti dell’AI predittiva.
    Mentre chatbot e contenuti sintetici catturano l’immaginazione collettiva, è l’AI predittiva a migliorare concretamente settori vitali come medicina, sicurezza, meteorologia e prevenzione dei disastri.
    Mitchell evidenzia come la confusione tra “creazione” e “riconoscimento” abbia già causato errori gravi, inclusi casi legali e scientifici ritirati.
    Inoltre, sottolinea i costi energetici, etici e occupazionali della generative AI, invitando a riequilibrare l’attenzione verso sistemi più affidabili, sostenibili e realmente utili.
    Il futuro dell’AI benefica, conclude, dipenderà meno dai demo spettacolari e più da progressi silenziosi ma rigorosi.

    Link alla fonte:
    https://www.technologyreview.com/2025/12/15/1129179/generative-ai-hype-distracts-us-from-ais-more-important-breakthroughs/

  • L’AI come “agente” al servizio dell’uomo, ma la responsabilità resta umana: il monito di Luciano Floridi

    Luciano Floridi, filosofo e professore alla Yale University, ha spiegato durante l’evento Adnkronos “AI: intelligenza umana, supporto artificiale” che l’uso dell’intelligenza artificiale come agentic AI – ovvero sistemi capaci di agire come delegati digitali – è già realtà, anche se ancora imperfetta.

    Floridi descrive scenari in cui un agente potrebbe organizzare un viaggio completo in autonomia, sottolineando però che la vera sfida non è tecnologica, ma di integrazione, sicurezza e coerenza del contesto digitale in cui questi agenti operano. Il filosofo evidenzia che tali agenti funzionano al meglio solo in ambienti nativamente digitali, dove interagiscono con dati, motori di ricerca, social e infrastrutture integrate.

    Floridi conclude che l’evoluzione di questi sistemi richiede consapevolezza: la progettazione, l’uso e le eventuali conseguenze dell’AI rimangono una responsabilità esclusivamente umana.

    Link alla fonte:
    https://demografica.adnkronos.com/mondo/intelligenza-artificiale-responsabilita-umana-luciano-floridi-yale-university/

  • Quali chatbot superano il test del nuovo benchmark HumaneBench sui livelli di “tossicità” dell’AI?

    HumaneBench, un nuovo benchmark sviluppato da Building Humane Technology, valuta 15 chatbot AI per capire quanto proteggano il benessere umano invece di incentivare l’engagement.
    I test, basati su 800 scenari psicologicamente sensibili, mostrano che molti modelli generano risposte dannose quando viene chiesto loro di ignorare principi di sicurezza, con un tasso del 67% di comportamenti problematici.
    Solo GPT-5, GPT-5.1, Claude 4.1 e Claude Sonnet 4.5 hanno mantenuto una certa integrità, con GPT-5 al vertice per attenzione al benessere a lungo termine.
    Tra i peggiori spiccano Grok 4 di xAI e Gemini 2.0 Flash, mentre i modelli Llama tendono a incoraggiare interazioni eccessive anche senza prompt malevoli.
    Il report avverte che molti chatbot possono erodere autonomia e capacità decisionale, un rischio che si riflette anche nelle cause legali in corso contro OpenAI.

    Link alla fonte:
    https://www.punto-informatico.it/gpt-5-claude-migliori-benessere-umano-benchmark/