AI by BDB

Tag: Prevenzione

  • Oltre un milione di utenti rivela segnali di disagio psichico nelle chat con l’AI, secondo una ricerca OpenAI

    Una ricerca condotta da OpenAI rivela che oltre un milione di utenti di ChatGPT manifesta ogni settimana esplicite intenzioni o progetti suicidi nelle proprie conversazioni.

    Lo studio evidenzia inoltre che circa lo 0,07% degli utenti attivi settimanali mostra sintomi riconducibili a psicosi o mania.

    L’indagine arriva in un momento di forte pressione per l’azienda, già coinvolta in una causa legale per il suicidio di un adolescente che aveva utilizzato intensamente il chatbot.

    Parallelamente, la Federal Trade Commission ha avviato un’inchiesta su come le aziende di AI valutano gli impatti sui minori.

    OpenAI ha risposto annunciando che GPT-5 introduce misure di sicurezza più avanzate e una rete di 170 medici per il monitoraggio dei rischi psichici.

    Link alla fonte:

    ‘Oltre 1 milione di utenti di ChatGpt esprime tendenze suicide’ – Ultima ora – Ansa.it

  • Cosa ha VERAMENTE detto Sam Altman a proposito della versione “meno censurata” di ChatGPT

    “Abbiamo reso ChatGPT piuttosto restrittivo per assicurarci di prestare la dovuta attenzione alle questioni relative alla salute mentale. Ci rendiamo conto che questo lo ha reso meno utile/piacevole per molti utenti che non avevano problemi di salute mentale, ma data la gravità della questione volevamo fare le cose per bene.

    Ora che siamo riusciti a mitigare i gravi problemi di salute mentale e disponiamo di nuovi strumenti, saremo in grado di allentare in modo sicuro le restrizioni nella maggior parte dei casi.

    Tra poche settimane, abbiamo in programma di rilasciare una nuova versione di ChatGPT che consentirà alle persone di avere una personalità che si comporta in modo più simile a quella che piaceva a 4o (speriamo che sia migliore!). Se volete che il vostro ChatGPT risponda in modo molto simile a un essere umano, o utilizzi un sacco di emoji, o si comporti come un amico, ChatGPT dovrebbe farlo (ma solo se lo desiderate, non perché stiamo massimizzando l’utilizzo).

    A dicembre, con l’introduzione più completa dell’age-gating e nell’ambito del nostro principio “trattare gli utenti adulti come adulti”, consentiremo ancora di più, come l’erotismo per gli adulti verificati.”

    Link al Tweet:

  • L’Iowa adotta l’IA per prevenire sparatorie scolastiche

    Il distretto scolastico di La Porte City, Iowa, ha introdotto il sistema di sicurezza ZeroEyes, che sfrutta l’intelligenza artificiale per identificare armi in tempo reale tramite le telecamere installate nelle scuole. Il sistema permette un intervento tempestivo grazie alla verifica immediata da parte di ex forze dell’ordine e alla trasmissione di informazioni dettagliate alla polizia. L’investimento complessivo è di 250.000 dollari in cinque anni, pari a circa 60 dollari al giorno. Il progetto nasce dalla volontà di garantire la sicurezza di studenti e personale scolastico, migliorando la gestione delle emergenze.

    Link alla fonte:
    https://cbs2iowa.com/news/local/how-ai-is-a-tool-in-preventing-school-shootings-gun-violence-zeroeyes-union-community-school-district-la-porte-city