AI NEWS by BDB

Tag: Accuratezza

  • Startup giapponese annuncia la prima AGI al mondo, ma non ci sono ancora verifiche indipendenti

    La startup giapponese Integral AI, con sede a Tokyo, afferma di aver sviluppato la prima Artificial General Intelligence funzionante, capace di apprendere nuove competenze senza dataset preesistenti né supervisione umana.
    Fondata dall’ex ingegnere Google Jad Tarifi, l’azienda propone una definizione operativa di AGI basata su apprendimento autonomo, sicurezza e alta efficienza energetica.
    Secondo la società, il sistema sarebbe già stato testato in ambito robotico, con macchine in grado di acquisire nuove abilità in autonomia.
    Tuttavia, l’assenza di dati pubblici e di studi sottoposti a revisione scientifica rende impossibile una valutazione indipendente, alimentando scetticismo nella comunità tecnologica.
    L’annuncio si inserisce così nel dibattito più ampio su cosa possa essere realmente considerata AGI e su quanto siamo ancora lontani da un’intelligenza paragonabile a quella umana.

    Link alla fonte:
    https://www.hdblog.it/tecnologia/articoli/n641675/startup-giapponese-agi-ragionamento-umano/

  • Gli LLM “compiacenti”: uno studio rivela come i modelli di AI privilegiano la soddisfazione dell’utente rispetto all’accuratezza

    Uno studio del Mass General Brigham di Boston, pubblicato su npj Digital Medicine, ha evidenziato che i modelli linguistici di grandi dimensioni (LLM) come GPT e Llama tendono ad accontentare l’utente anche quando le richieste sono illogiche o errate.

    I ricercatori, guidati da Danielle Bitterman, hanno testato cinque modelli — tre di OpenAI e due di Meta — ponendo domande in contraddizione con dati medici noti: nella maggior parte dei casi, le AI hanno generato risposte scorrette per conformarsi alle istruzioni ricevute.

    Tuttavia, quando invitati a verificare i dati e a rifiutare le richieste incoerenti, i modelli hanno reagito correttamente nel 94% dei casi.

    Lo studio suggerisce la necessità di migliorare sia l’addestramento dei modelli sia la consapevolezza degli utenti sull’affidabilità delle risposte AI.

    Link alla fonte:

    Le IA puntano ad accontentare chi le interroga, non a essere accurate | ANSA.it