Tag: Token

  • Gli LLM spiegati dall’interno: perché il loro “pensiero” è statistica, non “comprensione umana”

    Vi segnalo un ottimo articolo che propone una guida introduttiva al funzionamento dei Large Language Model (LLM), con l’obiettivo di colmare il divario tra l’uso quotidiano dell’AI e la reale comprensione dei suoi meccanismi interni.
    Nel pezzo (che potreste anche fare in pasto a NotebookLM per generare una overviews o altri materiali divulgativo/didattici) viene illustrato come i modelli trasformino il linguaggio in token, vettori e matrici, utilizzando il meccanismo di attenzione, funzioni non lineari e calcoli probabilistici per generare risposte coerenti.
    Si sottolinea, soprattutto, come gli LLM non ragionino né comprendano il significato come invece avviene per gli esseri umani, spiegando che essi operano attraverso correlazioni statistiche apprese durante l’addestramento.
    La guida, davvero esaustiva, evidenzia inoltre i limiti strutturali dei modelli, come le allucinazioni e la finestra di contesto, e chiarisce che l’apprendimento avviene durante il training, non nelle conversazioni con gli utenti.
    Comprendere questi principi è sempre più essenziale per utilizzare l’AI in modo più consapevole, soprattutto in ambito professionale, aziendale e giuridico.

    Link alla fonte:
    https://www.agendadigitale.eu/cultura-digitale/competenze-digitali/come-funziona-lai-guida-semplice-ai-modelli-linguistici/

  • La Cina conquista terreno nella “valuta” dell’AI: i token

    Le aziende cinesi come DeepSeek e MiniMax stanno superando i concorrenti statunitensi nella riduzione del consumo di token, l’unità chiave che misura l’uso e il costo dei modelli di intelligenza artificiale. Questo sorpasso segnala un cambiamento strutturale nella competizione globale, dove il prezzo per token diventa determinante soprattutto con la diffusione degli agenti AI, molto più esigenti in termini computazionali. Grazie a costi energetici più bassi e modelli più efficienti, le aziende cinesi offrono prezzi fino a sei volte inferiori rispetto a player come Anthropic, attirando sviluppatori e aumentando rapidamente l’adozione. Tuttavia, restano criticità legate a limiti infrastrutturali e a rischi geopolitici, in particolare sull’uso di data center cinesi. Il tema dei token emerge così come nuova leva strategica nella corsa verso l’AGI e il dominio dell’economia AI.

    Link alla fonte:
    https://www.ft.com/content/2567877b-9acc-4cf3-a9e5-5f46c1abd13e?syn-25a6b1a6=1