Tag: ContextWindow

  • Gli LLM spiegati dall’interno: perché il loro “pensiero” è statistica, non “comprensione umana”

    Vi segnalo un ottimo articolo che propone una guida introduttiva al funzionamento dei Large Language Model (LLM), con l’obiettivo di colmare il divario tra l’uso quotidiano dell’AI e la reale comprensione dei suoi meccanismi interni.
    Nel pezzo (che potreste anche fare in pasto a NotebookLM per generare una overviews o altri materiali divulgativo/didattici) viene illustrato come i modelli trasformino il linguaggio in token, vettori e matrici, utilizzando il meccanismo di attenzione, funzioni non lineari e calcoli probabilistici per generare risposte coerenti.
    Si sottolinea, soprattutto, come gli LLM non ragionino né comprendano il significato come invece avviene per gli esseri umani, spiegando che essi operano attraverso correlazioni statistiche apprese durante l’addestramento.
    La guida, davvero esaustiva, evidenzia inoltre i limiti strutturali dei modelli, come le allucinazioni e la finestra di contesto, e chiarisce che l’apprendimento avviene durante il training, non nelle conversazioni con gli utenti.
    Comprendere questi principi è sempre più essenziale per utilizzare l’AI in modo più consapevole, soprattutto in ambito professionale, aziendale e giuridico.

    Link alla fonte:
    https://www.agendadigitale.eu/cultura-digitale/competenze-digitali/come-funziona-lai-guida-semplice-ai-modelli-linguistici/

  • Anthropic potenzia Claude Sonnet 4.6 con 1 milione di token e focus sul coding

    Anthropic ha rilasciato Claude Sonnet 4.6, aggiornando il modello intermedio della famiglia Claude a poche settimane dal debutto di Claude Opus 4.6.
    La novità principale è l’introduzione, in beta, di una finestra di contesto fino a un milione di token, che consente di analizzare interi codebase, contratti o raccolte di paper in un’unica richiesta.
    Il modello migliora inoltre nelle attività di coding, nell’aderenza alle istruzioni e nell’uso del computer, ottenendo risultati di rilievo in benchmark come SWE-Bench, OS World e ARC-AGI-2.
    Pur restando dietro a modelli più grandi come Gemini 3 Deep Think e una versione ottimizzata di GPT-5.2, Sonnet 4.6 si propone come il miglior compromesso tra prestazioni e costi per utenti Free e Pro.

    Link alla fonte:
    https://www.punto-informatico.it/claude-sonnet-4-6-coding-migliore-finestra-contesto-enorme/