Tag: AILocale

  • Qwopus porta il ragionamento stile Claude Opus su PC consumer?

    Uno sviluppatore indipendente, Jackrong, ha creato Qwopus, una famiglia di modelli AI open source che replica il ragionamento avanzato di Claude Opus tramite tecniche di distillazione.
    Basato su Qwen3.5-27B di Alibaba, il modello è stato addestrato con dati di “chain-of-thought” per imitare il processo decisionale passo-passo di modelli più potenti.
    La nuova versione Qwopus 3.5-27B v3 introduce un approccio di “allineamento strutturale” e migliora significativamente le performance, raggiungendo oltre il 95% su HumanEval.
    Il sistema è progettato per funzionare localmente su hardware consumer, anche su laptop con GPU limitata, offrendo un’alternativa gratuita alle API proprietarie.
    Questo lo rende particolarmente rilevante per sviluppatori, analisti e utenti attenti alla privacy e ai costi.

    Link alla fonte:
    https://decrypt.co/es/364255/qwopus-modelo-local-claude-opus-razonamiento-gpu?amp=1

  • Gemma 4, l’AI locale che funziona sul tuo smartphone

    Con la nuova versione di Google AI Edge Gallery, l’applicazione di AI locale di Google, è stato finalmente reso disponibile il nuovo modello Gemma 4, che come la precedente versione 3 può essere scaricato e testato direttamente sullo smartphone.

    L’applicazione si presenta molto più completa, addirittura offrendo un pannello con le impostazioni dei principali parametri per gli LLM, e la velocità di risposta appare soddisfacente a patto di utilizzare un dispositivo di fascia medio-alta.

    Non ho ancora testato a fondo i due modelli disponibili, ma per chi fosse curioso allego qui sotto due file, steiner1.pdf e steiner2.pdf, che contendono la risposta a un prompt di prova iniziale (lo trovate nel titolo del documento) da parte dei rispettivi LLM.

    L’impressione è che, nonostante l’ottimizzazione estrema, la qualità delle risposte, ottenute senza attivare la funzione di “ragionamento”, ha un livello che potremmo definire pari a quello dei chatbot più popolari quando usano i modelli di base. Anche l’italiano mi è parso eccellente, al di là di qualche rarissimo refuso dovuto a una traduzione letterale o comunque non corretta in cui il modello di è “inventato” il termine nella nostra lingua.

    In ogni caso giudicate voi stessi, leggendo i due risultati, e se ve la sentite scaricate l’app Edge Gallery e almeno uno dei due nuovi modelli, ricordandovi che richiederanno spazio sia sulla memoria centrale sia su quella dei dati nel vostro smartphone.

  • ASUS lancia UGen300: AI generativa offline in formato USB

    ASUS presenta UGen300, un motore di intelligenza artificiale portatile che consente di eseguire modelli generativi direttamente in locale senza bisogno del cloud.
    Il dispositivo, basato su processore Hailo-10H e dotato di 8 GB di RAM, raggiunge una potenza di 40 TOPS ed è compatibile con framework come TensorFlow, PyTorch e ONNX.
    Collegabile via USB-C e supportato su Windows, Linux e Android, punta a offrire bassa latenza, maggiore sicurezza dei dati e riduzione dei costi rispetto alle soluzioni cloud.
    Con consumi ridotti (2,5 W) e dimensioni compatte, si propone come soluzione ideale per sviluppatori, professionisti e ambito educativo.
    Il lancio è previsto entro l’estate, ma il prezzo non è ancora stato annunciato.

    Link alla fonte:
    https://www.hdblog.it/hardware/articoli/n654417/ai-senza-cloud-asus-ugen300-collega-cavo-usb/