Tag: GPU

  • NVIDIA presenta Vera Rubin (NVL72): 72 GPU unite da NVLink per spingere l’AI oltre la legge di Moore

    NVIDIA ha svelato “Vera Rubin”, un nuovo supercomputer a scala rack (NVL72) che integra 72 GPU collegate tramite NVLink per operare come un unico sistema ad altissima banda e bassa latenza.
    Il progetto nasce dall’esigenza di colmare il divario tra crescita esplosiva dei modelli AI e limiti fisici/energetici dei data center, puntando su un redesign verticale dell’intero stack: CPU Vera, GPU Rubin, networking ConnectX-9, switch NVLink di nuova generazione e componenti dedicati alla memoria contestuale.
    Tra le innovazioni chiave spiccano l’efficienza “per watt” (cruciale in data center con budget di potenza fisso), nuove logiche di calcolo come NVFP4 TensorCore e un assemblaggio drasticamente semplificato (fino a “zero cavi” e montaggio in pochi minuti) con raffreddamento a liquido ottimizzato.
    L’obiettivo dichiarato è ridurre il costo per token e rendere praticabili carichi di training/inferenza su scala molto più grande, abilitando una nuova ondata di applicazioni e robotica avanzata.

    Link alla fonte:
    https://www.dday.it/redazione/55846/vera-rubin-il-nuovo-super-computer-nvidia-e-un-miracolo-di-ingegneria

  • OpenAI punta a 1 milione di GPU nel 2025, ma la corsa all’AI ha un prezzo altissimo

    Sam Altman ha annunciato che OpenAI prevede di attivare oltre 1 milione di GPU entro la fine del 2025 per sostenere modelli avanzati come ChatGPT e Sora. L’ambizione, dichiarata in modo provocatorio, è di raggiungere 100 milioni di GPU, ma i costi stimati superano i 3.000 miliardi di dollari, rendendo il traguardo finanziariamente insostenibile al momento. Le difficoltà nel reperire risorse hanno costretto l’azienda a ridimensionare progetti come Stargate. Intanto, la concorrenza con Meta e la necessità di attirare nuovi investimenti rappresentano una sfida critica per l’espansione futura di OpenAI.

    Link alla fonte:
    https://www.hdblog.it/business/articoli/n626147/sam-altman-openai-necessita-100-milioni-gpu/