Moduli processori per server AI interconnessi da fibre ottiche, fotografia prodotto di data center

NVIDIA Vera Rubin: 10x più token per watt e il dominio sui chip AI

Con Vera Rubin NVL72 NVIDIA non si limita a offrire più potenza GPU: punta a diventare il fornitore unico di CPU e GPU per i data center AI. Il primo benchmark su DeepSeek-R1, condotto da CoreWeave, registra un salto di 10x nei token per megawatt rispetto alla generazione Grace Blackwell, mentre Microsoft, Google Cloud, Oracle e Mistral accelerano l’adozione su scala globale. Dietro le specifiche tecniche c’è una strategia chiara: controllare ogni chip nell’infrastruttura AI, dal silicio alla rete.

Il sistema Vera Rubin NVL72: CPU Vera, NVLink 6 e networking co-progettati

La piattaforma unisce sette chip e cinque rack co-progettati come un unico sistema, dalla CPU ai commutatori ottici. Ogni rack Vera Rubin NVL72 accoppia 36 CPU Vera con 72 GPU Rubin e integra il fabric NVLink di sesta generazione, che offre il doppio della throughput, 3x meno latenza e 10x il tasso di pacchetti rispetto a Ethernet standard. Per la scalabilità orizzontale, la rete Spectrum-X Ethernet utilizza switch Spectrum-6 da 102,4 Tb/s e SuperNIC ConnectX-9 da 1,6 Tb/s, con un miglioramento del 60% nella larghezza di banda RDMA.

La CPU Vera abbandona l’architettura chiplet a favore di un design monolitico basato sul core Olympus personalizzato. Rispetto ai progetti chiplet concorrenti, NVIDIA dichiara 2x di prestazioni single-thread, 3x di banda core-to-core e una latenza della memoria ridotta del 40%. Hannah Coutand, responsabile marketing CPU di NVIDIA, spiega che “cucire insieme più chiplet impone una tassa pesante su banda e movimento dei dati, mentre il design monolitico di Vera Rubin permette ai dati di muoversi più rapidamente su un singolo circuito integrato” (parafrasando da WIRED).

L’assemblaggio è stato ripensato: niente cavi, ventole o tubi nel tray di calcolo, tempo di installazione ridotto da ore a un minuto. Il raffreddamento a liquido accetta acqua a 45 gradi Celsius in ingresso, abilitando dry-cooler senza gruppi frigoriferi, con un risparmio di milioni di litri d’acqua per megawatt all’anno.

Moduli processori per server AI interconnessi da fibre ottiche, fotografia prodotto di data center
La piattaforma Vera Rubin NVL72 unisce CPU, GPU e rete in un sistema integrato per l'AI su scala industriale.

Benchmark e prime adozioni: CoreWeave, Google Cloud e l’Europa

CoreWeave ha acceso il primo rack Vera Rubin NVL72 e ha eseguito DeepSeek-R1: 10x più token al secondo per megawatt rispetto a un Grace Blackwell NVL72. Il merito è anche del fabric all-to-all NVLink 6 da 260 TB/s, che fa comportare l’intero rack come un acceleratore unificato, e degli switch liquid-cooled Spectrum-X SN6600-LD, che portano la capacità di switching a 1,64 Pb/s per rack — il doppio della generazione precedente ad aria.

Anche Google Cloud ha acceso la sua istanza bare-metal A5X basata su Vera Rubin NVL72. Il primo cliente, la startup londinese Ineffable Intelligence, sta testando sistemi di “superlearner” addestrati con apprendimento per rinforzo su ambienti paralleli massivi. “L’era della ricerca di nuova generazione ha bisogno dell’hardware di nuova generazione”, ha dichiarato il cofondatore Lasse Espeholt, sottolineando il supporto immediato ricevuto da NVIDIA e Google Cloud.

Sul fronte europeo, Microsoft e Mistral hanno annunciato un accordo multimiliardario che usa Vera Rubin come base per l’infrastruttura AI sovrana. Rispetto a GB200 NVL72, il nuovo sistema promette 10x più token per megawatt e un costo per milione di token ridotto a un decimo, un fattore decisivo quando i carichi di lavoro agentici consumano fino a 15 volte più token delle applicazioni AI tradizionali.

Perché NVIDIA punta a controllare ogni chip nel data center

La presentazione a meno di una settimana dall’evento annuale di AMD non è casuale. Con Vera Rubin NVIDIA mette sul mercato una CPU per data center basata su architettura ARM, venduta anche come prodotto autonomo e — secondo quanto riportato da WIRED — già proposta a clienti cinesi con disponibilità già ad agosto. Ian Buck, vicepresidente del calcolo accelerato NVIDIA, ha riassunto la posta in gioco: “Siamo su una roadmap per sfornare nuove architetture, non solo GPU ma CPU. Continueremo a innovare, perché nella Silicon Valley è innovare o morire.”

Il passaggio dal ruolo di specialista GPU a fornitore di sistemi completi risponde alla domanda dei carichi agentici, che richiedono orchestrazione di dati, rete e inferenza a bassissima latenza. La scelta del monolite su chiplet, il networking fotonico con ottiche co-packaged (che riduce di 5x la potenza rispetto ai ricetrasmettitori pluggable e di 10x il tempo medio tra interruzioni) e l’apertura del fabric NVLink a XPU di terze parti tramite NVLink Fusion compongono un ecosistema in cui NVIDIA può dettare le regole. Per chi costruisce AI factory vincolate dalla potenza elettrica, avere 10 volte più intelligenza per ogni watt significa scalare senza moltiplicare il costo energetico. Vera Rubin è il veicolo per arrivarci, ed è già in produzione su 350 siti industriali in 30 paesi.

Fonti

Francesco Leone
Francesco Leone

Francesco Leone è un esperto in Intelligenza Artificiale con una profonda conoscenza in Machine Learning e Deep Learning. Attraverso la sua esperienza, ha contribuito allo sviluppo di soluzioni innovative in ambito di elaborazione del linguaggio naturale e visione artificiale, mirando a trasformare il modo in cui interagiamo con la tecnologia. Attivo nel settore con pubblicazioni e progetti su https://ital-ia.it/, Francesco si dedica alla ricerca e all'applicazione di algoritmi avanzati per rendere i sistemi più intelligenti e accessibili.

Articoli: 567

Lascia una risposta

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *