NVIDIA rivoluziona i supercomputer con nuovi chip AI

NVIDIA ha recentemente annunciato il lancio della sua prossima generazione di chip AI per supercomputer. Questi chip rappresentano un significativo salto in avanti rispetto alla generazione precedente e giocheranno un ruolo fondamentale negli sviluppi futuri nell’apprendimento profondo e nei modelli linguistici di grandi dimensioni (LLM), come ad esempio GPT-4 di OpenAI.

La tecnologia di questi chip si presta a essere utilizzata in data center e supercomputer per compiti come la previsione del tempo e del clima, la scoperta di farmaci, il calcolo quantistico e molto altro ancora.

La nuova GPU HGX H200 basata su architettura “Hopper”

Uno dei prodotti chiave presentati da NVIDIA è la GPU HGX H200 basata sull’architettura “Hopper”. Questo chip rappresenta un sostituto dell’ampiamente diffuso H100 GPU. La novità principale di questa GPU è l’utilizzo della memoria HBM3e, che è più veloce e ha una capacità maggiore, rendendola particolarmente adatta per i modelli linguistici di grandi dimensioni. La NVIDIA H200, grazie alla memoria HBM3e, offre 141GB di memoria a una velocità di 4.8 terabyte al secondo, quasi il doppio della capacità e con una larghezza di banda 2.4 volte superiore rispetto al suo predecessore, la NVIDIA A100.

Secondo NVIDIA, la GPU HGX H200 offre il doppio della velocità di inferenza su Llama 2, un LLM con 70 miliardi di parametri, rispetto alla H100. Questo chip sarà disponibile nelle configurazioni a 4 e 8 vie, compatibili sia con il software che con l’hardware dei sistemi H100. Sarà compatibile con ogni tipo di data center, sia on-premises che cloud, hybrid-cloud e edge, e sarà implementato da Amazon Web Services, Google Cloud, Microsoft Azure e Oracle Cloud Infrastructure, tra gli altri. La sua uscita è prevista per il secondo trimestre del 2024.

La superchip GH200 Grace Hopper

Un altro prodotto chiave presentato da NVIDIA è la superchip GH200 Grace Hopper, che combina la GPU HGX H200 con la CPU NVIDIA Grace basata su architettura Arm utilizzando l’interconnessione NVLink-C2C dell’azienda. Questo chip è progettato per i supercomputer e consente a scienziati e ricercatori di affrontare i problemi più complessi accelerando le applicazioni AI e HPC che lavorano su terabyte di dati.

La GH200 sarà utilizzata in oltre 40 supercomputer AI in tutto il mondo, in centri di ricerca, aziende produttrici di sistemi e fornitori di servizi cloud. Tra i partner di NVIDIA ci sono Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT e Supermicro. Tra i supercomputer più importanti che utilizzeranno la superchip Grace Hopper ci sono i Cray EX2500 di HPE, che utilizzeranno quattro GH200 e potranno arrivare a decine di migliaia di nodi con la Grace Hopper Superchip.

Uno dei supercomputer più importanti sarà JUPITER, situato presso la struttura di Jülich in Germania, che diventerà il “sistema AI più potente del mondo” una volta installato nel 2024. JUPITER utilizza un’architettura a raffreddamento liquido, con un modulo booster composto da quasi 24.000 NVIDIA GH200 Superchips interconnessi con la piattaforma di rete NVIDIA Quantum-2 InfiniBand.

Applicazioni e benefici

NVIDIA sostiene che JUPITER contribuirà a fare progressi scientifici in diverse aree, come la previsione del clima e del tempo, la generazione di simulazioni climatiche e meteorologiche ad alta risoluzione con visualizzazione interattiva. Sarà inoltre impiegato nella scoperta di farmaci, nel calcolo quantistico e nell’ingegneria industriale. Molti di questi settori utilizzano soluzioni software personalizzate di NVIDIA che semplificano lo sviluppo, ma che rendono anche i gruppi di supercalcolo dipendenti dall’hardware NVIDIA.

Le nuove tecnologie saranno fondamentali per NVIDIA, che attualmente genera la maggior parte dei suoi ricavi dai segmenti AI e data center. Lo scorso trimestre l’azienda ha registrato un fatturato record di 10.32 miliardi di dollari solo in questo settore (su un totale di 13.51 miliardi di dollari di fatturato), in aumento del 171% rispetto all’anno precedente. NVIDIA spera che le nuove GPU e superchip contribuiranno a mantenere questa tendenza. Proprio la scorsa settimana, NVIDIA ha battuto il suo stesso record di benchmark di addestramento AI utilizzando la tecnologia H100 precedente, quindi la nuova tecnologia dovrebbe aiutarla a mantenere il vantaggio sui rivali in un settore in cui è già leader.