Nvidia ha annunciato che il suo nuovo superchip AI “Grace Hopper”, una combinazione di CPU e GPU progettata per applicazioni AI su larga scala, è entrato in piena produzione. Il chip, che è un mostro in termini di potenza di calcolo, dispone di 528 tensor core GPU, supporta fino a 480GB di RAM CPU e 96GB di RAM GPU, e vanta una larghezza di banda della memoria GPU fino a 4TB al secondo.
Dettagli sul superchip Grace Hopper di Nvidia
Il superchip Grace Hopper di Nvidia prende il nome da Grace Hopper, pioniera dell’informatica. Il chip combina la piattaforma CPU “Grace” di Nvidia con la sua fondazione “Hopper”, unendo il tutto in un unico chip attraverso la tecnologia di interconnessione chip-to-chip (C2C) NVLink di Nvidia. L’azienda si aspetta che questa combinazione acceleri notevolmente le applicazioni di AI e machine learning, sia in fase di addestramento (creazione di un modello) che di inferenza (esecuzione).
Caratteristiche chiave del GH200
Le caratteristiche chiave del GH200 includono una nuova interfaccia di memoria condivisa da 900GB/s, che è sette volte più veloce di PCIe Gen5. Il GH200 offre anche una larghezza di banda di memoria di sistema aggregata 30 volte superiore alla GPU rispetto al Nvidia DGX A100. Inoltre, il GH200 può eseguire tutte le piattaforme software Nvidia, tra cui Nvidia HPC SDK, Nvidia AI e Nvidia Omniverse.
Il nuovo supercomputer DGX GH200 di Nvidia
Nvidia ha anche annunciato che costruirà questo chip combo CPU/GPU in un nuovo supercomputer chiamato DGX GH200, che può utilizzare la potenza combinata di 256 chip GH200 per funzionare come una singola GPU, fornendo 1 exaflop di prestazioni e 144 terabyte di memoria condivisa, quasi 500 volte più memoria rispetto alla generazione precedente Nvidia DGX A100. Il DGX GH200 sarà in grado di addestrare modelli AI di prossima generazione di grandi dimensioni per applicazioni di linguaggio generativo, sistemi di raccomandazione e analisi dei dati.