Apprezzato da Jensen Huang Per portare l’intelligenza artificiale in ogni data center, The NVIDIA Il co-fondatore e CEO ha detto oggi durante il Computex di Taipei. Durante il primo discorso pubblico di Huang in quasi quattro anni, ha fatto diversi annunci, comprese le date di rilascio del chip, il suo supercomputer DGX GH200 e le partnership con le principali aziende. Ecco tutte le notizie dal keynote di due ore.
1. La GPU GForce RTX 4080 Ti di Nvidia per i giocatori è ora in piena produzione e “prodotta in serie” con partner a Taiwan.
2. Huang ha annunciato Nvidia Avatar Cloud Engine (ACE) per i giochi, un servizio personalizzabile di AI Model Foundry con modelli pre-addestrati per gli sviluppatori di giochi. Darà agli NPC un carattere extra attraverso le interazioni linguistiche basate sull’intelligenza artificiale.
3. Il modello di elaborazione Nvidia Kuta ora serve quattro milioni di sviluppatori e più di 3.000 applicazioni. Cuda ha visto oltre 40 milioni di download, inclusi 25 milioni di download solo l’anno scorso.
4. La produzione su larga scala del server GPU HGX H100 è iniziata e “viene prodotto da aziende di tutta Taiwan”, ha affermato Huang. Ha anche affermato che era il primo computer al mondo con un motore trasformatore.
5. Huang ha definito l’acquisizione da parte di Nvidia del produttore di chip per supercomputer Mellanox nel 2019 per 6,9 miliardi di dollari “una delle più grandi decisioni strategiche”.
6. La produzione della prossima generazione di GPU Hopper inizierà nell’agosto 2024, esattamente due anni dopo l’inizio della produzione della prima generazione.
7. Il GH200 Grace Hopper di Nvidia è ora in piena produzione. SuperChip 4 PetaFIOPS TE sfrutta 72 CPU ARM, 96 GB HBM3 e 576 GPU di memoria collegate tramite connettività chip-to-chip. Huang lo ha descritto come il primo processore per computer accelerato al mondo, che ha anche una memoria gigante: “È un computer, non un chip”. È progettato per applicazioni di data center ad alta resistenza.
8. Se la memoria di Grace Hopper non è sufficiente, Nvidia ha una soluzione: il DGX GH200. È stato creato collegando prima otto Grays Hopper a tre switch NVLINK, quindi collegando i pod insieme a 900 GB. Infine, 32 sono collegati insieme a un altro strato di interruttori per collegare un totale di 256 chip tramoggia grigi. Il risultante ExaFLOPS Transformer Engine funge da GPU gigante con 144 TB di memoria GPU. Grace Hopper è così veloce che può eseguire il livello 5G nel software, ha affermato Huang. Google Cloud, Meta e Microsoft saranno le prime aziende ad accedere al DGX GH200 ed esplorarne le capacità.
9. Nvidia e SoftBank hanno stretto una partnership per introdurre il Grace Hopper Superchip nei nuovi data center distribuiti di SoftBank in Giappone. Ospita applicazioni wireless e AI generative su una piattaforma server comune per più tenant, riducendo costi ed energia.
10. La partnership SoftBank-Nvidia si basa sull’architettura di riferimento Nvidia MGX, attualmente utilizzata dalle aziende di Taiwan. Fornisce un framework di riferimento modulare che consente ai produttori di computer di creare più di 100 varianti di server per intelligenza artificiale, calcolo accelerato e applicazioni omniverse. Le joint venture includono ASRock Rack, Asus, Gigabyte, Pegatron, QCT e Supermicro.
11. Huang ha annunciato la piattaforma di rete accelerata Spectrum-X per accelerare i cloud basati su Ethernet. Dispone di uno switch Spectrum 4 con 128 porte a 400 GB/s e 51,2 T/s. Lo switch è progettato per eseguire un nuovo tipo di Ethernet ed è progettato end-to-end per il routing adattivo, l’isolamento delle prestazioni e l’elaborazione in-fabric, ha affermato Huang. Ha un nick intelligente BlueField 3 che si collega a uno switch Spectrum 4 per controllare la congestione.
12. WPP, la più grande agenzia pubblicitaria del mondo, ha stretto una partnership con Nvidia per costruire un motore di contenuti basato su Nvidia Omniverse. Sarà in grado di creare foto e contenuti video da utilizzare nella pubblicità.
13. La piattaforma robotica Nvidia Isaac ARM è ora disponibile per chiunque desideri costruire robot e dispone di uno stack completo, dai chip ai sensori. Isaac ARM inizia su un chip chiamato Nova Orin ed è il primo stack di riferimento completo per la robotica, ha detto Huang.
Grazie alla sua importanza nell’intelligenza artificiale, le azioni di Nvidia sono aumentate vertiginosamente nell’ultimo anno e attualmente ha una valutazione di mercato di circa $ 960 miliardi, rendendola una delle aziende di maggior valore al mondo (solo Apple, Microsoft, Saudi Aramco, Alphabet e il rango di Amazon più alto).
Il business cinese è fermo
Non c’è dubbio che le società di intelligenza artificiale cinesi stiano tenendo d’occhio il silicio all’avanguardia che Nvidia porta sul tavolo. Nel frattempo, temono un altro round di divieti di chip statunitensi che minacciano di minare i loro progressi nell’IA generativa, che richiederà una potenza di calcolo e dati significativamente maggiore rispetto alle precedenti generazioni di AI.
L’anno scorso il governo degli Stati Uniti ha vietato a Nvidia di vendere le sue unità di elaborazione grafica A100 e H100 alla Cina. Entrambi i chip vengono utilizzati per addestrare modelli linguistici di grandi dimensioni come GPT-4 di OpenAI. L’H100, il suo chip di ultima generazione basato sull’architettura di elaborazione GPU Hopper di Nvidia con il suo motore Transformer integrato, sta registrando una domanda particolarmente forte. Rispetto all’A100H100 può fornire un addestramento AI 9 volte più veloce e un’inferenza AI 30 volte più veloce negli LLM.
La Cina è ovviamente un mercato enorme da non perdere. Il divieto di esportazione di chip è costato a Nvidia 400 milioni di dollari in potenziali vendite solo nel terzo trimestre dello scorso anno. Quindi Nvidia ha fatto ricorso alla vendita di un chip più lento alla Cina che avrebbe soddisfatto le regole di controllo delle esportazioni degli Stati Uniti. Ma a lungo termine, la Cina cercherà alternative ancora più forti e il divieto funge da duro promemoria per la Cina affinché diventi autosufficiente nei settori tecnologici chiave.
Come ha detto di recente Huang Colloquio Con il Financial Times: “Se [China] Non posso comprare dagli Stati Uniti, lo fanno da soli. Quindi l’America dovrebbe stare attenta. La Cina è un mercato molto importante per il settore tecnologico.
