Nvidia lance la plateforme DSX, poursuivant son expansion vers l'infrastructure des usines d'IA

Organisation : Caixin Data

NVIDIA (NVDA.O) a annoncé lors de la conférence NVIDIA GTC Taipei à Taipei, Taïwan, la plateforme NVIDIA DSX, étendant davantage ses activités dans le domaine des infrastructures d'usines d'IA.

Contrairement au passé où la vente de GPU était au centre, DSX tente d'offrir aux entreprises une solution complète d'usine d'IA, allant de la conception, la simulation, le déploiement à la gestion opérationnelle.

Avec l'augmentation constante de la taille des modèles d'IA, les défis des centres de données ne se limitent plus à la performance des puces, mais concernent également l'alimentation électrique, la capacité de refroidissement, la gestion des ressources et l'efficacité opérationnelle globale. NVIDIA estime que, à l'avenir, les indicateurs clés de compétitivité dans l'industrie de l'IA évolueront progressivement de la performance d'une seule puce vers l'efficacité globale des infrastructures, c'est-à-dire comment produire plus de puissance de calcul et de services intelligents avec des ressources limitées en électricité, espace et autres.

Pour cela, la plateforme DSX intègre les puces, systèmes, logiciels, architectures de référence et technologies partenaires de NVIDIA, couvrant tout le cycle de vie de la construction et de l'exploitation d'une usine d'IA. La plateforme, grâce à une stack technologique unifiée de calcul, logiciels et infrastructures, aide les clients à améliorer la rapidité de déploiement, la fiabilité et l'efficacité opérationnelle, tout en réduisant le coût des tokens générés lors de l'inférence IA.

Jensen Huang a déclaré :

« Nous ne livrons pas seulement des puces — nous fournissons à chaque constructeur d'infrastructures une méthode complète pour construire une usine d'IA. Avec la plateforme DSX, vous pouvez simuler toute l'usine sans dépenser un centime, valider la performance avant même d'installer la première armoire, et exploiter avec la fiabilité nécessaire pour une IA en production. »

Les principaux systèmes logiciels annoncés incluent DSX MaxLPS et DSX OS.

Le DSX MaxLPS utilise une technologie de refroidissement liquide à 45 degrés Celsius et une optimisation de la consommation d'énergie au niveau des racks pour augmenter la production de tokens par mégawatt. NVIDIA indique que cette technologie permet d'ajouter jusqu'à 40 % de GPU supplémentaires avec un impact minimal sur la performance, réduisant ainsi davantage le coût de calcul dans un budget électrique fixe.

DSX OS est une plateforme logicielle open source pour l'exploitation des usines d'IA, supportant la gestion du cycle de vie, la planification intelligente, l'automatisation de la santé, l'exploitation multi-locataires et les services de plateforme. NVIDIA prévoit également d'ouvrir la bibliothèque logicielle modulaire, les API, les designs de référence et la plateforme de calcul accéléré pour construire une architecture logicielle unifiée.

En plus du logiciel principal, DSX intègre plusieurs capacités existantes. La conception de référence DSX couvre l'architecture pour le calcul, le réseau, le stockage, l'alimentation et la refroidissement ; DSX Sim supporte la simulation numérique et l'optimisation tout au long du processus, de la planification à l'exploitation ; DSX Flex ajuste dynamiquement la charge de travail en fonction de la demande du réseau électrique et des prix ; enfin, DSX Exchange permet la collaboration de données entre les systèmes de calcul, réseau, énergie et refroidissement.

Concernant la mise en œuvre commerciale, des fournisseurs de cloud tels que CoreWeave, Crusoe, IREN et Lambda ont déjà déployé des composants clés de DSX pour améliorer l'utilisation des GPU et réduire le délai de mise sur le marché des services cloud IA.

L'écosystème matériel s'étend également. Dell Technologies (DELL.N), HPE (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), Asus, Foxconn, GIGABYTE, Wistron et Quanta Cloud Technology développent des systèmes NVIDIA DSX prêts à l'emploi pour aider les clients à construire des usines d'IA complètes.

Par ailleurs, DSX Flex a lancé des projets pilotes commerciaux avec Emerald AI et Silicon Valley Power, validant la capacité d'ajuster dynamiquement la consommation d'énergie en fonction des besoins du réseau électrique.

Sur le plan stratégique, DSX marque la transition continue de NVIDIA, passant d'un fournisseur de puces IA à un fournisseur de plateformes d'infrastructures IA. En intégrant puces, logiciels, architectures de centres de données, gestion opérationnelle et gestion de l'énergie dans un système unifié, NVIDIA souhaite établir une norme industrielle couvrant tout le cycle de vie des usines d'IA et renforcer sa position de leader sur le marché mondial des infrastructures IA.