La nouvelle génération d'architecture de puces d'IA ultra-rapides est officiellement lancée, avec des performances qui ont réalisé des avancées significatives. Par rapport à la génération précédente, le coût de l'inférence a été réduit à un dixième, ce qui constitue un tournant pour la rentabilité du déploiement de modèles à grande échelle. Par ailleurs, le nombre de GPU nécessaire pour l'entraînement a été réduit de 75 %, ce qui signifie que les entreprises peuvent réaliser les mêmes tâches de calcul avec moins de matériel. En termes d'efficacité énergétique, une amélioration de cinq fois a été atteinte, ce qui réduit considérablement la consommation d'énergie et la pression thermique pour une puissance de calcul équivalente.

Les innovations au niveau de l'architecture technique sont également remarquables — pour la première fois, la capacité de calcul confidentiel a été réalisée au niveau du rack, avec une bande passante inter-GPU atteignant un niveau impressionnant de 260 TB/s. Ce débit de flux de données est suffisant pour soutenir des scénarios de calcul parallèle à très grande échelle. La plateforme a été entièrement repensée, abandonnant les câbles souples et les solutions de ventilateurs traditionnels, pour adopter une organisation matérielle plus compacte et efficace. Le moteur central est composé de six modules modulaires, offrant une plus grande flexibilité pour la personnalisation et l'extension. La sortie de cette génération de produits va sans aucun doute remodeler la structure des coûts et les méthodes de déploiement du marché de la puissance de calcul IA.