NVIDIA Blackwell offre une augmentation de 4x de l'inférence pour les modèles AI souverains de Sarvam en Inde — la conception conjointe matériel-logiciel permet d'atteindre une accélération de 4x de la vitesse d'inférence pour les modèles de 30 milliards de paramètres de Sarvam AI, mettant en valeur les capacités de Blackwell avec NVFP4. 🚀
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
NVIDIA Blackwell offre une augmentation de 4x de l'inférence pour les modèles AI souverains de Sarvam en Inde — la conception conjointe matériel-logiciel permet d'atteindre une accélération de 4x de la vitesse d'inférence pour les modèles de 30 milliards de paramètres de Sarvam AI, mettant en valeur les capacités de Blackwell avec NVFP4. 🚀