Google a publié la huitième génération de TPU, la formation et l'inférence étant désormais séparées en deux puces distinctes

ME News Actualités, le 22 avril (UTC+8), selon le monitoring de Dongcha Beating, le PDG de Google Sundar Pichai a annoncé lors de Cloud Next 2026 la huitième génération de TPU, séparant pour la première fois l'entraînement et l'inférence en deux puces indépendantes.
TPU 8t destiné à l'entraînement.
Un seul nœud super peut connecter 9600 TPU, offrant une puissance de calcul de 121 ExaFlops et 2PB de mémoire à haute bande passante partagée, avec des performances de traitement 3 fois supérieures à la génération précédente Ironwood, et une efficacité énergétique améliorée jusqu'à 2 fois.
La bande passante d'interconnexion entre les puces double, combinée au nouveau topologie réseau Virgo, permettant de former un cluster logique unique avec jusqu'à un million de puces, avec une extension quasi linéaire.
Google affirme que l'objectif est de réduire le cycle de développement des modèles de pointe de plusieurs mois à quelques semaines.
TPU 8i destiné à l'inférence.
Un seul pod connecte 1152 TPU, équipé de 288 Go de mémoire à haute bande passante et de 384 Mo de SRAM intégré, ce dernier étant 3 fois plus que Ironwood, pour garder autant que possible les données du modèle actif sur la puce.
La nouvelle topologie réseau Boardfly réduit considérablement la latence, Google affirme qu'à coût égal, elle peut servir près du double de clients, avec pour objectif de supporter des millions d'agents en fonctionnement simultané.
Les deux puces sont hébergées sur le CPU Axion basé sur l'architecture Arm développée en interne par Google, avec un refroidissement liquide de quatrième génération.
Prévu pour une disponibilité officielle fin 2026 sur la plateforme Google Cloud AI Hypercomputer, en parallèle avec les instances GPU Nvidia.
(Source : BlockBeats)
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire