Google a publié la huitième génération de TPU, la formation et l'inférence étant désormais séparées en deux puces indépendantes

robot
Création du résumé en cours
ME News Actualités, le 22 avril (UTC+8), selon le monitoring de Beating, le PDG de Google Sundar Pichai a présenté la huitième génération de TPU lors de Cloud Next 2026, séparant pour la première fois l'entraînement et l'inférence en deux puces indépendantes. TPU 8t destiné à l'entraînement. Un seul nœud super peut connecter 9600 TPU, offrant une puissance de calcul de 121 ExaFlops et 2PB de mémoire à haute bande passante partagée, avec des performances de traitement 3 fois supérieures à la génération précédente Ironwood, et une efficacité énergétique améliorée jusqu'à 2 fois. La bande passante d'interconnexion entre les puces double, en association avec la nouvelle topologie réseau Virgo, pouvant former jusqu'à un million de puces en un seul cluster logique, permettant une extension quasi linéaire. Google affirme que l'objectif est de réduire le cycle de développement des modèles de pointe de plusieurs mois à quelques semaines. TPU 8i destiné à l'inférence. Un seul pod connecte 1152 TPU, équipé de 288 Go de mémoire à haute bande passante et de 384 Mo de SRAM intégré, ce dernier étant 3 fois plus grand que celui d'Ironwood, pour garder autant que possible les données du modèle actif sur la puce. La nouvelle topologie réseau Boardfly réduit considérablement la latence, Google indique qu'à coût égal, elle peut servir près du double de clients, avec pour objectif de supporter des millions d'agents en fonctionnement simultané. Les deux puces sont hébergées sur le CPU Axion d'architecture Arm développée par Google, associé à un refroidissement liquide de quatrième génération. La sortie est prévue pour la fin 2026 sur la plateforme Google Cloud AI Hypercomputer, en parallèle avec les instances GPU d'NVIDIA. (Source : BlockBeats)
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé