Google lanza la octava generación de TPU, el entrenamiento y la inferencia se dividen por primera vez en dos chips independientes

Noticias de ME News, 22 de abril (UTC+8), según la monitorización de Dongcha Beating, el CEO de Google Sundar Pichai anunció en Cloud Next 2026 la octava generación de TPU, que por primera vez divide el entrenamiento y la inferencia en dos chips independientes.
TPU 8t orientado al entrenamiento.
Un solo nodo superpuente puede conectar 9600 TPU, ofreciendo 121 ExaFlops de potencia de cálculo y 2PB de memoria compartida de alto ancho de banda, con un rendimiento de procesamiento 3 veces mayor que la generación anterior Ironwood, y una eficiencia energética mejorada hasta 2 veces.
El ancho de banda de interconexión entre chips se duplica, junto con la nueva topología de red Virgo, que puede formar un clúster lógico con hasta un millón de chips, logrando una expansión casi lineal.
Google afirma que el objetivo es reducir el ciclo de desarrollo de modelos de vanguardia de varios meses a unas pocas semanas.
TPU 8i orientado a la inferencia.
Un solo pod conecta 1152 TPU, equipado con 288GB de memoria de alto ancho de banda y 384MB de SRAM en chip, que es 3 veces mayor que Ironwood, para mantener los datos del modelo activo en el chip tanto como sea posible.
La nueva topología de red Boardfly reduce significativamente la latencia, y Google afirma que puede atender casi el doble de clientes con el mismo costo, con el objetivo de soportar millones de agentes en ejecución simultánea.
Ambos chips se alojan en la CPU Axion de arquitectura Arm desarrollada por Google, junto con una refrigeración líquida de cuarta generación.
Se planea que estén disponibles oficialmente a finales de 2026 en la plataforma Google Cloud AI Hypercomputer, junto con las instancias GPU de Nvidia.
（Fuente: BlockBeats）