Google lanza la octava generación de TPU, el entrenamiento y la inferencia se dividen por primera vez en dos chips independientes

ME News Noticias, 22 de abril (UTC+8), según la monitorización de Dongcha Beating, el CEO de Google Sundar Pichai anunció en Cloud Next 2026 la octava generación de TPU, que por primera vez separa el entrenamiento y la inferencia en dos chips independientes. TPU 8t está orientado al entrenamiento. Un solo nodo superpuente puede conectar 9600 TPU, ofreciendo 121 ExaFlops de potencia de cálculo y 2PB de memoria de alta ancho de banda compartida, con un rendimiento de procesamiento 3 veces mayor que la generación anterior Ironwood y una mejora en eficiencia energética de hasta 2 veces. La interconexión entre chips duplica el ancho de banda, junto con la nueva topología de red Virgo, que puede formar un clúster lógico con hasta un millón de chips, logrando una expansión casi lineal. Google afirma que el objetivo es reducir el ciclo de desarrollo de modelos de vanguardia de varios meses a varias semanas. TPU 8i está orientado a la inferencia. Un solo pod conecta 1152 TPU, equipado con 288GB de memoria de alta ancho de banda y 384MB de SRAM en chip, este último 3 veces mayor que Ironwood, para mantener los datos del modelo activo en el chip tanto como sea posible. La nueva topología de red Boardfly reduce significativamente la latencia, y Google afirma que puede atender casi el doble de clientes con el mismo costo, con el objetivo de soportar millones de agentes en funcionamiento simultáneo. Ambos chips están alojados en la CPU Axion de arquitectura Arm desarrollada por Google, junto con la refrigeración líquida de cuarta generación. Se planea que estén disponibles oficialmente a finales de 2026 en la plataforma Google Cloud AI Hypercomputer, junto con las instancias GPU de Nvidia. (Fuente: BlockBeats)