O parâmetro do Google TPU 8t é um pouco absurdo, com uma largura de banda não bloqueante de 47 Pb/s, uma única estrutura pode suportar 134 mil chips, capacidade de expansão de quase um milhão de cartões, e as barreiras do ecossistema do JAX/Pathways estão ficando cada vez mais profundas.

O Google revela a arquitetura TPU 8t, implementando a interconexão de racks através da rede Virgo, usando switches de alta cardinalidade e uma topologia plana de duas camadas sem bloqueios, com aumento de largura de banda de 4 vezes, conectando 134 mil chips com uma largura de banda não bloqueante de 47 Pb/s e uma escalabilidade quase linear de 1,7K ExaFlops.
O TPU 8t utiliza uma topologia de anel 3D, com um único módulo super, contendo 9600 chips, podendo ser expandido para mais de um milhão de chips através do JAX/Pathways.
As principais tecnologias incluem SparseCore, sobreposição e balanceamento de VPU/MXU, FP4 nativo, CPU Arm Axion integrada, voltada para a evolução de modelos de linguagem grandes densos para arquiteturas de especialistas híbridos em larga escala e inferência.