Гугловский TPU 8t с пропускной способностью 47 Pb/с поразил меня, это что, кластер из миллиона чипов — это просто космос?

Google раскрывает архитектуру TPU 8t, реализованную через сеть Virgo для межкамерного соединения, использующую высокоразрядные коммутаторы и плоскую двухуровневую беспрепятственную топологию, увеличивающую пропускную способность в 4 раза, соединяющую 134 000 чипов в одной структуре, с пропускной способностью 47 Pb/s без блокировок и почти линейным масштабированием до 1,7K ExaFlops. TPU 8t использует топологию с трехмерным кольцом, один суперкабель содержит 9600 чипов, и может быть расширен через JAX/Pathways до более чем 1 миллиона чипов. Основные технологии включают SparseCore, перекрытие и балансировку VPU/MXU, нативный FP4, интегрированный CPU Arm Axion, ориентированный на развитие от плотных больших языковых моделей к масштабным гибридным экспертным и архитектурам для вывода.