Цей TPU 8t від Google з пропускною здатністю 47 Pb/s мене здивував, чи це мільйонний кластер чипів — чи це піднімається до небес?

Google розкрила архітектуру TPU 8t, реалізовану через мережу Virgo для міжфреймового з'єднання, з використанням високонагірних комутаторів та плоскої двошарової безблокової топології, що забезпечує збільшення пропускної здатності у 4 рази, з'єднання 13,4 тисячі чипів у одній структурі, 47 Pb/s безблокової пропускної здатності, майже лінійне масштабування до 1,7K ExaFlops. TPU 8t використовує топологію у вигляді 3D кільця, один суперкаскад з 9600 чипів, що може бути розширений через JAX/Pathways до понад 1 мільйона чипів. Основні технології включають SparseCore, перекриття та балансування VPU/MXU, нативний FP4, інтегрований CPU Arm Axion, орієнтовані на еволюцію від щільних великих мовних моделей до масштабних гібридних експертних та архітектур для виведення.