Google розкрила архітектуру TPU 8t, реалізовану через мережу Virgo для міжфреймового з'єднання, з використанням високонагірних комутаторів та плоскої двошарової безблокової топології, що забезпечує збільшення пропускної здатності у 4 рази, з'єднання 134 000 чипів у одній структурі, 47 Pb/s безблокової пропускної здатності, майже лінійне масштабування до 1,7K ExaFlops. TPU 8t використовує топологію у вигляді 3D кільця, один суперкаскад з 9600 чипів, що може бути розширений через JAX/Pathways до понад 1 мільйона чипів. Основні технології включають SparseCore, перекриття та балансування VPU/MXU, нативний FP4, інтегрований CPU Arm Axion, орієнтовані на еволюцію від щільних великих мовних моделей до масштабних гібридних експертних та архітектур для виведення.

MeNews

2026-05-27 00:39:22

Генерація анотацій у процесі

AIMPACT повідомлення, 16 травня (UTC+8), Google розкрив архітектурні деталі восьмого покоління TPU (TPU 8t), підключеного до мережі Virgo на рівні рами.
Ця мережа використовує високонаступні комутатори та плоску двошарову безблокову топологію, підвищуючи пропускну здатність мережі дата-центру у 4 рази порівняно з попередніми поколіннями, одна структура може підключати понад 134 000 чипів TPU 8t, забезпечуючи 47 Pb/s безблокової двонапрямної пропускної здатності та майже лінійне масштабування продуктивності понад 1,7K ExaFlops.
Сам TPU 8t використовує топологію 3D кільця, один суперкабель може масштабуватися до 9600 чипів, а також підтримує масштабування понад мільйон чипів через JAX і Pathways.
Ключові технології включають прискорювач SparseCore, перекриття та балансування VPU/MXU, нативну підтримку FP4, а також інтеграцію CPU на базі Arm Axion для усунення вузьких місць у хості.
Цей дизайн орієнтований на еволюцію моделей штучного інтелекту від щільних великих мовних моделей до масштабних гібридних експертних моделей та архітектур, орієнтованих на інференцію.
(Джерело: InFoQ)

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

10 лайків

Нагородити
10
10
2
Поділіться

Прокоментувати

Додати коментар

GateUser-1bc81bb2

· 32хв. тому

Від TPU v4 до 8t — така швидкість ітерації не дає NVIDIA заснути.