Google розкрила архітектуру TPU 8t, реалізовану через мережу Virgo для міжфреймового з'єднання, з використанням високонаселених комутаторів та плоскої двошарової безблокової топології, що забезпечує збільшення пропускної здатності у 4 рази, з'єднання однієї структури — 134 000 чіпів, 47 Pb/s безблокової пропускної здатності, 1,7K ExaFlops — майже лінійне масштабування. TPU 8t використовує топологію у вигляді 3D кільця, один суперкаскад з 9600 чіпів, що може бути розширений через JAX/Pathways до понад 1 мільйона чіпів. Основні технології включають SparseCore, перекриття та балансування VPU/MXU, нативний FP4, інтегрований CPU Arm Axion, орієнтований на еволюцію від щільних великих мовних моделей до масштабних гібридних експертних та архітектур для обчислень.

MeNews

2026-05-27 04:26:07

Генерація анотацій у процесі

AIMPACT повідомлення, 16 травня (UTC+8), Google розкрив архітектурні деталі восьмого покоління TPU (TPU 8t), підключеного до мережі Virgo на рівні рами.
Ця мережа використовує високонасичені комутатори та плоску двошарову безблокову топологію, що підвищує пропускну здатність мережі дата-центру у 4 рази порівняно з попередніми поколіннями, одна структура може підключати понад 134 000 чипів TPU 8t, забезпечуючи 47 Pb/s безблокової двонапрямної пропускної здатності та майже лінійне масштабування продуктивності понад 1,7 тисячі ExaFlops.
Сам TPU 8t використовує топологію 3D кільця, один суперкаскад може масштабуватися до 9600 чипів, а також підтримує масштабування понад мільйон чипів через JAX і Pathways.
Ключові технології включають прискорювач SparseCore, перекриття та балансування VPU/MXU, нативну підтримку FP4, а також інтеграцію CPU на базі Arm Axion для усунення вузьких місць у хості.
Цей дизайн орієнтований на еволюцію моделей штучного інтелекту від щільних великих мовних моделей до масштабних гібридних експертних моделей та архітектур, орієнтованих на інференцію.
(Джерело: InFoQ)

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

7 лайків

Нагородити
7
11
3
Поділіться

Прокоментувати

Додати коментар

GateUser-8df0eb2b

· 1год тому

Однокомпонентний чіпсет суперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсуперсупер