Google оголосила про восьме покоління TPU 8t: деталі архітектури мережі рівня стійки

robot
Генерація анотацій у процесі
AIMPACT повідомлення, 16 травня (UTC+8), Google розкрив архітектурні деталі восьмого покоління TPU (TPU 8t), підключеного до мережі Virgo на рівні рами. Ця мережа використовує високонагірні комутатори та плоску двошарову безблокову топологію, що підвищує пропускну здатність мережі дата-центру у 4 рази порівняно з попередніми поколіннями, одна структура може підключати понад 134 000 чипів TPU 8t, забезпечуючи 47 Pb/s безблокової двонапрямної пропускної здатності та майже лінійне масштабування продуктивності понад 1,7K ExaFlops. Сам TPU 8t використовує топологію 3D кільця, один суперкабель може масштабуватися до 9600 чипів, а також підтримує масштабування понад мільйон чипів через JAX і Pathways. Ключові технології включають прискорювач SparseCore, перекриття та балансування VPU/MXU, нативну підтримку FP4, а також інтеграцію CPU на базі Arm Axion для усунення вузьких місць у хості. Цей дизайн орієнтований на еволюцію AI-моделей від щільних великих мовних моделей до масштабних гібридних моделей експертів і архітектур, орієнтованих на інференцію. (Джерело: InFoQ)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 10
  • 2
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
LiquidityTeaMaster
· 51хв. тому
Virgo мережа — це гарна назва, з нав’язливим безперебійним характером Діви
Переглянути оригіналвідповісти на0
ZkSketcher
· 2год тому
Близько лінійного масштабування до 1,7К Ексафлопс, чи закон Аділда виявився неефективним у Google?
Переглянути оригіналвідповісти на0
MevBreakRoom
· 2год тому
TPU 8t Це щільність пропускної здатності трохи неймовірна, 47 Pb/s — яке це поняття
Переглянути оригіналвідповісти на0
NonceNinja
· 2год тому
Чи нарешті Pathways знайде своє застосування, розширившись від JAX до мільйонів чипів?
Переглянути оригіналвідповісти на0
MarginMoth
· 2год тому
Високочастотний комутатор здається дорогим, але він економить модулі порівняно з трьохшаровим Clos.
Переглянути оригіналвідповісти на0
0xPeachy
· 2год тому
Після перегляду лише хочу запитати: коли зможу отримати тестовий ліміт TPU v6?
Переглянути оригіналвідповісти на0
SushiLatency
· 2год тому
Arm Axion CPU інтегровано, гетерогенне обчислення стає все більш захоплюючим
Переглянути оригіналвідповісти на0
Semi-MeltedIceCream
· 2год тому
VPU/MXU перекриття рівноваги, тонкий регулювання розкладу до такого рівня дійсно круто
Переглянути оригіналвідповісти на0
QuietExitPlan
· 2год тому
13.4 тисячі чипів у структурі, як розділити цю зону несправностей — це наука
Переглянути оригіналвідповісти на0
GlassDomeUniverse
· 2год тому
Щільна архітектура LLM з перетворенням у MoE + логічною структурою, цей тренд є попереднім прогнозом галузі.
Переглянути оригіналвідповісти на0
Дізнатися більше
  • Закріплено