Google выпустила восьмое поколение TPU: детали архитектуры сетевого оборудования уровня 8t

robot
Генерация тезисов в процессе
AIMPACT сообщение, 16 мая (UTC+8), Google раскрыла архитектурные детали восьмого поколения TPU (TPU 8t), подключенного к сети Virgo на уровне рака. Эта сеть использует высоко-кастовые коммутаторы и плоскую двухуровневую без阻塞ную топологию, увеличивая пропускную способность сети дата-центра в 4 раза по сравнению с предыдущим поколением, одна структура может подключать более 134 000 чипов TPU 8t, обеспечивая 47 Pb/s без阻塞ную двунаправленную пропускную способность и почти линейную масштабируемость производительности более 1,7K ExaFlops. Сам TPU 8t использует топологию 3D кольцевого типа, один суперкабель может масштабироваться до 9600 чипов, а также поддерживает расширение через JAX и Pathways до более чем 1 миллиона чипов. Ключевые технологии включают ускоритель SparseCore, перекрытие и балансировку VPU/MXU, нативную поддержку FP4, а также интегрированный CPU на базе Arm Axion для устранения узких мест хоста. Этот дизайн ориентирован на эволюцию моделей ИИ от плотных больших языковых моделей к крупномасштабным гибридным экспертным моделям и архитектурам, ориентированным на вывод. (Источник: InFoQ)
GOOGLX1,36%
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 10
  • 2
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Semi-MeltedIceCream
· 2ч назад
Стоимость высокоемкостных коммутаторов не низкая, не так ли?
Сколько времени облачные провайдеры должны учитывать для окупаемости этой цены?
Посмотреть ОригиналОтветить0
HypeVaccinated
· 6ч назад
Только что построенный суперкомпьютерный центр был побежден Google Cloud, кто сможет поспевать за этой скоростью итераций
Посмотреть ОригиналОтветить0
LeverageWhisperer
· 7ч назад
SparseCore и нативная поддержка FP4 имеют некоторые преимущества, а затраты на вывод снова снижаются.
Посмотреть ОригиналОтветить0
GateUser-6da8ed4c
· 7ч назад
Встроенный процессор Arm Axion, чтобы не подключать внешний хост, очень умный дизайн.
Посмотреть ОригиналОтветить0
Stop-LossLineForTheEveningGlow
· 7ч назад
JAX/Pathways напрямую расширяется до миллиона уровней, Google заставляет другие фреймворки не успевать.
Посмотреть ОригиналОтветить0
GateUser-7919e6b9
· 7ч назад
13.4万芯片单结构,这故障域怎么切?好奇运维怎么搞
Ответить0
PaperSculptureOctopus
· 7ч назад
Подожди, 8t — это восьмое поколение? Я еще не трогал горячий TPU v5
Посмотреть ОригиналОтветить0
GateUser-9d67589f
· 7ч назад
3D тороидальная топология + двухслойная без блокировок, в области сети действительно приложены серьезные усилия
Посмотреть ОригиналОтветить0
SpiralSeaSalt
· 7ч назад
Миллионный кластер чипов… Значит, собираются обучить Тенгвэнь?
Посмотреть ОригиналОтветить0
Post-RainCandlestick
· 7ч назад
Google на этот раз превзошли сами себя с TPU, 47 Пб/с — что это за концепция, мой домашний интернет должен был бы плакать и падать в унитаз от этого
Посмотреть ОригиналОтветить0
Подробнее
  • Закреплено