AIMPACT сообщение, 16 мая (UTC+8), Google раскрыла архитектурные детали восьмого поколения TPU (TPU 8t), подключенного к сети Virgo на уровне стойки. Эта сеть использует высоко-кастовые коммутаторы и плоскую двухуровневую без阻塞ную топологию, увеличивая пропускную способность сети дата-центра в 4 раза по сравнению с предыдущим поколением, одна структура может подключать более 134 000 чипов TPU 8t, обеспечивая 47 Pb/s без阻塞ную двунаправленную пропускную способность и почти линейную масштабируемость производительности более 1,7K ExaFlops. Сам TPU 8t использует топологию 3D кольцевого типа, один суперкабель может масштабироваться до 9600 чипов, а также поддерживает расширение через JAX и Pathways до более чем 1 миллиона чипов. Ключевые технологии включают ускоритель SparseCore, перекрытие и балансировку VPU/MXU, нативную поддержку FP4, а также интегрированный CPU на базе Arm Axion для устранения узких мест хоста. Этот дизайн ориентирован на эволюцию моделей ИИ от плотных больших языковых моделей к крупномасштабным гибридным экспертным моделям и архитектурам, ориентированным на вывод. (Источник: InFoQ)

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .

10 Лайков

Награда
10
комментарий
Репост
Поделиться

комментарий

Добавить комментарий

Нет комментариев

Популярные темы
Подробнее
#
StockTradingChallengeUpTo17000U
16.23M Популярность
#
TrumpBacksCFTCAuthorityOverPredictionMarkets
816.81K Популярность
#
IsraelStrikesIranBTCPlunges
49.57K Популярность
#
GatePredictionMarketAddsSmartMoneyTracking
13.2M Популярность
#
MicronMarketCapBreaks1Trillion
36.58K Популярность

Закреплено

Карта сайта

Google выпустила восьмое поколение TPU: детали архитектуры сетевого оборудования уровня 8t

Популярные темы

StockTradingChallengeUpTo17000U

TrumpBacksCFTCAuthorityOverPredictionMarkets

IsraelStrikesIranBTCPlunges

GatePredictionMarketAddsSmartMoneyTracking

MicronMarketCapBreaks1Trillion

Закреплено