谷歌發布第八代TPU 8t機架級網路架構細節

robot
摘要生成中
AIMPACT 消息,5 月 16 日(UTC+8),谷歌披露了第八代TPU(TPU 8t)的机架级连接至Virgo网络的架构细节。該網絡採用高基數交換機和扁平兩層無阻塞拓撲,將數據中心網絡帶寬提升至前代4倍,單結構可連接超過13.4萬個TPU 8t芯片,提供47 Pb/s非阻塞雙向帶寬和超過1.7K ExaFlops的近乎線性擴展性能。TPU 8t本身採用3D環面拓撲,單個超級吊艙可擴展至9600個芯片,並支持通過JAX和Pathways擴展到超過100萬個芯片。關鍵技術包括SparseCore加速器、VPU/MXU重疊與均衡縮放、原生FP4支持,以及集成Arm-based Axion CPU消除主機瓶頸。該設計針對AI模型從密集大語言模型向大規模混合專家模型和推理密集型架構的演進。(來源:InFoQ)
GOOGLX0.85%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 5
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
L2LunchBoy
· 8小時前
FP4 精度訓練能穩住嗎,還是只給推理用?
查看原文回復0
霓虹融冰
· 9小時前
13.4 萬芯片單結構,故障域怎麼切分是個學問
查看原文回復0
Latency Lullaby
· 10小時前
SparseCore 和 FP4 原生支持,谷歌这是把推理成本往死里压啊
回復0
GateUser-ebdc7d3a
· 10小時前
單超級吊艙 9600 芯片,這密度散熱怎麼做的我很好奇
查看原文回復0
ByteBard
· 10小時前
Arm Axion CPU 集成進去,異構計算玩得越來越溜了
查看原文回復0