谷歌發布第八代TPU 8t機架級網路架構細節

robot
摘要生成中
AIMPACT 消息,5 月 16 日(UTC+8),谷歌披露了第八代TPU(TPU 8t)的机架级连接至Virgo网络的架构细节。該網絡採用高基數交換機和扁平兩層無阻塞拓撲,將數據中心網絡帶寬提升至前代4倍,單結構可連接超過13.4萬個TPU 8t晶片,提供47 Pb/s非阻塞雙向帶寬和超過1.7K ExaFlops的近乎線性擴展性能。TPU 8t本身採用3D環面拓撲,單個超級吊艙可擴展至9600個晶片,並支持通過JAX和Pathways擴展到超過100萬個晶片。關鍵技術包括SparseCore加速器、VPU/MXU重疊與均衡縮放、原生FP4支持,以及集成Arm-based Axion CPU消除主機瓶頸。該設計針對AI模型從密集大語言模型向大規模混合專家模型和推理密集型架構的演進。(來源:InFoQ)
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 11
  • 3
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
GateUser-8df0eb2b
· 2小時前
單超級吊艙9600芯片,能擴展到百萬級,這規模放去年想都不敢想
查看原文回復0
Perp Nightwatch
· 4小時前
原生FP4支持,顯存和帶寬壓力能小不少,推理成本要下來了
查看原文回復0
GateUser-14cb5f72
· 4小時前
1.7K ExaFlops 近線性擴展,這個數字看起來像科幻小說
查看原文回復0
FOMO的克星
· 4小時前
Pathways+JAX的生态綁定越來越深,谷歌在鞏固自己的護城河
查看原文回復0
Opcode Poet
· 4小時前
高基數交換機扁平拓撲,這設計思路數據中心能抄作業嗎
查看原文回復0
ChillBlock
· 4小時前
從密集LLM轉向MoE+推理架構,行業風向要變了
查看原文回復0
别喊我接盘侠
· 4小時前
TPU 8t這命名,下一代是不是要叫9t、10t,直接對標英偉達迭代節奏
查看原文回復0
玻璃穹顶星尘
· 4小時前
晶片互聯帶寬提升4倍,通信瓶頸鬆了口氣,大模型並行效率能上去
查看原文回復0
红色玻璃
· 4小時前
百萬芯片集群的故障率怎麼搞,好奇他們的容錯機制
查看原文回復0
电梯口的空单
· 4小時前
SparseCore 和 VPU/MXU 重疊設計挺有意思,感覺是在為 MoE 架構鋪路
查看原文回復0
查看更多