谷歌发布第八代TPU 8t机架级网络架构细节

robot
摘要生成中
AIMPACT 消息,5 月 16 日(UTC+8),谷歌披露了第八代TPU(TPU 8t)的机架级连接至Virgo网络的架构细节。该网络采用高基数交换机和扁平两层无阻塞拓扑,将数据中心网络带宽提升至前代4倍,单结构可连接超过13.4万个TPU 8t芯片,提供47 Pb/s非阻塞双向带宽和超过1.7K ExaFlops的近乎线性扩展性能。TPU 8t本身采用3D环面拓扑,单个超级吊舱可扩展至9600个芯片,并支持通过JAX和Pathways扩展到超过100万个芯片。关键技术包括SparseCore加速器、VPU/MXU重叠与均衡缩放、原生FP4支持,以及集成Arm-based Axion CPU消除主机瓶颈。该设计针对AI模型从密集大语言模型向大规模混合专家模型和推理密集型架构的演进。(来源:InFoQ)
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 11
  • 3
  • 分享
评论
请输入评论内容
请输入评论内容
GateUser-8df0eb2b
· 2小时前
单超级吊舱9600芯片,能扩展到百万级,这规模放去年想都不敢想
回复0
Perp Nightwatch
· 3小时前
原生FP4支持,显存和带宽压力能小不少,推理成本要下来了
回复0
GateUser-14cb5f72
· 3小时前
1.7K ExaFlops近线性扩展,这数字看着像科幻小说
回复0
FOMO的克星
· 3小时前
Pathways+JAX的生态绑定越来越深,谷歌在堆自己的护城河
回复0
Opcode Poet
· 3小时前
高基数交换机扁平拓扑,这设计思路数据中心能抄作业吗
回复0
ChillBlock
· 3小时前
从密集LLM转向MoE+推理架构,行业风向要变了
回复0
别喊我接盘侠
· 4小时前
TPU 8t这命名,下一代是不是要叫9t、10t,直接对标英伟达迭代节奏
回复0
玻璃穹顶星尘
· 4小时前
芯片互联带宽提升4倍,通信瓶颈松了口气,大模型并行效率能上去
回复0
红色玻璃
· 4小时前
百万芯片集群的故障率怎么搞,好奇他们的容错机制
回复0
电梯口的空单
· 4小时前
SparseCore和VPU/MXU重叠设计挺有意思,感觉是在为MoE架构铺路
回复0
查看更多