谷歌发布第八代TPU 8t机架级网络架构细节

robot
摘要生成中
AIMPACT 消息,5 月 16 日(UTC+8),谷歌披露了第八代TPU(TPU 8t)的机架级连接至Virgo网络的架构细节。该网络采用高基数交换机和扁平两层无阻塞拓扑,将数据中心网络带宽提升至前代4倍,单结构可连接超过13.4万个TPU 8t芯片,提供47 Pb/s非阻塞双向带宽和超过1.7K ExaFlops的近乎线性扩展性能。TPU 8t本身采用3D环面拓扑,单个超级吊舱可扩展至9600个芯片,并支持通过JAX和Pathways扩展到超过100万个芯片。关键技术包括SparseCore加速器、VPU/MXU重叠与均衡缩放、原生FP4支持,以及集成Arm-based Axion CPU消除主机瓶颈。该设计针对AI模型从密集大语言模型向大规模混合专家模型和推理密集型架构的演进。(来源:InFoQ)
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 9
  • 2
  • 分享
评论
请输入评论内容
请输入评论内容
GateUser-bf5d0c14
· 1小时前
机架互联用 Virgo,扁平两层无阻塞,这工程细节够硬核
回复0
黑丝绒钥匙
· 1小时前
SparseCore 和 FP4 原生支持,训练成本能砍多少?
回复0
极光雪地孤石
· 2小时前
47Pb/s 非阻塞带宽确实离谱,谷歌这网络拓扑设计是奔着 AGI 去的吧
回复0
GateUser-f78f1f3e
· 5小时前
百万芯片扩展,JAX/Pathways 这波生态绑定太深了
回复0
霓虹桥下的猫
· 5小时前
13.4 万芯片单结构,这规模 AWS 看了沉默,Azure 看了流泪
回复0
AirdropJanitor
· 5小时前
Arm Axion CPU 集成,TPU 也要走 SoC 路线了
回复0
APR Daydream
· 5小时前
MoE 架构专用优化,看来 Gemini 下一代要搞大事
回复0
Airdrop Archivist
· 5小时前
VPU/MXU 重叠均衡,谷歌终于把计算单元调度玩明白了
回复0
量化但不装
· 5小时前
单超级吊舱 9600 芯片,散热怎么解决的?好奇
回复0
查看更多