谷歌发布第八代TPU 8t机架级网络架构细节

robot
摘要生成中
AIMPACT 消息,5 月 16 日(UTC+8),谷歌披露了第八代TPU(TPU 8t)的机架级连接至Virgo网络的架构细节。该网络采用高基数交换机和扁平两层无阻塞拓扑,将数据中心网络带宽提升至前代4倍,单结构可连接超过13.4万个TPU 8t芯片,提供47 Pb/s非阻塞双向带宽和超过1.7K ExaFlops的近乎线性扩展性能。TPU 8t本身采用3D环面拓扑,单个超级吊舱可扩展至9600个芯片,并支持通过JAX和Pathways扩展到超过100万个芯片。关键技术包括SparseCore加速器、VPU/MXU重叠与均衡缩放、原生FP4支持,以及集成Arm-based Axion CPU消除主机瓶颈。该设计针对AI模型从密集大语言模型向大规模混合专家模型和推理密集型架构的演进。(来源:InFoQ)
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 10
  • 2
  • 分享
评论
请输入评论内容
请输入评论内容
Liquidity Tea Master
· 3小时前
Virgo 网络这个名字取得好,处女座强迫症式的无阻塞
回复0
ZK Sketcher
· 4小时前
近线性扩展到 1.7K ExaFlops,Amdahl 定律在谷歌这失效了?
回复0
MEV茶水间
· 4小时前
TPU 8t 这带宽密度有点离谱了,47 Pb/s 什么概念
回复0
NonceNinja
· 4小时前
从 JAX 扩展到百万芯片,Pathways 终于要有用武之地了?
回复0
MarginMoth
· 4小时前
高基数交换机听起来贵,但比三层 Clos 省光模块吧
回复0
0xPeachy
· 5小时前
看完只想问:什么时候能薅到 TPU v6 的试用额度
回复0
SushiLatency
· 5小时前
Arm Axion CPU 集成进去,异构计算玩得越来越花了
回复0
半融冰淇淋
· 5小时前
VPU/MXU 重叠均衡,细粒度调度做到这种程度确实卷
回复0
QuietExitPlan
· 5小时前
13.4 万芯片一个结构,这故障域怎么切分是个学问
回复0
玻璃穹顶宇宙
· 5小时前
密集 LLM 转 MoE + 推理架构,这波是预判了行业的预判
回复0
查看更多