谷歌发布第八代TPU 8t机架级网络架构细节

robot
摘要生成中
AIMPACT 消息,5 月 16 日(UTC+8),谷歌披露了第八代TPU(TPU 8t)的机架级连接至Virgo网络的架构细节。该网络采用高基数交换机和扁平两层无阻塞拓扑,将数据中心网络带宽提升至前代4倍,单结构可连接超过13.4万个TPU 8t芯片,提供47 Pb/s非阻塞双向带宽和超过1.7K ExaFlops的近乎线性扩展性能。TPU 8t本身采用3D环面拓扑,单个超级吊舱可扩展至9600个芯片,并支持通过JAX和Pathways扩展到超过100万个芯片。关键技术包括SparseCore加速器、VPU/MXU重叠与均衡缩放、原生FP4支持,以及集成Arm-based Axion CPU消除主机瓶颈。该设计针对AI模型从密集大语言模型向大规模混合专家模型和推理密集型架构的演进。(来源:InFoQ)
GOOGLX1.29%
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 10
  • 2
  • 分享
评论
请输入评论内容
请输入评论内容
半融冰淇淋
· 6小时前
高基数交换机成本不低吧,这定价云厂商得算多久回本
回复0
HypeVaccinated
· 10小时前
超算中心刚建完就被谷歌云吊打,这迭代速度谁跟得上
回复0
Leverage Whisperer
· 11小时前
SparseCore和FP4原生支持有点东西,推理成本又要被打下来了
回复0
GateUser-6da8ed4c
· 11小时前
Arm Axion CPU集成进去,省得再外接主机了,设计挺聪明的
回复0
晚霞的止损线
· 11小时前
JAX/Pathways直接扩展到百万级,谷歌在逼其他框架跟不上了
回复0
GateUser-7919e6b9
· 11小时前
13.4万芯片单结构,这故障域怎么切?好奇运维怎么搞
回复0
纸雕章鱼
· 11小时前
等等,8t是第八代?我TPU v5还没摸过热乎的
回复0
GateUser-9d67589f
· 11小时前
3D环面拓扑+两层无阻塞,网络这块确实下了狠功夫
回复0
螺旋海盐
· 11小时前
100万芯片集群…这是要训练出天网吗
回复0
雨后K线
· 11小时前
谷歌这次把TPU玩出花了,47 Pb/s什么概念,我家宽带得哭晕在厕所
回复0
查看更多