Groq新一代AI芯片架构转而采用3D堆叠DRAM,弃用SRAM
据近期报道,刚被英伟达收购的 Groq 正在评估在其下一代 AI 芯片中采用 3D 堆叠 DRAM 封装(3DS),以摆脱传统的基于 SRAM 的架构。这种新方案利用硅通孔(TSV)技术垂直互连多个半导体裸片,在保持标准 DRAM 接口协议的同时,显著提高单位面积的存储密度。与优先考虑数据吞吐量的英伟达 HBM 技术不同,3DS 专注于扩展存储容量,对于需要存储海量模型参数的 AI 推理任务来说,是一种更实用的解决方案。Groq 的 LPU 架构以出色的推理速度著称,但在处理十亿参数模型时,会受限于 SRAM 容量不足。通过采用 3D 堆叠 DRAM,Groq 希望在保持速度优势的同时,解决大规模部署 AI 模型时面临的容量限制。
NVDA+2.15%
Gate News·10-21 21:52
