动态

内存墙:HBM 短缺如何重塑人工智能经济学



人工智能建设的核心正出现一个悄然浮现的限制因素,而它并不是计算能力本身的可用性,而是为其提供数据的内存。在过去几个月里,全球高带宽内存短缺已经从供应链中的附带问题,转变为影响价格、企业战略以及 AI 基础设施部署速度的决定性力量。其影响如今已遍及整个技术栈,从深圳加速卡的成本,到全球最大半导体企业的毛利率。

短缺的运行机制很简单,但其影响并非如此。高带宽内存,即 HBM,是一种专用动态随机存取内存,它将多层内存芯片垂直堆叠,并通过数千条微型通道将其连接到处理器。它使 AI 加速器能够以传统内存无法匹敌的速度访问海量数据。随着 AI 模型变得更大、更复杂,每个处理器所需的 HBM 数量也大幅上升。Nvidia 的 H100 搭载 80 GB HBM。B200 搭载 192 GB。Blackwell Ultra 搭载 288 GB,仅两代之内就增加了 3.6 倍。

问题在于,生产 HBM 远比生产标准内存困难。它需要硅通孔、晶圆减薄、堆叠、测试以及先进封装,所有这些工艺都会消耗制造产能,并且产出率低于传统 DRAM。每 GB HBM 消耗的晶圆产能大约是标准 DRAM 的四倍,而良率仍处于 50% 至 60% 区间。当三家公司几乎占据全球全部供应,并且这些公司已将原本用于生产消费级内存的洁净室空间转向利润率更高的 HBM 时,结果就是一种远超 AI 领域本身的结构性挤压。

描述这种挤压的数字令人震惊。HBM 总市场预计将从 2025 年的 350 亿美元增长到 2026 年的 546 亿美元,单年增幅超过 50%。Samsung 和 SK Hynix 已将当前一代 HBM 的 2026 年合约价格上调近 20%,而市场预计下一代 HBM4 堆叠的价格将稳定在每颗 500 至 600 美元,比当前水平再高出 55% 至 70%。DigiTimes 援引的行业消息人士表示,HBM4 的价格可能从 2026 年下半年的每 Gb 约 2 美元,上涨至 4 美元、5 美元或更高,其驱动因素是制造工艺极其复杂,需要 4 至 6 个月的生产时间,且初期良率显著较低。

这些涨价如今正以清晰可见的方式沿着供应链传导。在中国,由于出口管制限制了从三大主导供应商处获得先进内存,AI 芯片制造商被迫越来越多地依赖灰色市场渠道,以同样组件在中国以外买家数倍的价格进行采购。结果是成品加速卡成本大幅上升。Huawei 已将其 Ascend 950DT 卡的指导价上调至超过 25 万元,约合 3.7 万美元,较仅仅两个月前的报价上涨 20% 至 50%。Cambricon 已将其下一代处理器重新定价,上调 20% 至 30%。即便是上一代产品也在涨价:年初每张卡售价约 6 万元的 Ascend 950PR,如今售价已超过 8 万元。由于内存占据加速器生产成本的很大一部分,更高的价格正直接传导至成品卡,在 AI 计算能力需求加速之际,推高了建设 AI 计算能力的成本。

影响并不局限于中国。相较于采购其产品的企业,短缺增强了内存供应商的议价能力。Micron 长期以来一直是三家 HBM 生产商中规模最小的一家,目前计划到 2026 年底将其每月 HBM 晶圆产能增加近一倍,达到约 10 万片,高于去年的 4 万至 5 万片。Samsung 和 SK Hynix 的每月 HBM 产能分别约为 15 万至 20 万片,是 Micron 当前规模的三至四倍。差距正在缩小,但仍然十分显著。更重要的是,稀缺性带来的定价权如今已稳稳掌握在供应商手中。正如一项分析所指出的,内存稀缺是少数几种能让 Nvidia 同时受益于终端需求增强,却又向供应商稍微失去议价能力的 AI 趋势之一。

这一转变的影响超出了单个企业的利润率。更广泛的内存市场正在受到同样力量的重塑。2026 年前三个月,传统 DRAM 合约价格环比上涨约 90% 至 95%,创下季度涨幅纪录。同期 NAND 合约价格上涨 55% 至 60%,预计第二季度还将进一步上涨 70% 至 75%。到 8 月下旬,现货市场供应充足率已降至 50% 以下,这意味着模组制造商和 OEM 厂商无法采购足够的通用 DRAM 和 NAND 来满足需求。一些 DDR4 等旧款内存产品的交易价格高于更新的 DDR5,因为产能已被转移至利润更高的产品。独立分析师如今将这一局面描述为历史上最大的内存短缺,并预计高企的价格将持续到本十年剩余时间。

在技术层面,这种短缺反映出一种更深层次的失衡,而工程师们多年来一直在警告这一点。AI 加速器的计算性能大约每两年增长三倍,而 HBM 带宽在同一时期的增长幅度不到两倍。处理器计算速度与数据抵达处理器的速度之间的差距正在扩大,而不是缩小。正如一位 Micron 研究人员在最近的一次行业会议上所说,这堵内存墙并没有变矮,而是在变高。实际后果是,如果内存无法足够快速地提供数据以保持计算单元繁忙,向系统中增加更多计算能力将产生递减收益。对于大型语言模型推理,尤其是在小批量和长上下文任务中,系统的大部分时间可能都花在读取权重和缓存上,而不是执行计算。在这种环境下,更多内存带宽可能比更多原始计算能力更有价值。

行业的应对方式是将内存视为分层系统,而非单一内存池。最热门的数据,即必须立即访问的权重和键值缓存,存放在 HBM 中。不那么紧急的数据存放在 DDR 或 LPDDR 内存中。最冷的数据,即不经常访问的模型参数和缓存,则存储在固态硬盘中。有效管理这一层级体系,需要软件预测将要用到哪些数据,并高效地在各层之间移动数据。这一问题既关乎硬件,也同样关乎软件和系统设计。

对于关注数字资产市场的人来说,内存短缺为观察更广泛的 AI 基础设施周期提供了一个有用视角。推动 HBM 需求的同一力量,即模型训练和推理能力的扩张,正在塑造整个科技行业的资本流动、能源需求和企业战略。为训练和运行大型语言模型而建设的数据中心,正在按照容纳代币化金融基础设施的要求进行设计,而为 AI 建设提供资金的机构投资者,也越来越多地是向数字资产配置资本的同一批投资者。这两个世界正变得越来越难以区分,而内存短缺正处于二者的交汇点。

未来几个季度,谨慎的观察者应关注什么?首先是 HBM4 价格的走势。当前正在谈判的合约将确定下一代 AI 加速器的成本基础,而这些成本最终会反映在 AI 服务的价格中。其次是 Micron、Samsung 和 SK Hynix 的产能扩张速度。Micron 计划将晶圆产能翻倍,这一计划意义重大,但预计要到 2027 年底最早才会有足够规模的新供应缓解市场压力。第三是 AI 芯片制造商吸收更高内存成本的意愿。如果利润率压缩过度,基础设施部署速度可能放缓,进而对整个 AI 供应链产生连锁影响。

更深层的事实是,AI 建设已经进入一个阶段,其制约因素不再只是能够制造多少处理器,而是周边基础设施,包括内存、封装、电力和冷却,能否跟上步伐。HBM 是这一转变最清晰的例子,但不会是最后一个。行业正在认识到,大规模智能不仅需要计算,还需要高效地将数据传输到计算设备的能力。解决这一问题的企业将获得所创造价值中的相当大一部分。其余企业将旁观、计算并做好准备。
#ShareWeekly
#HBMShortageBoostsAIChipPrices
查看原文
post-image
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明

  • 1

请输入评论内容
请输入评论内容

评论
Mamon Trader
42 分钟前
再多说一点 👀
0查看原文
Mamon Trader
42 分钟前
这波操作太疯狂了 🔥
0查看原文
Mamon Trader
42 分钟前
首评
有趣 👀
0查看原文