記憶牆：HBM 短缺如何重新定義人工智慧的經濟學

人工智慧擴建的核心正浮現一項悄然成形的限制，而它並不是運算能力本身的可用性，而是供應運算能力的記憶體。在過去幾個月，高頻寬記憶體的全球短缺已從供應鏈中的附帶問題，轉變為影響價格、企業策略，以及 AI 基礎設施部署速度的決定性力量。如今，這些影響已遍及整個技術堆疊，從深圳加速卡的成本，到全球最大半導體企業的毛利率。

短缺的運作機制相當直接，但其影響卻不然。高頻寬記憶體，即 HBM，是一種特殊形式的動態隨機存取記憶體，會將多層記憶體晶片垂直堆疊，並透過數千個微小通道將其連接至處理器。它讓 AI 加速器能以傳統記憶體無法匹敵的速度存取大量資料。隨著 AI 模型變得更大、更複雜，每顆處理器所需的 HBM 數量也急遽上升。Nvidia 的 H100 搭載 80 GB 的 HBM。B200 搭載 192 GB。Blackwell Ultra 搭載 288 GB，短短兩代內增加 3.6 倍。

問題在於，生產 HBM 遠比生產標準記憶體困難。它需要矽穿孔、晶圓薄化、堆疊、測試與先進封裝，所有這些製程都會消耗製造產能，而且產出率低於傳統 DRAM。每 GB 的 HBM 約消耗標準 DRAM 四倍的晶圓產能，而良率仍維持在 50% 至 60% 的範圍內。當三家公司幾乎掌握全球全部供應，且這些公司已將原本生產消費型記憶體的無塵室空間轉向利潤率更高的 HBM 時，結果便是結構性的擠壓，而且其影響遠遠超出 AI 領域本身。

描述這種擠壓的數字相當驚人。HBM 總市場預計將從 2025 年的 350 億美元成長至 2026 年的 546 億美元，單年增幅超過 50%。Samsung 與 SK Hynix 已將當代 HBM 的 2026 年合約價格提高近 20%，而市場預期下一代 HBM4 堆疊的單價將落在 500 至 600 美元，較目前水準再高出 55% 至 70%。DigiTimes 引述的業界消息人士表示，受製造流程極端複雜所推動，HBM4 的價格可能從 2026 年下半年的每 Gb 約 2 美元，上升至 4 或 5 美元甚至更高；該製程需要 4 至 6 個月的生產時間，且初始良率顯著較低。

這些價格上漲如今正以明顯的方式沿著供應鏈傳導。在中國，由於出口管制限制了從三大主導供應商取得先進記憶體，AI 晶片製造商被迫日益依賴灰色市場管道，為相同元件支付數倍於中國以外買家的價格。結果是成品加速卡的成本大幅上升。Huawei 已將其 Ascend 950DT 卡的報價提高至超過 250,000 元人民幣，約 37,000 美元，較僅僅兩個月前報出的價格上漲 20% 至 50%。Cambricon 已將其下一代處理器的價格提高 20% 至 30%。就連較舊世代的產品也已上漲：Ascend 950PR 年初每張卡售價約 60,000 元人民幣，如今價格已超過 80,000 元人民幣。由於記憶體占加速器生產成本的很大一部分，價格上漲正直接反映在成品卡上，推高建置 AI 運算能力的成本，而此時對該能力的需求正加速成長。

影響並不僅限於中國。相較於購買其產品的企業，短缺已強化記憶體供應商的議價能力。Micron 長期以來一直是三家 HBM 生產商中規模最小的一家，該公司計畫到 2026 年底，將每月 HBM 晶圓產能幾乎翻倍至約 100,000 片，高於去年的 40,000 至 50,000 片。Samsung 與 SK Hynix 的每月 HBM 產能各約為 150,000 至 200,000 片，是 Micron 目前規模的三至四倍。差距正在縮小，但仍相當可觀。更重要的是，稀缺所帶來的定價權如今已牢牢掌握在供應商手中。正如一項分析所指出，記憶體稀缺是少數能讓 Nvidia 同時受益於終端需求增強，卻又對供應商喪失部分議價能力的 AI 趨勢之一。

這項轉變的影響超越了個別企業的利潤率。更廣泛的記憶體市場正受到相同力量重塑。2026 年前三個月，傳統 DRAM 合約價格季增約 90% 至 95%，創下單季大幅上漲的紀錄。同一期間，NAND 合約價格上漲 55% 至 60%，而第二季預計還會進一步上漲 70% 至 75%。截至 8 月下旬，現貨市場的供應充足率已跌破 50%，這意味著模組製造商與 OEM 無法採購足夠的一般用途 DRAM 與 NAND 來滿足需求。部分舊款記憶體產品，例如 DDR4，交易價格高於較新的 DDR5，因為產能已被轉移至利潤更高的產品。如今，獨立分析師將此情況描述為歷史上最嚴重的記憶體短缺，並預期高價將持續至本十年剩餘期間。

在技術層面，短缺反映出工程師多年來一直警告的一項更深層失衡。AI 加速器的運算效能約每兩年增加三倍，而同期 HBM 頻寬的增幅不到兩倍。處理器運算速度與資料抵達處理器的速度之間的差距正在擴大，而不是縮小。正如一名 Micron 研究人員在近期業界會議上所說，這道記憶體牆並未縮小，而是在增長。實際結果是，如果記憶體無法足夠快速地提供資料，讓運算單元保持忙碌，向系統加入更多運算能力便會產生遞減的回報。對大型語言模型推論而言，尤其是在小批次大小與長上下文的任務中，系統可能大部分時間都在讀取權重與快取，而非執行計算。在這種環境下，更多記憶體頻寬可能比更多原始運算能力更有價值。

業界的回應，是將記憶體視為分層系統，而非單一記憶體池。最熱門的資料，也就是必須立即存取的權重與鍵值快取，會放在 HBM 中。時間敏感度較低的資料則存放於 DDR 或 LPDDR 記憶體。最冷門的資料，即不常存取的模型參數與快取，則儲存在固態硬碟中。有效管理這個階層需要能夠預測將會用到哪些資料，並讓資料有效率地穿梭於各層之間的軟體。這個問題不僅關乎硬體，也同樣關乎軟體與系統設計。

對於關注數位資產市場的人而言，記憶體短缺提供了一個觀察更廣泛 AI 基礎設施週期的有用視角。推動 HBM 需求的相同力量，也就是模型訓練與推論能力的擴張，正在形塑科技產業的資本流動、能源需求與企業策略。為訓練及執行大型語言模型而建造的資料中心，正被設計為容納代幣化金融基礎設施，而為 AI 擴建提供資金的機構投資人，也越來越是配置資本於數位資產的同一批投資人。這兩個世界正變得越來越難以分離，而記憶體短缺正位於兩者的交會點。

接下來幾季，謹慎的觀察者應關注什麼？第一，HBM4 定價的走勢。如今正在協商的合約將決定下一代 AI 加速器的成本基礎，而這些成本最終將反映在 AI 服務的價格上。第二，Micron、Samsung 與 SK Hynix 擴充產能的速度。Micron 計畫將晶圓產能翻倍，這項規模相當重大，但預計在最早 2027 年底之前，有意義的新供應都不會緩解市場。第三，AI 晶片製造商承擔更高記憶體成本的意願。如果利潤率壓縮過度，可能會拖慢基礎設施部署速度，進而對整個 AI 供應鏈產生連鎖影響。

更深層的真相是，AI 擴建已進入一個階段，限制因素不再只是能製造多少處理器，而是周邊基礎設施——記憶體、封裝、電力與散熱——是否能跟上。HBM 是這項轉變最明確的例子，但不會是最後一個。業界正逐漸了解到，規模化的智慧不僅需要運算，也需要有效率地將資料移動至運算所在位置的能力。解決這項問題的公司，將攫取正在創造的價值中相當可觀的份額。其餘公司則將旁觀、計算並做好準備。
#ShareWeekly
#HBMShortageBoostsAIChipPrices