2026-11-08 12:31:35
家庭實驗室玩家僅靠英特爾 Optane 記憶體執行 2.8 兆參數 AI 模型,並警告極端高溫恐威脅 DRAM
根據 Tom's Hardware 報導,一名自建家用實驗室的玩家最近使用 40 核心的第 3 代 Xeon Scalable CPU,僅以 CPU 進行推論,在英特爾第二代 Optane PMem 200 記憶體上執行 Moonshot AI 的 Kimi K3 模型。該模型有 2.8 兆個參數,經 1 位元量化後,推論速度達每秒 0.85 個詞元。這名玩家警告,Optane DIMM 在持續推論期間會產生極高熱量,每個模組的功耗達 12-15W;若沒有主動散熱,可能會危及鄰近的 DRAM。Optane 模組會在 83 攝氏度時降頻,並在 85 度時關機,而 DDR4 伺服器記憶體可耐受高達 95 度。這名玩家使用兩個 12W 鼓風扇控制溫度,並計劃在 Optane 旁加裝 GPU,以提升效能。