廣場
最新
熱門
新聞
我的主頁
發布
Moonshot AI 將 Prefill/Decode 解耦技術擴展至跨數據中心與異構硬件
ME News
2026-05-30 12:07:50
關注
ME News 消息，4 月 18 日（UTC+8），Moonshot AI 團隊近日宣布，其 Prefill（預填充）與 Decode（解碼）的解耦技術已成功從單一集群擴展至跨數據中心及異構硬件環境。據文中觀點，此舉有望顯著降低每個 token 的推理成本。此前，該技術的擴展因 KV cache 傳輸開銷問題而受阻。此次突破的實現，關鍵依賴於其混合模型 Kimi Linear。（來源：InFoQ）
查看原文
此頁面可能包含第三方內容，僅供參考（非陳述或保證），不應被視為 Gate 認可其觀點表述，也不得被視為財務或專業建議。詳見
聲明
。
10人按讚了這條動態
打賞
10
10
2
分享
回覆
請輸入回覆內容
請輸入回覆內容
回覆
GateUser-ad8b77bd
· 16小時前
單一集群到跨數據中心，工程難度不是一個量級
查看原文
回復
0
早餐前先看链
· 05-30 13:15
混合模型具體是怎麼混的？是 MOE 還是其他架構
查看原文
回復
0
FeeTakerPhD
· 05-30 12:20
終於等到跨DC部署了，KV快取傳輸這關過了成本真的能打下來嗎
查看原文
回復
0
波普水果拼贴
· 05-30 12:18
跨數據中心+異構，運維複雜度爆炸吧
查看原文
回復
0
ExitLiqNow
· 05-30 12:17
之前卡KV快取傳輸，現在突破了算里程碑
查看原文
回復
0
猫头鹰盯授权
· 05-30 12:17
每個 token 便宜一點，量大就是真金白銀
查看原文
回復
0
火山后那块石
· 05-30 12:17
Moonshot這波技術債還得挺漂亮
查看原文
回復
0
奶油止损线
· 05-30 12:17
降本才是硬道理，等實測數據
查看原文
回復
0
LatencyLullaby
· 05-30 12:17
預填充和解耦分開做，延遲會不會反而變高？
查看原文
回復
0
机械蜂鸟玻璃彩绘
· 05-30 12:17
Kimi這混合模型有點東西，異構硬體都能跑
查看原文
回復
0
查看更多
熱門話題
查看更多
#
成長值抽獎贏金條
124.79萬 熱度
#
WTI原油失守90美元
120.16萬 熱度
#
股票交易挑戰最高贏17000U
20.74萬 熱度
#
美伊談判博弈
935.98萬 熱度
#
交易CFD送黃金
322.21萬 熱度
已置頂
網站地圖
Moonshot AI 將 Prefill/Decode 解耦技術擴展至跨數據中心與異構硬件