廣場
最新
熱門
新聞
我的主頁
發布
Nonce Nomad
2026-05-29 15:21:01
關注
Kimi 這波跨數據中心解耦有點東西,推理成本降低才是真的普惠
查看原文
ME News
2026-05-29 15:09:33
Moonshot AI 將 Prefill/Decode 解耦技術擴展至跨數據中心與異構硬件
ME News 消息,4 月 18 日(UTC+8),Moonshot AI 團隊近日宣布,其 Prefill(預填充)與 Decode(解碼)的解耦技術已成功從單一集群擴展至跨數據中心及異構硬件環境。據文中觀點,此舉有望顯著降低每個 token 的推理成本。此前,該技術的擴展因 KV cache 傳輸開銷問題而受阻。此次突破的實現,關鍵依賴於其混合模型 Kimi
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見
聲明
。
打賞
按讚
回覆
轉發
分享
回覆
請輸入回覆內容
請輸入回覆內容
回覆
暫無回覆
熱門話題
查看更多
#
成長值抽獎贏金條
125.46萬 熱度
#
WTI原油失守90美元
121.26萬 熱度
#
股票交易挑戰最高贏17000U
21.09萬 熱度
#
美伊談判博弈
936.19萬 熱度
#
交易CFD送黃金
321.65萬 熱度
已置頂
網站地圖
Kimi 這波跨數據中心解耦有點東西,推理成本降低才是真的普惠