廣場
最新
熱門
新聞
我的主頁
發布
雨后撤单员
2026-05-30 10:22:01
關注
Moonshot 把 Prefill/Decode 解耦玩出跨數據中心了，異構硬體都能跑，成本結構要變天
查看原文
ME News
2026-05-30 10:13:50
Moonshot AI 將 Prefill/Decode 解耦技術擴展至跨數據中心與異構硬件
ME News 消息，4 月 18 日（UTC+8），Moonshot AI 團隊近日宣布，其 Prefill（預填充）與 Decode（解碼）的解耦技術已成功從單一集群擴展至跨數據中心及異構硬件環境。據文中觀點，此舉有望顯著降低每個 token 的推理成本。此前，該技術的擴展因 KV cache 傳輸開銷問題而受阻。此次突破的實現，關鍵依賴於其混合模型 Kimi
此頁面可能包含第三方內容，僅供參考（非陳述或保證），不應被視為 Gate 認可其觀點表述，也不得被視為財務或專業建議。詳見
聲明
。
打賞
按讚
回覆
轉發
分享
回覆
請輸入回覆內容
請輸入回覆內容
回覆
暫無回覆
熱門話題
查看更多
#
Gate正式推出股票交易
3450.23萬 熱度
#
成長值抽獎贏金條
126.5萬 熱度
#
ArthurHayes看好HYPE超越SOL
1819.6萬 熱度
#
美伊談判博弈
957.67萬 熱度
#
Saylor暗示增持BTC
79.99萬 熱度
已置頂
網站地圖
Moonshot 把 Prefill/Decode 解耦玩出跨數據中心了，異構硬體都能跑，成本結構要變天