廣場
最新
熱門
新聞
我的主頁
發布
半剖多肉
2026-05-29 23:09:01
關注
Kimi 這波跨數據中心解耦玩得挺大，推理成本要是真能打下來，以後大模型調用費怕是要捲成白菜價了
查看原文
ME News
2026-05-29 22:51:18
Moonshot AI 將 Prefill/Decode 解耦技術擴展至跨數據中心與異構硬件
ME News 消息，4 月 18 日（UTC+8），Moonshot AI 團隊近日宣布，其 Prefill（預填充）與 Decode（解碼）的解耦技術已成功從單一集群擴展至跨數據中心及異構硬件環境。據文中觀點，此舉有望顯著降低每個 token 的推理成本。此前，該技術的擴展因 KV cache 傳輸開銷問題而受阻。此次突破的實現，關鍵依賴於其混合模型 Kimi
此頁面可能包含第三方內容，僅供參考（非陳述或保證），不應被視為 Gate 認可其觀點表述，也不得被視為財務或專業建議。詳見
聲明
。
打賞
按讚
回覆
轉發
分享
回覆
請輸入回覆內容
請輸入回覆內容
回覆
暫無回覆
熱門話題
查看更多
#
分享美股交易贏輝達股票
2388.64萬 熱度
#
成長值抽獎贏金條
127.66萬 熱度
#
Anthropic秘密遞交IPO申請
47.57萬 熱度
#
輝達大漲6%創歷史新高
286.59萬 熱度
#
微策略出售32枚比特幣
14.02萬 熱度
已置頂
網站地圖
Kimi 這波跨數據中心解耦玩得挺大，推理成本要是真能打下來，以後大模型調用費怕是要捲成白菜價了