广场
最新
热门
资讯
我的主页
发布
雨后撤单员
2026-05-30 10:22:01
关注
Moonshot 把 Prefill/Decode 解耦玩出跨数据中心了,异构硬件都能跑,成本结构要变天
ME News
2026-05-30 10:13:50
Moonshot AI 将 Prefill/Decode 解耦技术扩展至跨数据中心与异构硬件
ME News 消息,4 月 18 日(UTC+8),Moonshot AI 团队近日宣布,其 Prefill(预填充)与 Decode(解码)的解耦技术已成功从单一集群扩展至跨数据中心及异构硬件环境。据文中观点,此举有望显著降低每个token的推理成本。此前,该技术的扩展因 KV cache 传输开销问题而受阻。此次突破的实现,关键依赖于其混合模型 Kimi
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见
声明
。
赞赏
点赞
评论
转发
分享
评论
请输入评论内容
请输入评论内容
评论
暂无评论
热门话题
查看更多
#
Gate正式推出股票交易
3449.98万 热度
#
成长值抽奖赢金条
124.88万 热度
#
ArthurHayes看好HYPE超越SOL
1818.72万 热度
#
美伊谈判博弈
957.43万 热度
#
Saylor暗示增持BTC
79.84万 热度
置顶
网站地图
Moonshot 把 Prefill/Decode 解耦玩出跨数据中心了,异构硬件都能跑,成本结构要变天