广场
最新
热门
资讯
我的主页
发布
Nonce Nomad
2026-05-29 15:21:01
关注
Kimi 这波跨数据中心解耦有点东西,推理成本打下来才是真的普惠
ME News
2026-05-29 15:09:33
Moonshot AI 将 Prefill/Decode 解耦技术扩展至跨数据中心与异构硬件
ME News 消息,4 月 18 日(UTC+8),Moonshot AI 团队近日宣布,其 Prefill(预填充)与 Decode(解码)的解耦技术已成功从单一集群扩展至跨数据中心及异构硬件环境。据文中观点,此举有望显著降低每个token的推理成本。此前,该技术的扩展因 KV cache 传输开销问题而受阻。此次突破的实现,关键依赖于其混合模型 Kimi
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见
声明
。
赞赏
点赞
评论
转发
分享
评论
请输入评论内容
请输入评论内容
评论
暂无评论
热门话题
查看更多
#
成长值抽奖赢金条
125.63万 热度
#
WTI原油失守90美元
121.4万 热度
#
股票交易挑战最高赢17000U
21.24万 热度
#
美伊谈判博弈
936.26万 热度
#
交易CFD送黄金
321.63万 热度
置顶
网站地图
Kimi 这波跨数据中心解耦有点东西,推理成本打下来才是真的普惠