广场
最新
热门
资讯
我的主页
发布
美团开源万亿参数模型LongCat-2.0，发布国产芯片推理代码
空投黑洞
2026-07-06 04:41:41
关注
据动察 Beating 的监测，美团已正式开源万亿参数模型 LongCat-2.0。该模型总计 1.6 万亿参数，平均激活约 48 billion，专为真实 Agentic Coding 任务定制。架构方面，创新性引入 LongCat 稀疏注意力与 N-gram 嵌入：前者通过流畅性感知索引与层次化索引减少碎片化的内存访问，从而加速对数百万 tokens 长上下文的训练与推理；后者将 135 billion 参数投入到嵌入层，同时在 MoE 中保持近 97% 的稀疏性，在参数效率与结构稳定性之间取得平衡。后训练采用多教师在线蒸馏，将专家划分为三类：Agent、Inference 和 Interaction，并通过 MOPD 架构在国内计算集群上实现无缝集成。作为首个在 50,000 卡国内计算集群上完成推理的万亿参数模型，LongCat-2.0 验证了国产芯片处理复杂大模型任务的成熟能力。为应对国产芯片在内存、带宽与互连性方面的多重限制，美团在三方面取得突破：模型、芯片适配与部署。在模型层面，ScMoE 利用国产芯片的核心控制能力，实现 Dense 分支与 MoE 分支之间的物理核级并行，并结合 KV-cache 分片缓解超长上下文带来的内存压力。在芯片适配层面，Super Kernel 降低算子启动开销，Weight Prefetch 隐藏 I/O 延迟，在受限条件下最大化硬件利用率。在部署层面，PD 分离在 TTFT 与 TPOT 之间进行平衡，并配合异步 Expert-Parallel 负载均衡，以应对高 EP 度下可能出现的负载不均问题。本次开源发布还提供 BF16、FP8 和 INT8 等多精度版本，并旨在充分开放针对国产算力优化的推理结果，目标是在现有及更早期的国产卡上也能顺畅部署万亿参数模型推理服务。
查看原文
此页面可能包含第三方内容，仅供参考（非陈述/保证），不应被视为 Gate 认可其观点表述，也不得被视为财务或专业建议。详见
声明
。
赞赏
点赞
评论
转发
分享
评论
请输入评论内容
请输入评论内容
评论
暂无评论
热门话题
查看更多
#
GT二季度销毁257万枚
17.08万 热度
#
预测世界杯葡萄牙VS西班牙
26.3万 热度
#
Vitalik公布精简以太坊路线图
18.73万 热度
#
gStocks代币化股票上线
488.03万 热度
#
比特币巨鲸两周狂扫27万枚BTC
8.71万 热度
置顶
网站地图
美团开源万亿参数模型LongCat-2.0，发布国产芯片推理代码