MLE Bench 66.6% 接近 Gemini 3.1,单 token 9.8B 参数做到这水平,窗口化 FIFO 和前缀树合并的细节值得细读,长序列训练效率这块被 MiniMax 啃下来了

区块律动
解密底牌:MiniMax发布M2技术报告,详述MoE底座与Agent训练系统
本文梳理 MiniMax 的 M2 系列技术报告,描述 M1 的混合线性注意力向全注意力的取舍,以及 MTP、Sigmoid 路由、Forge 在推训端的成本缓解。首次披露长序列 Agent RL 的 Forge 与 M2.7 自进化机制,采用窗口化 FIFO 与前缀树合并,训练速率在长序列可达 40 倍提升。M2.7 的自进化闭环可完成超 100 轮分析、改代码、跑评测与回退,提升约 30%。在单 token 9.8B 参数下,SWE-Pro 56.22%,MLE Bench 66.6%,接近 Gemini 3.1。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论
  • 置顶