2950亿参数只激活210亿,这稀疏度设计有点意思,OpenRouter已能玩,先测为敬

币 界 网
币界网消息,腾讯发布混元系列最新旗舰模型Hy3 preview,采用MoE(混合专家,多个小型专家网络按需激活)架构,总参数2950亿,激活参数210亿。该模型已上线OpenRouter API和Hugging Face demo,但尚未发布开源权重。这是前OpenAI研究员、腾讯首席AI科学家姚顺雨加入后主导的首个旗舰模型,也是腾讯今年2月重建基础模型研发体系后不到3个月的产出。腾讯将其定位为「与国内顶级模型持平」。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论