2950億參數只激活210億,這稀疏度設計有點意思,OpenRouter已能玩,先測為敬

查看原文
币 界 网
幣界網消息,騰訊發佈混元系列最新旗艦模型Hy3 preview,採用MoE(混合專家,多個小型專家網絡按需激活)架構,總參數2950億,激活參數210億。該模型已上線OpenRouter API和Hugging Face demo,但尚未發佈開源權重。這是前OpenAI研究員、騰訊首席AI科學家姚順雨加入後主導的首個旗艦模型,也是騰訊今年2月重建基礎模型研發體系後不到3個月的產出。騰訊將其定位為「與國內頂級模型持平」。
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆
  • 已置頂