MoE 架構做影片生成,30 億參數只激活 3 億,這波效率優化確實切中具身智能的痛點。

查看原文
币 界 网
幣界網消息,螞蟻靈波宣布開源全球首個面向具身智能的視頻生成基礎模型LingBot-Video。該模型基於mixture-of-experts(moe)架構,旨在提高視頻生成的效率。LingBot-Video的總參數為30億,在生成時僅激活約3億參數,相比同等參數規模的傳統dense架構,推理效率提升約3倍。這一設計使模型既能獲得大規模參數帶來的視覺表達能力,又更適合具身智能對高效推理的要求。
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆
  • 已置頂