Kimi 開源 K3 大模型權重並公布技術報告

robot
摘要生成中

PANews 7月27日消息,Moonshot AI 團隊發布其最先進的大模型 Kimi K3 的模型權重和技術報告。Kimi K3 為 2.8 萬億參數的 MoE 架構模型,具備原生多模態視覺理解能力,支援 100 萬 token 長上下文。新架構據稱在相同算力下智慧層級提升約 2.5 倍。除模型本身外,Kimi 同步開放高效能注意力算子、MoE 通信庫,以及用於大規模運行智能體環境的基礎設施程式碼;相關資源已於 Hugging Face、GitHub 與官網技術部落格上線。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆