廣場
最新
熱門
新聞
我的主頁
發布
美團開源萬億參數模型 LongCat-2.0，發布針對國產芯片的推理代碼
空投黑洞
2026-07-06 04:41:41
關注
據動察beat監測，美團正式開源了萬億參數模型LongCat-2.0，該模型總參數達1.6萬億，平均激活約480億，專為真實的智慧體編碼任務設計。架構上，創新引入了LongCat稀疏注意力機制和N-gram嵌入；前者通過流暢感知索引和分層索引減少碎片化記憶體訪問，加速百萬級token長上下文的訓練與推理。後者則將1350億參數投入嵌入層，同時保持MoE約97%的稀疏性，平衡參數效率與結構穩定性。後訓練採用多教師線上蒸餾，將專家分為三類：Agent、Inference和Interaction，透過MOPD架構在國產計算集群上無縫整合。作為首個在5萬卡國產計算集群上完成推理的萬億參數模型，LongCat-2.0驗證了國產晶片處理複雜大模型任務的成熟能力。為應對國產晶片在記憶體、頻寬和互聯性方面的多重限制，美團在模型、晶片適配和部署三個方面取得突破。在模型層面，ScMoE利用國產晶片的核心控制能力，實現Dense與MoE分支的物理核心級並行，並結合KV-cache分片緩解超長上下文的記憶體壓力。在晶片適配層面，Super Kernel減小算子啟動開銷，Weight Prefetch隱藏I/O延遲，在受限條件下最大化硬體利用率。在部署層面，PD分離平衡TTFT和TPOT，配合非同步Expert-Parallel負載均衡，應對高EP度下的負載不均。本次開源還提供了BF16、FP8、INT8等多精度版本，並計劃全面開源針對國產算力最佳化的推理成果，目標是在現有及舊款國產卡上也能流暢部署萬億參數模型的推理服務。
查看原文
此頁面可能包含第三方內容，僅供參考（非陳述或保證），不應被視為 Gate 認可其觀點表述，也不得被視為財務或專業建議。詳見
聲明
。
打賞
按讚
回覆
轉發
分享
回覆
請輸入回覆內容
請輸入回覆內容
回覆
暫無回覆
熱門話題
查看更多
#
GT二季度銷毀257萬枚
17.08萬 熱度
#
預測世界盃葡萄牙VS西班牙
26.3萬 熱度
#
gStocks代幣化股票上線
488.03萬 熱度
#
比特幣巨鯨兩週狂掃27萬枚BTC
8.71萬 熱度
#
USD1鏈上質押享年化8.26%
105.67萬 熱度
已置頂
網站地圖
美團開源萬億參數模型 LongCat-2.0，發布針對國產芯片的推理代碼