広場
最新
注目
ニュース
プロフィール
ポスト
美団、1兆パラメータモデルLongCat-2.0をオープンソース化、中国国産チップ向け推論コードを公開
AirdropBlackHole
2026-07-06 04:41:41
フォロー
CryptoHamsterの監視によると、美団（Meituan）は正式に兆パラメータモデル「LongCat-2.0」をオープンソース化した。このモデルは総パラメータ数1.6兆、平均活性化パラメータ数約480億で、特に実際のAgentic Codingタスク向けに設計されている。アーキテクチャにはLongCatスパースアテンションとN-gram埋め込みが革新的に導入されている。前者は流暢性認識インデックスと階層的インデックスにより断片的なメモリアクセスを低減し、百万トークンの長文脈におけるトレーニングと推論を高速化する。後者は埋め込み層に1350億のパラメータを投入しつつ、MoEにおけるスパース率をほぼ97%に維持することで、パラメータ効率と構造的安定性のバランスを図る。ポストトレーニングではマルチティーチャーオンライン蒸留を採用し、エキスパートをAgent、Inference、Interactionの3種類に分類、国産計算クラスタ上でMOPDアーキテクチャを通じてシームレスに統合する。5万枚の国産計算カードクラスタ上で推論を完了した初の兆パラメータモデルとして、LongCat-2.0は国産チップが複雑な大規模モデルタスクを処理する成熟した能力を検証した。国産チップのメモリ、帯域幅、相互接続における複数の制約に対応するため、美団はモデル、チップ適応、デプロイメントの3つの分野でブレークスルーを達成した。モデルレベルでは、ScMoEが国産チップのコア制御機能を活用し、DenseとMoEブランチ間の物理コアレベルの並列処理を実現、KVキャッシュ分割と組み合わせて超長文脈のメモリ負荷を軽減する。チップ適応レベルでは、Super Kernelがオペレータ起動オーバーヘッドを削減し、Weight PrefetchがI/Oレイテンシを隠蔽、制約条件下でハードウェア利用率を最大化する。デプロイメントレベルでは、PD分離がTTFTとTPOTのバランスを取り、非同期Expert-Parallel負荷分散が高EP度下での不均一な負荷に対処する。今回のオープンソースリリースではBF16、FP8、INT8などのマルチプレシジョンバージョンも提供され、国産計算能力向けに最適化された推論結果を完全公開することを目指し、既存の旧型国産カードでも兆パラメータモデルの推論サービスをスムーズに展開できるようにする。
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております（表明・保証をするものではありません）。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については
免責事項
をご覧ください。
報酬
いいね
コメント
リポスト
共有
コメント
コメントを追加
コメントを追加
コメント
コメントなし
人気の話題
もっと見る
#
GTBurns2.57MInQ
170.89K 人気度
#
PredictWorldCupShare20000U
263.09K 人気度
#
IsraelStrikesIranBTCPlunges
69.38K 人気度
#
VitalikUnveilsLeanEthereum
187.31K 人気度
#
gStocksTokenizedStocksLive
4.88M 人気度
ピン留め
サイトマップ
美団、1兆パラメータモデルLongCat-2.0をオープンソース化、中国国産チップ向け推論コードを公開