美团LongCat-2.0、国産GPU推論コードを同時公開

robot
概要作成中
金色财经報道、7月9日付、業界初となる五万カード国産算力クラスタ上で推論を完了した兆パラメータモデル「LongCat-2.0」が全面オープンソース化されました。メモリと帯域幅に制約のある国産算力チップに対し、モデルアーキテクチャ、チップ適応、展開戦略にわたる深い協調最適化を施し、兆パラメータモデルを既存のカード上でも安定かつ高速に動作させることが可能になりました。LongCat-2.0のオープンソース化は、技術的パスの公開であると同時に、エコシステムへの招待でもあります。今回のオープンソースでは、BF16、FP8、INT8といった多精度バージョンを同時に提供し、異なる算力プラットフォームの展開ニーズを全面的にカバーします。さらに、私たちはオープンソースコミュニティに深く関与し、国産算力向けに極限まで最適化された推論成果を同時に公開します。これは、最新の算力を手元に持っていなくても、既存のハードウェア上でLongCat-2.0を安定して動作させられることを意味します。私たちは、このすぐに使える推論スタックを通じて、より多くの国産カード、旧型カードを含め、兆パラメータ大規模モデルの推論サービスをスムーズにデプロイし、実際の生産性シナリオでより大きな価値を発揮できることを目指しています。
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め