初めてネイティブに昇騰に対応:Huaweiが正式に920億パラメータのopenPangu-2.0-Flashをオープンソース化

robot
概要作成中
ME News 消息,6 月 30 日(UTC+8),動察 Beating の監視によると、華為は正式に盤古 openPangu-2.0-Flash モデルをオープンソース化し、まもなく GitCode の Ascend Tribe コミュニティで公開することを発表した。モデルは総パラメータ数 920 億(92B)を持ち、混合エキスパート(MoE)アーキテクチャを採用し、実際には 60 億パラメータのみを活性化し、512K の超長コンテキストをサポートする。華為のオープンソース AI モデルブランドとして、openPangu は昇騰(Ascend)ネイティブの訓練と推論技術を通じて、業界に昇騰の計算能力開発実践の参考を提供することを目指している。オープンソース計画によると、Flash バージョンの初回リリース内容にはモデルウェイト、基本推論コード、訓練推論サブルーチンが含まれる。より高性能な openPangu-2.0-Pro のウェイトと推論コードは 7 月にリリースされ、さらに多くのコンポーネントが下半期に順次オープンソース化される予定である。(出典:BlockBeats)
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし