Microsoftが3つのバージョンのHarrierテキスト埋め込みモデルをオープンソース化、27B版が多言語MTEB v2ランキングでトップに

robot
概要作成中

1M AI Newsのモニタリングによると、微软はHugging Faceでオープンソースの多言語テキスト埋め込みモデルファミリーharrier-oss-v1を公開しており、270M、0.6B、27Bの3つのクラスがあります。モデルカードによれば、この一連のモデルはdecoder-onlyアーキテクチャ、last-token pooling、L2正規化を採用し、最大で32768 tokenまで対応でき、検索、クラスタリング、セマンティック類似度、分類、バイリンガル・マイニング、リランキングに利用可能です。
  Multilingual MTEB v2は業界でよく使われる多言語テキスト埋め込みのベンチマークで、主に検索、分類、クラスタリング、セマンティック類似度などのタスクをテストします。微软のモデルカードによると、3つのクラスのモデルのこのベンチマークにおけるスコアはそれぞれ66.5、69.0、74.3であり、そのうち27B版は公開当日に首位に登場しました。270Mおよび0.6Bの各バージョンはさらに、より大きな埋め込みモデルを用いて知識蒸留を追加で行っており、3つのモデルはいずれもMITライセンスで公開されています。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • 人気の Gate Fun

    もっと見る
  • 時価総額:$2.27K保有者数:2
    0.00%
  • 時価総額:$2.37K保有者数:2
    1.04%
  • 時価総額:$2.24K保有者数:1
    0.00%
  • 時価総額:$2.24K保有者数:1
    0.00%
  • 時価総額:$2.25K保有者数:1
    0.00%
  • ピン