Hugging Face 直接ダウンロード可能、今夜はgit cloneして遅延をテストしよう

原文表示
MeNews
PrismMLが1.58ビットモデルのTernary Bonsaiをリリース、パラメータを9倍削減し、知能度は同類を上回る
PrismML 発表 Ternary Bonsai シリーズ、1.58ビットの重み {-1,0,+1} を採用、GPUメモリはわずか16ビットモデルの9分の1。8B/4B/1.7Bの3つの規模が Hugging Face でオープンソース化され、Apple デバイス上でネイティブに動作。8Bの重みは約1.75 GB、ベンチマークスコアは75.5で、同類をリード。iPhone 17 Pro Max 上で8Bは27トーク/秒の速度を実現し、エネルギー効率は3〜4倍向上。重みは Apache 2.0 で配布され、MLXフレームワークを通じてAppleデバイス上でネイティブに動作。
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め