1.7B/4B/8Bの3つのオプションから選択可能、携帯電話からサーバーまで全てをカバー

原文表示
MeNews
PrismMLが1.58ビットモデルのTernary Bonsaiをリリース、パラメータを9倍削減し、知能度で同類を凌駕
PrismML 発表 Ternary Bonsai シリーズ、採用 1.58 ビット重 {-1,0,+1}、GPU メモリはわずか 16 ビットモデルの9分の1。8B/4B/1.7B の3つの規模が Hugging Face でオープンソース化され、Apple デバイス上でネイティブに動作。8B 重みは約 1.75 GB、ベンチマークスコアは 75.5、同類をリード。iPhone 17 Pro Max 上で 8B の速度は 27 トーク/秒、エネルギー効率は 3〜4 倍向上。重みは Apache 2.0 で配布され、MLX フレームワークを通じて Apple デバイス上でネイティブに動作。
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め