Bonsai 27B:スマホで動作できる初の27B級マルチモーダルモデル

robot
概要作成中
ME AI メッセージ、Bonsai 27B は Qwen3.6 27B に基づき、3元(1.71 有効ビット/重み、5.9 GB)と 1-bit(1.125 有効ビット/重み、3.9 GB)の2つのバリアントを提供し、後者は初めて 27B クラスのモデルを iPhone 17 Pro に搭載します。モデルは多段推論、構造化ツール呼び出し、視覚タスク、コンピュータ利用のエージェントループをサポートし、262K トークンのコンテキストウィンドウを備えます。推測デコードによる高速化にも対応。15項目のベンチマークで、3元バリアントはフル精度のベースライン性能の 95% を維持し、1-bit バリアントは 90% を維持します。数学およびコーディング能力はほぼ無損です。Apache 2.0 ライセンスでオープンソース。 🔗 原文を読む: via AI HOT ·
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし