Bonsai 27B: Model multimodal kelas 27B pertama yang dapat dijalankan di ponsel

robot
Pembuatan abstrak sedang berlangsung
ME AI pesan, Bonsai 27B berbasis Qwen3.6 27B, menawarkan dua varian: trinary (1,71 bit efektif/bobot, 5,9 GB) dan 1-bit (1,125 bit efektif/bobot, 3,9 GB). Varian terakhir untuk pertama kalinya memuat model kelas 27B ke iPhone 17 Pro. Model ini mendukung penalaran multi-langkah, pemanggilan alat terstruktur, tugas visi, dan loop agen penggunaan komputer, dengan jendela konteks 262K token, serta mendukung speculative decoding untuk mempercepat. Dalam 15 pengujian benchmark, varian trinary mempertahankan 95% performa dari baseline full precision, sementara varian 1-bit mempertahankan 90%; kemampuan matematika dan pengkodeannya hampir tanpa kerugian. Menggunakan lisensi open source Apache 2.0. 🔗 Baca artikel aslinya: via AI HOT ·
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan