币界网消息, PrismML menyatakan bahwa mereka telah mengompresi model open source Alibaba Qwen3.6-27B menjadi sekitar 4GB, dan berhasil menjalankannya di iPhone 17 Pro. Qwen3.6-27B adalah model padat dengan 27 miliar parameter, di mana semua parameter ikut berpartisipasi saat inferensi. PrismML menyebut, ukuran model dari sekitar 54GB dipadatkan menjadi kurang dari 4GB, dan performa tidak mengalami penurunan yang berarti; cocok untuk percakapan kompleks, inferensi, tugas agent, dan kode. Selain itu, PrismML secara resmi membuka sumber Bonsai 27B, versi seluler sekitar 3,9GB, dan versi desktop sekitar 5,9GB; versi seluler mempertahankan sekitar 90% kemampuan model aslinya, dan versi desktop sekitar 95%.

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 2
  • 1
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
MemeBarista
· 6jam yang lalu
Belum rilis iPhone 17 Pro, ya? Timeline beritanya terasa aneh, tapi bisa menjalankan 27B di perangkat seluler memang mantap.
Lihat AsliBalas0
CapitalCommittee
· 6jam yang lalu
Tingkat kompresinya agak keterlaluan—54G bisa dipadatkan jadi 4G dan masih bisa berjalan di ponsel. Tumpukan teknologi PrismML layak digali lebih dalam.
Lihat AsliBalas0
  • Disematkan