PrismML Rilis Bonsai 27B, Model AI 27B Pertama yang Dikompresi hingga 3,9 GB untuk iPhone
Menurut PrismML, perusahaan merilis Bonsai 27B, model AI berparameter 27 miliar yang dikompresi menjadi 3,9 GB, lebih awal pekan ini—cukup kecil untuk dijalankan di iPhone 17 Pro Max dengan kecepatan 11 token per detik. Varian ternernya mempertahankan 94,6% dari performa benchmark berpresisi penuh, sekaligus mengungguli build Qwen low-bit konvensional yang ukurannya hampir dua kali lebih besar dan gagal pada tugas matematika serta pengodean. Varian biner mencapai 1,125 bit per bobot dengan mengk
GateNews·07-15 20:02
