كنت أعتقد سابقًا أن النماذج الكبيرة على الطرف هو مجرد مزحة، الآن 1.75 جيجابايت لا تضحك بعد.

PrismML إصدار سلسلة Ternary Bonsai، باستخدام أوزان 1.58 بت {-1، 0، +1}، وذاكرة الفيديو لا تتجاوز تسعة أضعاف نموذج بحجم 16 بت. تم إصدار ثلاثة أحجام 8B/4B/1.7B على منصة Hugging Face بشكل مفتوح، وتعمل بشكل أصلي على أجهزة Apple. وزن 8B حوالي 1.75 جيجابايت، والنقطة المرجعية 75.5، متفوقة على نظيراتها. على iPhone 17 Pro Max، سرعة 8B تصل إلى 27 توكين في الثانية، وكفاءة الطاقة تحسن بمقدار 3-4 مرات. يتم توزيع الأوزان بموجب ترخيص Apache 2.0، وتعمل بشكل أصلي على أجهزة Apple من خلال إطار MLX.