1.75 جيجابايت لتشغيل 8 مليار؟ هذا معدل الضغط الذي جعلني أندهش مباشرة

شاهد النسخة الأصلية
MeNews
PrismML تطلق نموذج 1.58 بيت Ternary Bonsai، وتقليل المعلمات بمقدار 9 مرات، مما يعزز الذكاء ويتفوق على النظائر
PrismML أطلقت سلسلة Ternary Bonsai، باستخدام وزن 1.58 بت {-1،0،+1}، وذاكرة الفيديو فقط تساوي واحد على تسعة من نموذج بحجم 16 بت. تم إصدار ثلاثة أحجام 8B/4B/1.7B على منصة Hugging Face بشكل مفتوح، وتعمل بشكل أصلي على أجهزة Apple. وزن 8B حوالي 1.75 جيجابايت، والنقطة الأساسية 75.5، متفوقة على نظيراتها. على iPhone 17 Pro Max، سرعة 8B تصل إلى 27 توكين في الثانية، مع زيادة كفاءة الطاقة بمقدار 3–4 مرات. يتم توزيع الأوزان بموجب ترخيص Apache 2.0، وتعمل بشكل أصلي على أجهزة Apple من خلال إطار MLX.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت