UnslothAI تصدر نسخة DGEMMA 4-31B من نوع 4-بت MLX محسنة خصيصًا لمعالجات Apple Silicon

robot
إنشاء الملخص قيد التقدم

أخبار ME، 11 أبريل (بتوقيت UTC+8)، أصدرت UnslothAI مؤخرًا نسخة محسنة من نموذج DGEMMA 4-31B بتقنية MLX ذات 4 بت الأصلية. تم تصميم هذا الإصدار خصيصًا لمعالجات Apple Silicon، ويُزعم أنه يحقق سرعة استنتاج فائقة على جميع أجهزة Mac من سلسلة M، مع الحفاظ على استهلاك فعال للذاكرة (حوالي 20 جيجابايت من RAM). بالإضافة إلى ذلك، يتمتع النموذج بأداء قوي في متعدد الوسائط والرؤية، ويدعم طول سياق كامل يبلغ 256 ألف، ووظيفة استدعاء دوال أصلية. (المصدر: InFoQ)

شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت