تشغيله يدويًا أمر مزعج بعض الشيء، لكن تقليل الكمون الناتج عنه فعلاً رائع

شاهد النسخة الأصلية
CoinNetwork
أخبار شبكة العملات الرقمية، بدأ نموذج المسودة في التراجع، وتبدأ قدرة التشفير التنبئي متعدد الرموز (mtp) على التوقعات في تطبيقات الواجهة الأمامية المحلية للاستدلال. تتمثل طريقة mtp في إضافة عدة رؤوس تنبؤ خفيفة إلى النموذج الرئيسي، مما يسمح للنموذج بالتخمين المبكر للرموز التالية والتحقق منها بنفسه. لقد قدم النموذج العلوي بالفعل إجراءات، وذكر تقرير تقنية deepseek-v3 أن mtp مدمج في هدف التدريب، مما يدل على أن هذا الوحدة يمكن استخدامها مباشرة لتسريع الاستدلال. كما بدأت أطر وأدوات الاستدلال السفلية في التكيف، بما في ذلك llama.cpp و vllm و lm studio، ويحتاج المستخدمون إلى تنزيل نماذج تدعم mtp وتفعيلها يدويًا.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت