أول نموذج لغة موسع في نظام AMD البيئي، TiDAR يتخطى التدريب المسبق مباشرة، وفكرة إزالة الضوضاء بالتوازي مع 16 توكن قوية جدًا، تعلمت من عملية تحويل الذاكرة إلى قوة حسابية.

شاهد النسخة الأصلية
MeNews
Zyphra تطلق أول نموذج لغة موسع لنظام AMD البيئي، بسرعة تصل إلى 7.7 أضعاف
Zyphra إصدار ZAYA1-8B-Diffusion-Preview، حيث يحول نموذج اللغة الكبير التتابعي إلى نموذج انتشاري مختلط، ليصبح أول نموذج لغة انتشاري يتم تدريبه ضمن بيئة أجهزة AMD. من خلال TiDAR، يتجاوز التدريب المسبق من الصفر، ويقوم بإزالة الضوضاء لـ 16 رمزًا في وقت واحد خلال تمريرة واحدة، محولًا عنق الزجاجة في الذاكرة إلى عنق الزجاجة في القدرة الحسابية. أظهرت الاختبارات تسريعًا بمقدار 4.6 مرات باستخدام انتباه CCA وعينة بدون فقد، وزيادة إلى 7.7 مرات بعد التبديل إلى مرشح التوزيع المختلط.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت