$AMD يواصل التقدم في البرمجيات


قدمت الشركة vLLM-ATOM، مكون إضافي مصمم لجعل نماذج الذكاء الاصطناعي الكبرى تعمل بشكل أفضل على $AMD وحدات معالجة الرسومات، بما في ذلك MI350 و MI400
يمكن للمطورين الاستمرار في استخدام نفس أوامر vLLM وواجهات برمجة التطبيقات وسير العمل، بينما يعمل ATOM في الخلفية على تحسين الأداء على أجهزة AMD، دون الحاجة إلى أدوات جديدة أو تكوينات معقدة
كما يمنح المستخدمين وصولاً فوريًا إلى أحدث تحسينات AMD، بما في ذلك دعم FP4 على MI355X، والاستدلال على نطاق الرفوف على MI400، والانتباه المدمج، وAllReduce المخصص، وتحسينات النواة الأخرى
كما يعمل ATOM كصندوق ابتكار، حيث يمكن لـ AMD اختبار تحسينات جديدة قبل إضافتها لاحقًا إلى النواة الرئيسية لـ vLLM ROCm
شاهد النسخة الأصلية
post-image
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • تثبيت