إدوارد يانغ يشرح بالتفصيل التوازي بالمصفوفة ونوع فحص SPDM في PyTorchCon أوروبا

robot
إنشاء الملخص قيد التقدم
AIMPACT رسالة، في 15 مايو (UTC+8)، في PyTorchCon أوروبا 2026، شرح إدوارد يانغ من Meta في كلمة رئيسية أسباب صعوبة استخدام المطورين للتوازي عبر المصفوفات، وقدم استكشاف PyTorch لمحاولة التقاط الأخطاء خلال مرحلة فحص الأنواع باستخدام نوعية SPMD. كما غطت الكلمة التقدمات الأخيرة في PyTorch: دخول torch.compile إلى مرحلة مستقرة، ودعم معالجة الأشكال الديناميكية للأحجام المدخلة المتغيرة؛ تحسين التدريب الموزع من خلال تكامل FSDP و DDP لتقليل استهلاك الاتصالات؛ تعزيز أدوات التكميم، مع دعم جديد لدقة INT4 و FP8؛ تحديث TorchRec و TorchServe؛ تعزيز الدعم الأصلي لـ Apple Silicon (مُعالج MPS) و AMD GPU (مكدس ROCm)؛ وإضافة أدوات تدقيق جديدة وميزات فحص الاعتمادات للأمان. تشمل مساهمات المجتمع مكتبة تحسين خوارزميات torchao وإطار عمل التفسير الخفيف torchchat. تتجه الاتجاهات المستقبلية نحو تحسين حساب التفاضل التلقائي بشكل أكثر كفاءة، وتحسين الحسابات المتفرقة، والتكامل العميق مع أطر تدريب LLM. (المصدر: InFoQ)
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت