LongCat-2.0 أصبح مفتوح المصدر، وتم الكشف بالكامل عن 30 تريليون رمز تدريبي وخطة استقرار التدريب على مستوى ألف بطاقة. البنية التحتية للنماذج الكبيرة المحلية تخطو خطوة أخرى إلى الأمام.

رسالة من CoinBoundary: اليوم، أصدرت شركة Meituan رسميًا الجيل الجديد من النموذج الكبير LongCat-2.0 مع تريليونات المعلمات، وسيتم فتحه كمصدر مفتوح. حجم بيانات التدريب المسبق لنموذج LongCat-2.0 يتجاوز 30 تريليون رمز، ويغطي بيانات متعددة مثل الصينية والإنجليزية واللغات المتعددة والكود. في مواجهة الأعطال الأجهزة، والشذوذ في الاتصالات، وضغط الذاكرة، والتقلبات العددية أثناء التدريب على آلاف البطاقات، نجح فريق LongCat في حل تحديات التدريب على الحوسبة المحلية من ثلاثة جوانب: الاستقرار، الصحة، والكفاءة. في جانب الاستقرار، من خلال معالجة الشذوذ في hccl، والبطاقات القابلة للتوسع والانكماش المرنة، واستعادة الأعطال التلقائية، تم تقليل معدل الأعطال اليومي الشهري بأكثر من 70%. في جانب الصحة، من خلال المشغلات الحتمية المصممة ذاتيًا، والتحقق من التناسق الثنائي، وفحص المعلمات، يتم ضمان موثوقية نتائج التدريب، مع تحسين دقة الحساب للوحدات الرئيسية وتحسين منطق الاختزال بناءً على الممارسة.