كيمني هذه الموجة من فك الارتباط عبر مراكز البيانات تلعب بشكل كبير، وإذا تمكنت من تقليل تكلفة الاستدلال حقًا، فخدمات استدعاء النماذج الكبيرة في المستقبل ستصبح أرخص بشكل كبير

أخبار ME، 18 أبريل (بتوقيت UTC+8)، أعلنت فريق Moonshot AI مؤخرًا أن تقنية فصل وظيفة التهيئة المسبقة (Prefill) وفك التشفير (Decode) قد تم توسيعها بنجاح من مجموعة واحدة إلى بيئات مراكز بيانات متعددة وبيئات أجهزة غير متجانسة. ووفقًا للرأي الوارد في المقال، من المتوقع أن يساهم هذا الإجراء بشكل كبير في تقليل تكلفة الاستدلال لكل رمز. سابقًا، كانت توسعة هذه التقنية تعرقلها مشكلة استهلاك النطاق الترددي لتوصيل ذاكرة التخزين المؤقت KV. ويعتمد هذا الإنجاز على نجاح نموذجها المختلط Kimi.