كيمني هذه المرة فهمت بشكل جيد فصل إعداد مسبق/فك التشفير، يمكنها تقليل تكلفة الاستنتاج عبر مراكز البيانات، شيء جيد

أخبار ME News، 18 أبريل (بتوقيت UTC+8)، أعلنت فريق Moonshot AI مؤخرًا أن تقنية فصل وظيفة التهيئة المسبقة (Prefill) و فك التشفير (Decode) قد تم توسيعها بنجاح من مجموعة واحدة إلى مراكز بيانات متعددة وبيئات أجهزة غير متجانسة. ووفقًا للمقال، من المتوقع أن يساهم هذا الإجراء بشكل كبير في تقليل تكلفة استنتاج كل رمز. سابقًا، كانت توسعة هذه التقنية تعرقلها مشكلة استهلاك النفقات لنقل ذاكرة التخزين المؤقت KV. ويعتمد تحقيق هذا الاختراق بشكل رئيسي على نموذجها المختلط Kimi.