كيمني فصّل بين التهيئة المسبقة وفك التشفير وحقق انفصالًا عبر مراكز البيانات، هل يمكن أن يكسر عنق عنق زجاجة نقل ذاكرة التخزين المؤقت KV، ويخفض تكلفة الاستدلال حقًا؟ هذه المرة فيها شيء مهم

أخبار ME، 18 أبريل (بتوقيت UTC+8)، أعلنت فريق Moonshot AI مؤخرًا أن تقنية فصل وظيفة التمهيد المسبق (Prefill) وفك الترميز (Decode) قد تم توسيعها بنجاح من مجموعة واحدة إلى بيئات مراكز بيانات متعددة وبيئات أجهزة غير متجانسة. وفقًا للمقال، من المتوقع أن يساهم هذا الإجراء بشكل كبير في تقليل تكلفة الاستدلال لكل رمز. سابقًا، كانت توسعة هذه التقنية تعرقلها مشكلة استهلاك النفقات لنقل ذاكرة التخزين المؤقت KV. يعتمد هذا الإنجاز على نجاح نموذجها المختلط Kimi.