كيمني هذه المرة فهمت بشكل جيد كيف تفصل بين التهيئة/الديكود، مما يتيح تقليل تكلفة التوكن عبر مراكز البيانات، شيء مثير للاهتمام

أخبار ME، 18 أبريل (بتوقيت UTC+8)، أعلنت فريق Moonshot AI مؤخرًا أن تقنية فصل وظيفة التمهيد المسبق (Prefill) وفك الترميز (Decode) قد تم توسيعها بنجاح من مجموعة واحدة إلى بيئات مراكز بيانات متعددة وبيئات أجهزة غير متجانسة. وفقًا للمقال، من المتوقع أن يقلل هذا الإجراء بشكل كبير من تكلفة استنتاج كل رمز. سابقًا، كانت توسعة هذه التقنية معوقة بسبب مشكلة استهلاك النفقات لنقل ذاكرة التخزين المؤقت KV. يعتمد تحقيق هذا الاختراق بشكل رئيسي على نموذجها المختلط Kimi.