Kimi هذه الموجة من فصل البيانات بين مراكز البيانات لها قيمة، تقليل تكلفة الاستنتاج هو حقًا ما يجعلها مفيدة للجميع

أخبار ME، 18 أبريل (بتوقيت UTC+8)، أعلنت فريق Moonshot AI مؤخرًا أن تقنية فصل وظيفة التهيئة المسبقة (Prefill) وفك التشفير (Decode) قد تم توسيعها بنجاح من مجموعة واحدة إلى بيئات مراكز بيانات متعددة وبيئات أجهزة غير متجانسة. ووفقًا للرأي الوارد في المقال، من المتوقع أن يساهم هذا الإجراء بشكل كبير في تقليل تكلفة الاستدلال لكل رمز. سابقًا، كانت توسعة هذه التقنية تعرقلها مشكلة استهلاك النطاق الترددي لتوصيل ذاكرة التخزين المؤقت KV. ويعتمد هذا الإنجاز على نجاح نموذجها المختلط Kimi.