Moonshot يفصل بين التهيئة المسبقة/التحويل ويجعلها تعمل عبر مراكز البيانات، ويمكنها تشغيل أجهزة غير متجانسة، ويجب أن تتغير هيكلية التكاليف

أخبار ME News، 18 أبريل (بتوقيت UTC+8)، أعلنت فريق Moonshot AI مؤخرًا أن تقنية فصل وظيفة التهيئة المسبقة (Prefill) وفك الترميز (Decode) قد تم توسيعها بنجاح من مجموعة واحدة إلى بيئات مراكز بيانات متعددة وبيئات أجهزة غير متجانسة. ووفقًا للرأي الوارد في النص، من المتوقع أن يقلل هذا الإجراء بشكل كبير من تكلفة الاستدلال لكل رمز. سابقًا، كانت توسعة هذه التقنية تعرقلها مشكلة استهلاك النطاق الترددي لذاكرة التخزين المؤقت (KV cache). ويعتمد هذا الإنجاز على نجاح نموذجها المختلط Kimi.