Moonshot AI يوسع تقنية فصل التهيئة/التحليل المسبق لتشمل عبر مراكز البيانات والأجهزة غير المتجانسة
أخبار ME News، 18 أبريل (بتوقيت UTC+8)، أعلنت فريق Moonshot AI مؤخرًا أن تقنية فصل وظيفة التهيئة المسبقة (Prefill) وفك الترميز (Decode) قد تم توسيعها بنجاح من مجموعة واحدة إلى بيئات مراكز بيانات متعددة وبيئات أجهزة غير متجانسة. ووفقًا للرأي الوارد في النص، من المتوقع أن يقلل هذا الإجراء بشكل كبير من تكلفة الاستدلال لكل رمز. سابقًا، كانت توسعة هذه التقنية تعرقلها مشكلة استهلاك النطاق الترددي لذاكرة التخزين المؤقت (KV cache). ويعتمد هذا الإنجاز على نجاح نموذجها المختلط Kimi.