Giảm chi phí truy cập bộ nhớ đệm 99% nghe có vẻ quá mức, nhưng bộ đệm KV phân cấp của lớp SWA thực sự có thể tăng dung lượng, chỉ khi dưới mức cân bằng lợi nhuận mới thực sự là lợi thế cạnh tranh

Cổng thông tin CoinWorld đưa tin, Luo Fuli đã công bố cơ chế giảm chi phí vĩnh viễn của API MiMo-v2.5 trên nền tảng X: sau khi phù hợp với DeepSeek, suy luận tải cao vẫn duy trì cân bằng lợi nhuận và lỗ, chi phí đến từ chú ý hỗn hợp và bộ đệm KV phân tầng. Để đạt được mục tiêu giảm chi phí truy cập bộ đệm xuống 99%, khung suy luận Mi đã tối ưu hóa bộ đệm KV phân tầng cho SWA, thử nghiệm cho thấy dung lượng bộ đệm tăng gấp 5 lần, chi phí giảm 80%. Cô ấy cho biết, suy luận chi phí thấp có thể kích thích nhu cầu của thiết bị cuối, các doanh nghiệp nên tránh giảm giá cạnh tranh, thông qua hợp tác giữa thuật toán và hệ thống suy luận ở tầng dưới, kiểm soát chi phí vận hành thực tế dưới mức cân bằng lợi nhuận và lỗ.