Снижение стоимости кэш-хита на 99% звучит преувеличенно, но иерархический KV-кэш уровня SWA действительно может увеличить емкость, а линия безубыточности — это настоящий защитный вал

Биткойн-новости сообщают, что Ло Фули на платформе X объявила о механизме снижения затрат после постоянного снижения цен на API MiMo-v2.5: после согласования с DeepSeek, при высокой нагрузке на выводы модель сохраняется баланс прибыли и убытков, а затраты связаны с гибридным вниманием и иерархическим кешем KV. Для достижения цели снижения стоимости кеширования на 99%, фреймворк вывода Mi был оптимизирован для иерархического кеша KV в SWA, тесты показали увеличение объема кеша в 5 раз и снижение затрат на 80%. Она отметила, что низкая стоимость вывода может стимулировать спрос на конечных устройствах, предприятия должны избегать ценовой войны, сотрудничая с алгоритмами и низкоуровневыми системами вывода, чтобы контролировать реальные операционные расходы ниже уровня безубыточности.