CITIC Securities: підвищення здатності зберігання стає ключовою потребою сучасних систем логіки, впевнено підтримуємо тенденцію зростання зберігання

Народні фінансові новини 31 березня — у звіті аналітиків CICC зазначено, що AI еволюціонує від «простих діалогів» до «інтелектуальних агентів (Agent)», що спричиняє різке зростання довжини контексту. За даними Epoch AI, найдовше вікно контексту збільшується приблизно на 30 разів щороку; зв’язок між обсягом відеопам’яті KV Cache та довжиною контексту має лінійну залежність, що значно випереджає темпи зростання швидкості апаратного забезпечення. Наразі виробники великих мовних моделей і компанії з апаратного забезпечення здебільшого вирішують вузьке місце зі зберіганням за допомогою квантизації, ієрархічного зберігання та оптимізації архітектури моделі, але це все одно не змінює того, що попит на відеопам’ять вибухатиме. CICC вважає, що оптимізація відеопам’яті може знизити вартість генерації одного токена, а отже стимулюватиме користувачів вмикати вищу паралельність і довший контекст; загальний попит на обчислювальні ресурси не зменшиться, а навпаки зростатиме. Водночас модернізація ресурсів зберігання стане ключовою потребою для інференсу поточних AI, і аналітики твердо підтримують тренд зростання сегмента зберігання.