Citic Securities: Зміцнення збереження як основна потреба сучасного інтелектуального обґрунтування

Щоденні новини AI-Kuaixun від 每经. У звіті брокера CITIC Securities зазначається, що ШІ еволюціонує від «простого діалогу» до «інтелектуальних агентів (Agent)», що спричиняє різке зростання довжини контексту. За даними Epoch AI, найдовше вікно контексту зростає приблизно на 30x щороку; між обсягом відеопам’яті KV Cache та довжиною контексту існує лінійна залежність, що значно перевищує темпи зростання продуктивності апаратного забезпечення. Наразі провідні виробники великих мовних моделей та виробники обладнання головним чином вирішують вузьке місце з обчислювальною потужністю/пам’яттю через квантування, ієрархічне зберігання та оптимізацію архітектури моделі, але це все ще не змінює того, що попит на відеопам’ять вибухово зростає. CITIC Securities вважає, що оптимізація відеопам’яті може знизити вартість генерації для кожного Token, що, у свою чергу, стимулюватиме користувачів вмикати більшу паралельність запитів і довший контекст; сукупний попит на обчислювальні ресурси не зменшиться, а навіть зростатиме. Оновлення пам’яті перетворюється на ключову потребу для виведення/інференсу Agent у поточний момент, тож ми впевнено підтримуємо тенденцію до зростання сегменту зберігання.

Щоденні економічні новини

(Редактор: 董萍萍 ）

     【Застереження】Ця стаття відображає лише особисті погляди автора та не має відношення до Hexun. Сайт Hexun зберігає нейтралітет щодо наведених у статті тверджень та суджень; жодних явних чи неявних гарантій щодо точності, надійності або повноти відомостей, що містяться в матеріалі, не надається. Будь ласка, читачі розглядайте ці матеріали лише як довідкову інформацію та несіть повну відповідальність самостійно. email：news_center@staff.hexun.com

Повідомити про порушення