CITIC Securities: Повышение емкости хранения становится ключевым требованием для текущего интеллектуального вывода, уверенно смотрим на тенденцию роста хранения

robot
Генерация тезисов в процессе

Финансовые новости от People’s Finance 31 марта: в исследовательском отчёте Citic Securities говорится, что ИИ развивается от «простого диалога» к «интеллектуальным агентам (Agent)», что приводит к резкому росту длины контекста. По данным Epoch AI, самый длинный контекстный окно увеличивается примерно на 30x в год, при этом объём видеопамяти для KV Cache и длина контекста имеют линейную зависимость, что значительно опережает темпы роста производительности аппаратного обеспечения. В настоящее время основные производители крупномасштабных моделей и поставщики аппаратного обеспечения в основном решают узкое место по вычислительной и пропускной мощности за счёт квантования, многоуровневого хранения и оптимизации архитектуры моделей, однако это всё ещё не меняет того, что спрос на видеопамять продолжит взрывной рост. Citic Securities считает, что оптимизация видеопамяти может снизить стоимость генерации одного токена, тем самым стимулировав пользователей включать более высокую параллельность и более длинный контекст; общий спрос на вычислительные мощности не уменьшится, а вырастет. Модернизация вычислительных мощностей станет ключевой потребностью для вывода текущих Agent, и компания уверенно оценивает тренд роста в сегменте хранения данных.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Горячее на Gate Fun

    Подробнее
  • РК:$2.27KДержатели:2
    0.00%
  • РК:$2.37KДержатели:2
    1.04%
  • РК:$2.24KДержатели:1
    0.00%
  • РК:$2.24KДержатели:1
    0.00%
  • РК:$2.25KДержатели:1
    0.00%
  • Закрепить