CITIC Securities: A procura total por capacidade de armazenamento não diminuirá, mas aumentará, mantendo uma visão otimista sobre a tendência de crescimento do armazenamento

robot
Geração de resumo em curso

**瑞财经 严明会 **Recentemente, um relatório do Citic Securities afirma que a IA evolui de “conversa simples” para “agentes (Agent)”, impulsionando um aumento explosivo do tamanho do contexto.

De acordo com dados da Epoch AI, a janela de contexto mais longa cresce cerca de 30x por ano; a capacidade de memória de vídeo (KV Cache) e o tamanho do contexto têm uma relação de crescimento linear, muito acima do ritmo de evolução das configurações de hardware. Atualmente, os fornecedores de modelos de grande escala e os fabricantes de hardware resolvem sobretudo o gargalo de capacidade de computação por meio de quantização, armazenamento em camadas e otimização da arquitetura do modelo, mas isso ainda não altera a explosão da necessidade de memória de vídeo.

O Citic Securities considera que a otimização de memória de vídeo poderá reduzir o custo de geração por token e, assim, estimular os utilizadores a ativarem maior concorrência e contextos mais longos; a procura total de capacidade de computação não só não diminuirá como deverá aumentar ainda mais. A atualização de capacidade de computação torna-se a principal necessidade do raciocínio por agentes (Agent) neste momento, e a empresa manifesta convicção na tendência de crescimento do armazenamento.

Empresas relacionadas: Citic Securities sh600030

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixar