CITIC Securities: A procura total por capacidade de armazenamento não diminuirá, mas aumentará, mantendo uma visão otimista sobre a tendência de crescimento do armazenamento

robot
Geração do resumo em andamento

**瑞财经 严明会 **Recentemente, um relatório do Citic Securities afirma que a IA evolui de “conversa simples” para “agentes (Agent)”, impulsionando um aumento explosivo do tamanho do contexto.

De acordo com dados da Epoch AI, a janela de contexto mais longa cresce cerca de 30x por ano; a capacidade de memória de vídeo (KV Cache) e o tamanho do contexto têm uma relação de crescimento linear, muito acima do ritmo de evolução das configurações de hardware. Atualmente, os fornecedores de modelos de grande escala e os fabricantes de hardware resolvem sobretudo o gargalo de capacidade de computação por meio de quantização, armazenamento em camadas e otimização da arquitetura do modelo, mas isso ainda não altera a explosão da necessidade de memória de vídeo.

O Citic Securities considera que a otimização de memória de vídeo poderá reduzir o custo de geração por token e, assim, estimular os utilizadores a ativarem maior concorrência e contextos mais longos; a procura total de capacidade de computação não só não diminuirá como deverá aumentar ainda mais. A atualização de capacidade de computação torna-se a principal necessidade do raciocínio por agentes (Agent) neste momento, e a empresa manifesta convicção na tendência de crescimento do armazenamento.

Empresas relacionadas: Citic Securities sh600030

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Marcar