A capacidade de computação da GPU está no topo, mas fica travada na largura de banda da memória — a opinião do Jukan é bastante contraintuitiva, mas pensando bem, é verdade; o status do HBM no mundo precisa ser reorganizado.

Ver original
CoinNetwork
Notícias do Coin World, o analista da Citrini Research, Jukan, disse que a melhoria do desempenho de inferência dos modelos de IA não depende apenas do aumento das GPUs da Nvidia; as GPUs frequentemente ficam ociosas com baixa utilização devido a gargalos de memória durante a inferência, e o retorno sobre o investimento da inferência depende da memória, não da GPU. A importância da Micron pode superar a da Nvidia.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado