O poder de computação da GPU está no auge, mas está limitado pela largura de banda da memória — A opinião de Jukan é bastante contraintuitiva, mas, pensando bem, o estatuto do HBM merece ser reavaliado.

Ver original
CoinNetwork
Notícias do CoinWorld, o analista da Citrini Research, Jukan, disse que a melhoria do desempenho de inferência dos modelos de IA não é alcançada apenas aumentando as GPUs Nvidia, as GPUs frequentemente ficam ociosas com baixa utilização devido a gargalos de memória durante a inferência, o retorno sobre o investimento em inferência depende da memória, não da GPU, a importância da Micron pode superar a da Nvidia.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado