GPU вычисления упираются в потолок, но тормозит пропускная способность памяти — мнение Джукана довольно неинтуитивно, но если вдуматься, действительно, статус HBM нужно пересмотреть.

Посмотреть Оригинал
CoinNetwork
CoinWorld сообщение: Аналитик Citrini Research Джукан заявил, что повышение производительности рассуждений моделей ИИ достигается не только за счет увеличения количества GPU Nvidia. В процессе рассуждений GPU часто простаивают с низкой загрузкой из-за узких мест в памяти. Возврат инвестиций в рассуждения зависит от памяти, а не от GPU, и важность Micron может превзойти Nvidia.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено