Обчислювальна потужність GPU досягла межі, але застрягла на пропускній здатності пам'яті — ця думка Jukan досить контринтуїтивна, але якщо подумати, то ієрархію HBM варто переглянути.

Переглянути оригінал
CoinNetwork
币界网消息,Citrini Research分析师Jukan表示,AI模型的推理性能提升并非仅靠增加Nvidia GPU实现,GPU在推理中常因内存瓶颈处于低利用率闲置状态,推理的投资回报率取决于内存而非GPU,Micron的重要性或将超越Nvidia。
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено