GPU算力堆到頂,結果卡在記憶體頻寬上——Jukan這觀點挺反直覺的,但細想確實,HBM的江湖地位該重新排排了

查看原文
币 界 网
幣界網消息,Citrini Research分析師Jukan表示,AI模型的推理性能提升並非僅靠增加Nvidia GPU實現,GPU在推理中常因記憶體瓶頸處於低利用率閒置狀態,推理的投資報酬率取決於記憶體而非GPU,Micron的重要性或將超越Nvidia。
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆