GPU算力堆到顶,结果卡在内存带宽上——Jukan这观点挺反直觉的,但细想确实,HBM的江湖地位该重新排排了

币 界 网
币界网消息,Citrini Research分析师Jukan表示,AI模型的推理性能提升并非仅靠增加Nvidia GPU实现,GPU在推理中常因内存瓶颈处于低利用率闲置状态,推理的投资回报率取决于内存而非GPU,Micron的重要性或将超越Nvidia。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论