GPUの計算能力を最大限に積んでも、結果的にメモリ帯域幅で詰まる——Jukanのこの見解は直感に反するが、よく考えると確かに、HBMの地位は再評価されるべきだ。

原文表示
CoinNetwork
幣界網消息、Citrini ResearchアナリストのJukan氏によると、AIモデルの推論性能向上は単にNvidia GPUを増やすだけでは達成されず、GPUは推論においてメモリのボトルネックにより低利用率でアイドル状態になることが多い。推論の投資収益率はGPUではなくメモリに依存するため、Micronの重要性はNvidiaを超える可能性がある。
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め