$NVDA ジョナサン・ロスは、現在のAIの最大のボトルネックはメモリだと言いますが、ボトルネックは永続的なものではありません。

「ボトルネックが十分に大きくなるたびに、人々はそれを解決します。」
彼の警告は、メモリは制約されている間は非常に価値が高いままでいられるが、もしコストが高すぎたり希少になりすぎたりすると、それがエンジニアたちが取り組むべき問題になるということです。
もしメモリがあまりにも大きなボトルネックになれば、業界はそれへの依存を減らす方法を模索し始めるでしょう。
彼は、メモリは「半導体供給チェーンの中で最も商品化されたセグメント」だと言いましたが、今やそれはAIにおける最も重要な制約の一つです。
ロスはこれをギッフェン財の例えで説明します。もしメモリの価格が上がれば、最初はそれが不可欠なので顧客はより多く支出するかもしれません。しかし、最終的に価格があまりにも高くなると、代替品を探し始めます。
「もしメモリが高価すぎて、人々が十分に作らなければ、その問題は技術的に解決されるでしょう。」
DeepSeekの例は彼の意見に合致します。インタビュアーがDeepSeek V4がKVキャッシュを90%圧縮したと述べると、ロスはこのエンジニアリング作業には機会費用があったと答えます。
「もし十分なメモリがあれば、別のことに取り組んでいただろう。もしそれがそんなに高価でなければ、別のことに取り組んでいただろう。」
「それを十分に大きな問題にします。それが高いポピーです。あまりにも高くなると、切り倒されてしまいます。」