私は現在のNVIDIAの戦略において興味深いことに気づきました。先週、ジェンセン・フアンは、なぜNVIDIAが200億ドルを投資してGroqを買収したのかを詳しく説明しました。正直なところ、それは非常に戦略的に優れた決定であり、推論市場がどのように変化しているかを示しています。

では、背景を説明します：長い間、皆は一つの指標、すなわちスループットに集中していました。しかし、Groqは他の企業が見逃していたことを理解しました。ソフトウェアエンジニアは、より高速な応答のためにより高い価格を支払う準備ができています。これはまったく新しい市場のセグメントです。フアンが言ったように、超低遅延のトークンを提供できれば、開発者の生産性が向上し、その対価を支払うでしょう。これはちょうど始まったばかりの市場です。

そして、そこにGroqが登場します。この買収は、NVIDIAの推論ツールキットにおける大きなギャップを埋めます。NVIDIAが従来のソリューションで高スループットを支配している一方で、Groqはまったく異なるものを提供します。それは、決定論的な低遅延で知られるLPUアーキテクチャです。3月のGTCで、NVIDIAはSamsungの4nmで製造されたGroq 3 LPUを発表しました。数字は印象的です—ブラックウェルNVL72と比較して、1兆パラメータのモデルで1メガワットあたりの推論回数が35倍です。

これは、市場のパレート曲線の拡張のようなものです。高スループットと低遅延のどちらかを選ぶのではなく、NVIDIAは今や二つの異なるセグメントを作り出しています。Groqは引き続き独立した企業として運営されており、ジョナサン・ロスと彼のチームはNVIDIAに加わりました。応答時間に応じてモデル自体の価格を調整することも可能です—スループットは少なくなるが、単価は十分に補えます。これは純粋なビジネスの天才であり、AI市場の洗練度が高まっていることを示しています。両方のアプローチは共存し、顧客は自分たちの実際のニーズに基づいて選択するでしょう。