英伟达200億ドルのGroq買収後初の戦略会談：推論トークンは質に応じて価格設定、低遅延高単価が新たな競争分野

ME News ニュース、4月16日（UTC+8）、動察Beatingの監視によると、黄仁勋はインタビューで初めて英偉達のGroq買収の戦略的論理を詳しく説明した。英偉達は昨年12月に200億ドルでGroqの推論チップ事業を買収し、Groqの創設者ジョナサン・ロスとコアチームが英偉達に参加し、Groqは独立した企業として引き続き運営されている。今年3月のGTC大会で、英偉達は合併後初のチップGroq 3 LPUを発表し、サムスンの4nmプロセスで製造された。英偉達は、万億パラメータモデルにおける1メガワットあたりの推論スループットがBlackwell NVL72の35倍であると述べた。 黄仁勋は、Groq買収の推進力は推論市場の階層化にあると述べた。以前の推論最適化は一つの方向性だけだった：スループットの向上だ。しかし、トークンの商業価値は大幅に上昇しており、異なるユーザーは異なる応答速度に対して異なる価格を支払う意欲がある。「もし私がソフトウェアエンジニアにより高速な応答のトークンを提供できれば、彼らは今よりも効率的に働くことができ、そのために支払う意欲がある。しかし、この市場は最近になって出現した。」 彼はこれを推論市場のパレートフロンティアの拡張と表現した：既存の高スループット方案の外に、新たに低遅延・高単価の市場セグメントを追加することだ。同じモデルでも、応答時間の差異による差別化価格設定が可能であり、「スループットは低くなるが、単価が補える」。GroqのLPUアーキテクチャは決定性の低遅延で知られ、英偉達GPUの高スループット路線と補完的であり、買収は英偉達の推論製品ラインで欠けていた部分を補った。（出典：BlockBeats）