OpenAI技術者がV4ハードウェアの提案に一つ一つ疑問を呈す：V3が業界を驚かせた章が今回「意外な展開」

動態監測 Beating によると、OpenAI の技術者 Clive Chan は、V4 技術レポートは全体的に依然トップクラスの水準であると述べているが、チップメーカー向けのハードウェアに関する章「意外にも平凡で、時には誤りさえ含む」と指摘し、V3 との対比を示した。
V3 のハードウェアに関する Q&A セクションは、学術会議 ISCA で最も熱心に議論された部分であり、業界が策定中のインターコネクト標準に具体的に言及していたのに対し、V4 はかなり抽象的になっている。

Chan は一つ一つ疑問を提起した。電力消費に関して、レポートはソフトウェア最適化によりチップの計算、記憶、通信が同時にフル稼働すると述べており、チップメーカーに対してより多くの電力余裕を持たせることを推奨している。
Chan はこれを「まさに逆効果」と考える：チップの総電力消費は物理的な工芸制約によるものであり、余裕を持たせると動作周波数が下がり、計算能力が逆に低下する。
GPU 間のデータ伝送方式について、レポートは GPU にデータを積極的に読み取らせる（pull）方式を選ぶべきとし、プッシュ（push）方式は通知のオーバーヘッドが高すぎると述べている。
これに対し、Chan はこの判断に疑問を呈し、pull の方がむしろ遅くなる可能性があるため、ネットワークカードのデータ処理能力を改善すべきだと主張した。
ただし、二人が議論しているのは同じレベルの問題ではない可能性もある。レポートは通知メカニズムのオーバーヘッドについて述べているのに対し、Chan は伝送自体の遅延について言及している。
激活関数に関して、レポートは計算負荷を軽減するためにより単純な関数に置き換えることを提案しているが、Chan は必要ないと考えている。なぜなら、Sonic MoE はすでに SwiGLU を用いても最適性能を達成できることを証明しているからだ。
Chan は DeepSeek が「意図的にこの章を弱めた可能性がある」と疑っている。