ME News 消息、4月24日（UTC+8）、動察 Beating のモニタリングによると、OpenAI の技術者 Clive Chan 氏は、V4 の技術レポートは全体的に依然としてトップレベルだが、チップメーカー向けのハードウェア提案の章は「意外にも平凡で、誤りさえある」と述べ、V3 との対比を指摘した。V3 のハードウェア章の Q&A は、学術会議 ISCA で最も話題になった討論セクションであり、提案内容は業界が策定中の相互接続規格にまで具体性があったが、V4 はかなり漠然としたものになった。Chan 氏は項目ごとに疑問を呈した。消費電力について、レポートはソフトウェアの最適化によりチップの計算、ストレージ、通信が同時にフル稼働するため、チップメーカーにより多くの電力マージンを確保するよう提案している。Chan 氏は「まさに逆効果」とし、チップの総消費電力は物理プロセスに制約されるため、電力マージンを多く確保すると動作周波数を下げる必要が生じ、計算能力が低下すると指摘した。GPU間のデータ転送方式について、レポートはGPUがデータを能動的に読み取る（pull）方式を選択するよう提案し、相手に押し出させる（push）方式を避ける理由として、pushの通知オーバーヘッドが高すぎるとした。Chan氏はこの判断に疑問を呈し、pullの方がむしろ遅く、ネットワークカードのデータ処理能力を改善すべきだと主張した。ただし、両者の議論は同じレベルの問題ではない可能性がある。レポートが述べているのは通知メカニズムのオーバーヘッドであり、Chan氏が述べているのは転送そのものの遅延である。活性化関数について、レポートはSwiGLUをより単純な関数に置き換えて計算負荷を軽減するよう提案しているが、Chan氏は不要であるとし、Sonic MoEがSwiGLUを使用しても最適な性能を達成できることを実証していると述べた。Chan氏は、DeepSeekが「意図的にこの章を弱体化させた」可能性があると疑っている。（出典：BlockBeats）

原文表示

このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております（表明・保証をするものではありません）。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。

報酬
いいね
コメント
リポスト
共有

コメントを追加

コメントなし

人気の話題
もっと見る
#
gStocksTokenizedStocksLive
1.06M 人気度
#
StrongNonfarmPayrollsRekindleRateHikeFear
1.03M 人気度
#
IsraelStrikesIranBTCPlunges
67.83K 人気度
#
PredictWorldCupShare20000U
191.59K 人気度
#
ETHBreaks1700
120.76M 人気度

ピン留め

サイトマップ

OpenAIの技術者がV4ハードウェアの提案を一つ一つ疑問視：業界を驚かせたV3の章は今回「意外」

人気の話題

gStocksTokenizedStocksLive

StrongNonfarmPayrollsRekindleRateHikeFear

IsraelStrikesIranBTCPlunges

PredictWorldCupShare20000U

ETHBreaks1700

ピン留め