私には、ASICは多くの人が考えているような「あるモデルのアーキテクチャのためだけに作られた専用回路」ではないと思えます。ASICは、おそらく特定のModel LayerとOperatorのために作られた回路で、中身はプログラマブルです。


ASICは馬鹿みたいに特定のモデルしか動かせない、というわけではありません。自分たちのモデルチームも反復(イテレーション)していくはずです。どうして彼らがコミュニケーションしないことがあり得るでしょうか?
とても簡単な設計パターンがあります。まず自分のモデルで、どのオペレーター(算子)に時間が一番かかっているかをprofileして、その算子を設計者が最適化し、その結果をASICとして作る。そうすれば、workloadの効率をすぐに高めやすいです。
こうしたASICは実際には算子の集合です。もちろん効率を優先することで、あまり使わない算子をいくらか捨てる可能性はありますが、それでも汎用モデルは動かせます。
少なくとも、今のNVDAと本質的に違うわけではありません。違うのは、NVDAがすべての会社に対応する必要があるのに対して、ASICは自分の特定のトラフィックのバッチを担当できる点です。もちろん価値があります。
企業間の差別化が進むほど、ASICの価値はますます高くなるはずで、逆に「自分に必要のない機能」にプレミアムを払う必要などありません。
だから、私のASICに対する判断は、今後少なくとも推論領域の50%は押さえられるということです。エヌビディアの危機は本当にあると思っています。彼らが300まで行くとは見ていませんし、私は買いません。
皆さん、ありがとうございました
NVDA4.06%
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め