torygreen

.@OpenAIはデバイスチームの構築に65億ドルを費やしたが、今度はモデルがそもそも何を見ることになるのかを決める部分（Glass imaging）に、さらに3億ドル超を費やす可能性がある。
Glassはカメラアプリの下で、センサーの生データを直接処理している。提案されているモバイルシステムでは、現在最大のスマートフォン用センサーの約2倍の大きさのセンサーを使い、最大10倍の光を取り込めるとうたっている。
常時稼働するアシスタントにとって、これは非常に重要だ。
センサーが捉え損ねたものは失われる。後からモデルがその部分を推測しなければならず、その結果、不確実性が増し、計算量が増え、周囲で起きていることへの理解が悪化する。
上流で入力の質を高めれば、下流のスタック全体をより安価にできる。
ioはOpenAIにデバイスチームをもたらし、今度はGlassがそのデバイスに、はるかに優れた目を与える可能性がある。

クエリ数は、AI需要を測る指標としてかなり不適切になりつつあります。
8週間で、あるClaude Codeユーザーは1,138件のプロンプトを入力しました。それらは約14,000回のモデル呼び出しと、32億トークンの処理につながりました。推定エネルギー使用量は、入力したプロンプト1件あたり約150 Whで、Geminiのテキストプロンプトの中央値の約625倍でした。
計算処理の大部分は、ユーザーが入力をやめた後に行われます。エージェントはコンテキストを再読込みし、ツールを呼び出し、再試行や分岐を行い、バックグラウンドで作業を続けます。
そのため、1人の人間によるリクエストは、単一のクエリというより、小規模なジョブのバッチに近い挙動をし始めています。
インフラにとっては、より適切な単位はプロンプト数ではなく、エージェント稼働時間になるかもしれません。

2年前、Googleは1か月あたり9.7TトークンのAI処理を行っていました。
現在では3.2 quadrillionを超えています。330倍の増加です。
信頼できる世界全体の集計は存在しないため、Googleの数字は公表された下限値として扱うのが最も妥当です。
成長が年2倍まで鈍化したとしても、Googleだけで2030年には1か月あたり51 quadrillionトークンに達することになります。
そして、そのワークロードは、今日誰かがチャットボットを開く場合とは大きく異なるものになるでしょう。長時間稼働するエージェントはコンテキストを保持し、作業をサブタスクに分割し、他のモデルを呼び出し、失敗を再試行し、互いの作業を検証します。1つの指示で数十のモデルが何時間も稼働し続ける可能性があります。
従業員1万人を抱え、それぞれが8時間の勤務中に20体のエージェントを監督する企業を想像してください。同じ従業員数で、1日あたり160万エージェント時間の推論が生み出されます。
2030年までには、世界中の企業にとって、コンピューティングコストは中核的な運営予算として給与総額をはるかに上回るでしょう。

Anthropicとの1件の契約が、35億ドルの資金調達とGPUインフラ整備全体を現在へと前倒ししている。
NscaleはAnthropicとおよそ$45B 取引を締結したと報じられており、IPO前に35億ドルを求め、締結済みリースからの予想収益として$103B を投資家に示している。Nvidiaは調達額の$2B を提供する可能性がある。
Anthropicのコミットメントは、貸し手に融資の引き受けを判断するための具体的な根拠を与え、Nvidiaの資本は自社のGPU販売を前倒しするのに役立つ。Nscaleは両方を、収益の大半が入る前にキャパシティへと変換する。
このタイミングのずれが、興味深いところだ。
リースは何年も続く可能性がある一方で、GPUの経済性は製品サイクルごとに変化し得る。Nscaleは事実上、今日のハードウェアが十分に長く生産性を維持し、明日契約上得られる収益を生み出すことに賭けている。

データセンターは、主要なクレジット市場へと変わりつつあります。
JLLは、北米の恒久債務の組成額が2025年の$80B から今年は$175B へ、さらに2028年までに$322B へ急増すると予想しています。これは、予測対象となる3年間でおよそ$722B に相当します。
しかし、その資本コストはすでに市場を二分しつつあります。ハイパースケーラーが後ろ盾となる建設案件では、ローン・トゥ・コスト比率が約85%、スプレッドが200ベーシスポイント台前半となる一方、AIラボやネオクラウドに紐づく案件では、70～80%のレバレッジにとどまり、価格は200～300ベーシスポイント広くなる可能性があります。
つまり、同じ2メガワットの案件でも、リースの背後に誰がいるかだけで、GPUが1基設置される前から経済性が大きく異なる可能性があります。
この建設ブームがさらに債務依存を強めるにつれ、トークン当たりコストの大きな部分は、推論が始まる何年も前にクレジット市場で決まることになります。

同じメガワットで、エージェント処理量が30倍に。
それが、@nvidiaによれば、DeepSeek V4 ProにおいてVera Rubin NVL72がGB300 NVL72に対して達成した結果であり、100万トークンあたりのコストは最大35分の1になるということです。
このワークロードが、これを単なる通常のスループットベンチマーク以上のものにしています。AgentXは、実際のエージェント利用に伴う厄介な部分、つまり増大するコンテキスト、繰り返されるツール呼び出し、タスクの途中で分岐するサブエージェントをそのまま維持しています。
この初期数値がSemiAnalysisのレビューでも裏付けられるなら、インフラへの影響はかなり大きいでしょう。同じ契約済みのメガワットで、別の変電所や相互接続を待つことなく、請求対象となるエージェント処理をはるかに多く支えられるようになります。
電力が制約される市場では、より優れたラックによって、送電網の増強よりも速く新たな容量を生み出せる可能性があります。

McKinseyの最新のState of AI調査には、多くのSaaS企業を不安にさせるはずの統計がある。
企業の32%が、コーディングエージェントによって社内で構築できるため、少なくとも1つのソフトウェア製品または機能の購入をすでに見送ったと回答している。
これは企業がソフトウェアを買わなくなるという意味ではない。「機能」レイヤーの収益化がはるかに難しくなるということだ。
社内チームが狭い範囲のワークフローを1〜2日で再現できるなら、ベンダーは、エージェントでは安価に再現できない何か、つまり販売網、組み込まれたデータ、コンプライアンス、統合、ネットワーク効果、または記録の基幹システムを所有していることによって、サブモデルを正当化する必要がある。
McKinseyが挙げるAIの高業績企業では、ほぼ半数がすでにこの理由で購入を見送っている。
コーディングエージェントは、エンジニアリング人員を削減するよりずっと前に、ソフトウェア機能単体の価値を圧縮する可能性があるように感じる。

垂直型AI企業がAPIの顧客には見えなくなり、モデル企業のように見え始める転換点がある。
Harveyは6か月で、月間およそ1Tトークンから14.5Tトークンへと増加した。現在はKimi K3を基盤に、ドメイン固有のタスク、専門家からのフィードバック、独自のワークフローデータを用いて、自社の法律モデルをポストトレーニングしている。
Thomson Reutersも、自社の法律モデルによって同じ方向へ進んでいる。
これはかなり自然な進化のように感じられる。
利用量が少ない段階では、最先端APIが明らかな選択肢だ。月間10T以上のトークン規模になると、モデルの選択は粗利に関わる判断になり始める。そして、すでにワークフロー、専門家からのフィードバック、失敗データを保有しているなら、オープンウェイトのベースモデルを特化させるために必要な材料をまさに手にしていることになる。
十分な規模まで成長する企業にとって、「AIラッパー」の段階は最終的に一時的なものになるのかもしれない。
ある時点で、垂直型アプリはモデル層も社内に取り込み始める。

LLMには、彼らを待ち受けるインターネットがあった。身体性AIには、それがない。
ロボットには膨大な量の現実世界での相互作用データが必要だが、ACE Roboticsは、現在この分野全体に存在する有用なデータは約10万時間分にすぎないと見積もっている。
中国ではすでに、そのデータセットを作り出そうとしている。トレーニングセンターがロボットを購入し、実際の作業を遠隔操作で行わせ、軌跡データを収集し、そのデータをロボットメーカーに還元するのだ。
つまり、一部の初期のヒューマノイド導入は、ハードウェアをテストしているだけではない。次世代のフィジカルAIに必要となるトレーニングデータを生成しているのだ。
そう考えると、身体性AIをめぐる競争は、まずデータセットを作り出す競争にかなり近いものに見えてくる。

ハードウェア予算がほとんど増えていないのに、性能がこれほど急速に複利的に向上しているのは、かなり異常なことだ。
> Qwen3.5-27Bは2月にArtificial Analysisで35点を記録した。
> Qwen3.6-27Bは4月にそれを38点まで引き上げた。
> Qwen3.8-27Bは現在52点に達しており、基本的に同じ27Bパラメータ規模に収まっている。
そしてそのエージェント性能は今や、はるかに大規模で、提供コストもずっと高いモデルと同程度の水準にある。
これは、また別のリーダーボードの順位変動よりも重要なことだと私は感じる。
何年もの間、AIの性能向上は主に、その下で動くハードウェアをスケールさせることを意味していた。今では、性能がデプロイ規模よりもはるかに速く向上している。
最先端に近いエージェントを単一のワークステーションで実行できるなら、より多くの作業をローカルかつ低コストで処理でき、最先端APIは最も難しいタスクのためのエスカレーション先になる。
そうなれば、GPU 1基あたりの性能は、注目すべきインフラ指標の中でも特に重要なものの一つになるかもしれない。

数年前、ハイパースケーラーはS&P 500の設備投資の約16%を占めていた。来年には、そのうち5社が残り495社の合計と同程度の額を支出する可能性がある。
Microsoft、Amazon、Alphabet、Meta、Oracle
BofAは現在、2027年の5社の設備投資額を約1.07兆ドル、指数に含まれるその他の企業全体では約1.06兆ドルと見積もっている。
この集中は、GPUをはるかに超える範囲で重要になり始めている。
AIは非常に大規模になったため、コンピューティング需要が物理経済全体を引きずり始めている。Goldmanの推計では、米国の設備投資に占める割合はすでに約15%に達しており、BloombergNEFは建設中のデータセンター容量を23.1 GWと追跡している。
現在では、少数のハイパースケーラーによる計画決定が、電力、建設、ネットワーキングをめぐって、他の企業全体に非常に現実的な需要ショックを引き起こし得る。
ハイパースケーラーのAI予測が、ひそかにそれ自体でマクロ変数になりつつあるのではないかと思わせられる。5社がこれほど大きな追加投資を担っているのであれば、必要と見込むコンピューティング量のわずかな変化でさえ、サプライチェーン全体に波及する可能性がある。