torygreen

Jevは、優れたAIのアイデアが今どれほど速くコモディティ化されるかを示す、まさに完璧な例かもしれない。
9月15日にローンチした。2週間以内には、OpenAI、Databricks、Cloudflareがすでに同じようなプリミティブを提供していた。CloudflareのClef-flashはJev互換で、中央値のレイテンシーが約13分の1だと主張している。
つまり、需要が問題だったわけではない。誰もがそれが機能するのを目にすると、そのアイデアは簡単に取り込めてしまったのだ。
ここでの参入障壁は、フィードバックループ、独自データ、そしてディストリビューションにあるはずだ。
Jevがこのカテゴリーを切り開き、他の全員がほぼ即座に参入してきた。

同じDeepseekのハーネス、同じ短い指示で：
Deepseek-v4-flashのBIABenchスコアは0.52。
Claude Opus 5は0.65。
つまり、16の実際のバイオ画像解析タスク全体で、約50倍の支出をしてもスコアは0.13しか上がらない。
そして、厄介な下位領域はほとんど改善しない。すべてのエージェントで、一部の3D＋時系列タスクは0.19未満にとどまる一方、同じモデルを再実行したときのばらつきが、モデルそのものを切り替えた場合を上回ることさえある。
私なら、日常的な大量処理には安価なモデルを使い、不確実なケースは人間または専門ツールに回すだろう。
そして科学の世界では、検証がまだ必要な4.53ドルの回答は、本当の意味で4.53ドルの回答ではない。

Googleは、他のフロンティアラボと比べて、Argonに関してかなり不公平なループを持っている
GoogleはArgonの基盤となるTPUを所有しており、すでに毎分約22Bトークンを処理しているAPIにモデルを直接投入できる。
これはかなり印象的な構成だ。
チップを構築する → モデルを訓練する → 桁外れの規模で展開する → その成果を次の実行に還元する。
そしてArgonは自身を取り巻くスタックもすでに改善しており、C/C++からRustへ+800k行を移行してデータセンターのメモリを300+ TiB解放し、量子コンピューティングのルーチンを公開済みのベースラインより40%上回る水準まで押し上げている。
Geminiの各世代は、前世代が最適化に貢献したインフラを、ますます引き継げるようになる
Argonは、西側のフロンティアラボで私たちが目にしてきた中では、フルスタックの優位性を示す最良の、そしておそらく唯一の例だ。

.@AnthropicAI S-1は、事業の進展が提出書類そのものに追いつかないほど速いという意味で、かなり興味深いです。
2025年の売上高は約46億ドルでした。2026年第2四半期だけで約115億ドルに達し、7月下旬までにはARRが650億ドルを上回ったと報じられています。
その一方で、実際の事業内容に関する記載が48ページなのに対し、リスク要因は約80ページに及び、ある週のサンプルではAI研究用コンピューティングの約6％が安全性の取り組みに充てられていたこと、そして最前線にとどまるには継続的かつ重複するモデルリリースが基本的に必要だという、かなり率直な認め方もあります。
公開市場によって、これまで本当には存在しなかったレベルのAIの透明性が強制される可能性があるように感じます。
売上成長率、コンピューティング資源の配分、安全性への支出、重大インシデント、リリースの一時停止……そうしたすべてが、散在するブログ記事ではなく、投資家向けの正式な情報になり始めます。
すべての最先端AI研究所が、同じスコアボードで評価されるのをぜひ見てみたいです。

AIの導入は今年、ほとんど伸びなかった。消費者支出はそれでも~$12B → $40Bに増加した。
これは、また別のユーザー数の節目を迎えるよりも、はるかに興味深いシグナルだ。
米国での導入率は61% → 64%にしか上昇しなかった。世界のユーザー数は約11%増加した。
既存ユーザーは、自分たちの生活のはるかに多くの部分をAIに委ね始めた。
41%がエージェントを試したことがある。32%はすでに、最終承認なしでAIに行動させている。そして、エージェントユーザーの92%がAIに料金を支払っている。
したがって、消費者向けAIの次の成長段階には、さらに10億人がチャットボットを発見する必要はおそらくない。
それは、すでに利用している人々が次のように変わることから生まれる可能性がある。
「これに答えて」
から
「これを処理して」
へ。
これは、ユーザー1人あたりの時間、計算資源＋経済活動の量がまったく異なるということだ。

今回予想していなかった「逆転現象」が、こんなに早く訪れました。
オープンウェイトは、AIにとってのベースロード電源のように見え始めています。
現時点では、最高のクローズドモデルを正面から打ち負かしているわけではありません。しかし、最先端モデルの価格に見合わない膨大な量の作業には、十分に近い性能で、十分に優れています。
そうなると、AstraやOpus、Fableなどはピーカープラントのような存在になります。つまり、そのタスクから実際に利益が得られる場合にのみ投入する、高コストなキャパシティです。
この流れが続けば、オープンウェイトが日常的な推論の大半を担い、クローズドラボは、失敗のコストが高い厄介な問題の長い裾野で利益を上げることになるかもしれません。
「いずれオープンがクローズドを上回る」という結末より、はるかに興味深い展開です。

私たちは数十年かけてソフトウェアの物理性を減らしてきたが、AIはそれを急速に逆転させている。
現在の推計では、米国のAI構築には2025–32年の毎年、GDPの約3.63%、総額でおよそ$10.3Tが吸収される。
> 鉄道は平均2.24%。
> 高速道路は1.13%。
> 通信＋光ファイバーは1.1%。
これは、知能のために建設されるコンクリート、銅、電力、GPU＋冷却設備の途方もない量だ。
鉄道との比較は有用だが、厄介な違いが1つある。1880年に建設された鉄道は何十年も役に立ち続けられた。一方、アクセラレーターを満載したラックは、数世代後のモデルでは古びて見える可能性がある。
つまりこれは、米国がこれまでに行った最大のインフラ投資であり、その内部には最も急速に減価する機械の一部が収められているのかもしれない。
それでも、知能が本当にあらゆるものにとって安価な投入要素になるなら、GDPの3.6%は過剰投資というより、次のユーティリティ層を構築するためのコストに見えてくるかもしれない。

フロンティアモデルは、もはやデフォルトの座を定着させる暇もほとんどないうちに、より安価な兄弟モデルが登場してワークロードを奪い始める。
今年9月23日までに、主要なモデルファミリーの大型リリースは36件に達し、昨年同じ7つのラボであった27件から増加した。
価格の段階も、それと同じくらい急速に広がっている。@AnthropicAIはOpusクラスの価格を、100万トークンあたり15ドル／75ドルから4ドル／20ドルへと引き下げた。
@OpenAIでは現在、Lunaの0.10ドル／0.50ドルからAstraの10ドル／50ドルまで広がっている。
これはモデルの経済性に、かなり奇妙な変化をもたらす。
高価なモデルは、バースト容量のように見えてくる。別の数ポイントの性能向上に料金を払う価値がある一部のタスクにだけ呼び出し、それ以外は、より安価なモデルの性能が十分になった時点ですぐに価格帯の下へ振り分けるのだ。
このリリース頻度では、ラボはもはや単一のモデルを販売しているわけではない。変動する価格性能曲線を販売しているのだ。
そして、うまくルーティングするアプリは、その曲線に自動的に乗ることができる。新しいリリースが出るたびに、同じ支出でより高い性能を得るか、同じ性能をより安く得られるからだ。
モデル選択は、プロダクトの経済性を構成する中核要素の一つになりつつあるように感じる。

ほとんど話題に上らない別のオープンモデルのフライホイールがあります。
DeepSeek V4.1 Flash は先週 OpenRouter で約 18T トークンを処理していて、その出力は蒸留（distillation）に明示的に使えます。
つまり、そのモデルは同時に2つの仕事ができます：
今日の本番稼働を行い、その後に誰かが明日訓練するモデルのための教師データになる。
OpenAI と Anthropic は、競合するモデルのためにそれを塞いでいるのは当然です。
でもそれは、広く使われている許容的な（パーミッシブな）モデルが、次世代の小型／特化モデルへその能力の一部を広めていることを意味します。
安価な推論はすでに流通上の優位性です。
その利用を法的な訓練用の供給につなげられるなら、フライホイールはずっと面白くなります。

Xiaomiが、通常ならラボが埋もれさせておくようなものを公開した。実際のRLコストだ。
MiMo-V2.6 ProとFlashは、どちらも753kサンプルで学習し、ステップ30で打ち切られた。
> Proのコストは$2.62M。
> Flashのコストは$854k。
その3.1倍の追加支出で、DeepSWEでは6.89ポイントを獲得した。
それでもFlashはAutomationBenchでProを僅差で上回った。
今や、同じ製品構成があらゆるところで現れているのが見て取れる。絶対的に難しい処理向けのモデルが1つ、そのすぐ下に位置し、一日中動かせるほど安価なモデルがもう1つある。
ZAI、Deepseek、Qwen、Xiaomiには、今やこの共通点がある。
小さいモデルが大半の作業で信頼性の基準を超えると、大きいモデルはすべての処理におけるデフォルトというより、必要に応じて選択的に振り分けるものに見えてくる。
結局のところ、それが本当のモデルスタックになるのだろう。下支えするのは安価な知能で、タスクが実際にその価値を示したときだけ高価な知能を呼び込む。

GPU時間は、ヘッジの対象になりつつあるのかもしれない。
CFTCはすでに計算資源デリバティブを検討しており、Liquid ComputeはGPU先物、オプション、スワップの規制市場を構築するために$15M を調達した。
AI計算資源が実際に2025年の約$360B から2030年までに約2.3兆ドルへ成長するなら、理にかなっている。
奇妙なのは標準化だ。
ある地域のH100時間は、ネットワーク、電力コスト、クラスター規模が異なる別の場所のB200時間と同じ商品ではない。
そのため、計算資源が本格的な先物市場を持つ前に、誰もが合意して取引の基準にできるベンチマーク契約を誰かが考案する必要がある。
それが実現すれば、研究所は将来の推論コストをヘッジでき、データセンターは容量を先渡しで販売でき、計算資源はハードウェア調達というより、実際の金融市場に近い動きをするようになる。

.@OpenAIはデバイスチームの構築に65億ドルを費やしたが、今度はモデルがそもそも何を見ることになるのかを決める部分（Glass imaging）に、さらに3億ドル超を費やす可能性がある。
Glassはカメラアプリの下で、センサーの生データを直接処理している。提案されているモバイルシステムでは、現在最大のスマートフォン用センサーの約2倍の大きさのセンサーを使い、最大10倍の光を取り込めるとうたっている。
常時稼働するアシスタントにとって、これは非常に重要だ。
センサーが捉え損ねたものは失われる。後からモデルがその部分を推測しなければならず、その結果、不確実性が増し、計算量が増え、周囲で起きていることへの理解が悪化する。
上流で入力の質を高めれば、下流のスタック全体をより安価にできる。
ioはOpenAIにデバイスチームをもたらし、今度はGlassがそのデバイスに、はるかに優れた目を与える可能性がある。

クエリ数は、AI需要を測る指標としてかなり不適切になりつつあります。
8週間で、あるClaude Codeユーザーは1,138件のプロンプトを入力しました。それらは約14,000回のモデル呼び出しと、32億トークンの処理につながりました。推定エネルギー使用量は、入力したプロンプト1件あたり約150 Whで、Geminiのテキストプロンプトの中央値の約625倍でした。
計算処理の大部分は、ユーザーが入力をやめた後に行われます。エージェントはコンテキストを再読込みし、ツールを呼び出し、再試行や分岐を行い、バックグラウンドで作業を続けます。
そのため、1人の人間によるリクエストは、単一のクエリというより、小規模なジョブのバッチに近い挙動をし始めています。
インフラにとっては、より適切な単位はプロンプト数ではなく、エージェント稼働時間になるかもしれません。

2年前、Googleは1か月あたり9.7TトークンのAI処理を行っていました。
現在では3.2 quadrillionを超えています。330倍の増加です。
信頼できる世界全体の集計は存在しないため、Googleの数字は公表された下限値として扱うのが最も妥当です。
成長が年2倍まで鈍化したとしても、Googleだけで2030年には1か月あたり51 quadrillionトークンに達することになります。
そして、そのワークロードは、今日誰かがチャットボットを開く場合とは大きく異なるものになるでしょう。長時間稼働するエージェントはコンテキストを保持し、作業をサブタスクに分割し、他のモデルを呼び出し、失敗を再試行し、互いの作業を検証します。1つの指示で数十のモデルが何時間も稼働し続ける可能性があります。
従業員1万人を抱え、それぞれが8時間の勤務中に20体のエージェントを監督する企業を想像してください。同じ従業員数で、1日あたり160万エージェント時間の推論が生み出されます。
2030年までには、世界中の企業にとって、コンピューティングコストは中核的な運営予算として給与総額をはるかに上回るでしょう。

Anthropicとの1件の契約が、35億ドルの資金調達とGPUインフラ整備全体を現在へと前倒ししている。
NscaleはAnthropicとおよそ$45B 取引を締結したと報じられており、IPO前に35億ドルを求め、締結済みリースからの予想収益として$103B を投資家に示している。Nvidiaは調達額の$2B を提供する可能性がある。
Anthropicのコミットメントは、貸し手に融資の引き受けを判断するための具体的な根拠を与え、Nvidiaの資本は自社のGPU販売を前倒しするのに役立つ。Nscaleは両方を、収益の大半が入る前にキャパシティへと変換する。
このタイミングのずれが、興味深いところだ。
リースは何年も続く可能性がある一方で、GPUの経済性は製品サイクルごとに変化し得る。Nscaleは事実上、今日のハードウェアが十分に長く生産性を維持し、明日契約上得られる収益を生み出すことに賭けている。