torygreen

vip
期間 3年
ピーク時のランク 0
現在、コンテンツはありません
エージェントにとって、推論速度は単に応答が速く感じられるようにする以上の意味で、はるかに重要になり始めています。
Cerebrasの新しいCS-4は、GPUシステムと比べて最大30倍高速な推論をうたっており、GPT-OSS-120Bで4,400トークン/秒以上を実現します。
エージェントにとって、その速度は追加の推論予算になります。
同じ30秒の時間枠でも、より高速なシステムなら、より多くの経路を探索し、失敗時の再試行を行い、検証を増やしたり、ユーザーを長く待たせることなく、より大きなモデルを使ったりできます。
そのため、トークン/秒は徐々に、単なるレイテンシー指標以上のものになりつつあります。
それは、時間切れになるまでにエージェントがどれだけ有用な作業を完了できるかを直接変え得ます。
原文表示
  • 報酬
  • コメント
  • リポスト
  • 共有
垂直型AI企業がAPIの顧客には見えなくなり、モデル企業のように見え始める転換点がある。
Harveyは6か月で、月間およそ1Tトークンから14.5Tトークンへと増加した。現在はKimi K3を基盤に、ドメイン固有のタスク、専門家からのフィードバック、独自のワークフローデータを用いて、自社の法律モデルをポストトレーニングしている。
Thomson Reutersも、自社の法律モデルによって同じ方向へ進んでいる。
これはかなり自然な進化のように感じられる。
利用量が少ない段階では、最先端APIが明らかな選択肢だ。月間10T以上のトークン規模になると、モデルの選択は粗利に関わる判断になり始める。そして、すでにワークフロー、専門家からのフィードバック、失敗データを保有しているなら、オープンウェイトのベースモデルを特化させるために必要な材料をまさに手にしていることになる。
十分な規模まで成長する企業にとって、「AIラッパー」の段階は最終的に一時的なものになるのかもしれない。
ある時点で、垂直型アプリはモデル層も社内に取り込み始める。
KIMI-1.16%
原文表示
post-image
  • 報酬
  • コメント
  • リポスト
  • 共有
コーディングは、最大のエージェント市場ではなく、最初のエージェント市場にすぎなかったのかもしれない。
2月以降、Codexの週間アクティブユーザー数は増加した:
> 法務では108倍、
> 営業では41倍、
> 採用では41倍、
> マーケティングでは26倍。
エンジニアリングでの増加は5倍にとどまった。
そして6月までに、企業顧客におけるCodexとChatGPTの合計出力トークンの64%を、すでにエージェント型の利用が占めていた。
ソフトウェアは、業務が構造化されており、ツールを多用し、比較的検証しやすいため、おそらく始めるのに最も簡単な領域だった。
エージェントが複雑で整理されていないワークフローを扱う能力を高めるにつれて、成長は、基盤となる労働力の規模がはるかに大きい職種にも現れ始めている。
これは、より大きな転換につながる可能性がある。つまり、エージェントが人々によるソフトウェア制作を支援する段階から、企業内のあらゆるナレッジワークの一部を静かに肩代わりする段階への移行だ。
原文表示
  • 報酬
  • コメント
  • リポスト
  • 共有
LLMには、彼らを待ち受けるインターネットがあった。身体性AIには、それがない。
ロボットには膨大な量の現実世界での相互作用データが必要だが、ACE Roboticsは、現在この分野全体に存在する有用なデータは約10万時間分にすぎないと見積もっている。
中国ではすでに、そのデータセットを作り出そうとしている。トレーニングセンターがロボットを購入し、実際の作業を遠隔操作で行わせ、軌跡データを収集し、そのデータをロボットメーカーに還元するのだ。
つまり、一部の初期のヒューマノイド導入は、ハードウェアをテストしているだけではない。次世代のフィジカルAIに必要となるトレーニングデータを生成しているのだ。
そう考えると、身体性AIをめぐる競争は、まずデータセットを作り出す競争にかなり近いものに見えてくる。
原文表示
post-image
  • 報酬
  • コメント
  • リポスト
  • 共有
ハードウェア予算がほとんど増えていないのに、性能がこれほど急速に複利的に向上しているのは、かなり異常なことだ。
> Qwen3.5-27Bは2月にArtificial Analysisで35点を記録した。
> Qwen3.6-27Bは4月にそれを38点まで引き上げた。
> Qwen3.8-27Bは現在52点に達しており、基本的に同じ27Bパラメータ規模に収まっている。
そしてそのエージェント性能は今や、はるかに大規模で、提供コストもずっと高いモデルと同程度の水準にある。
これは、また別のリーダーボードの順位変動よりも重要なことだと私は感じる。
何年もの間、AIの性能向上は主に、その下で動くハードウェアをスケールさせることを意味していた。今では、性能がデプロイ規模よりもはるかに速く向上している。
最先端に近いエージェントを単一のワークステーションで実行できるなら、より多くの作業をローカルかつ低コストで処理でき、最先端APIは最も難しいタスクのためのエスカレーション先になる。
そうなれば、GPU 1基あたりの性能は、注目すべきインフラ指標の中でも特に重要なものの一つになるかもしれない。
原文表示
post-image
post-image
  • 報酬
  • コメント
  • リポスト
  • 共有
AIネットワーキングは、独自の小規模な設備投資サイクルのように見え始めている。
@CiscoはFY2026を、ハイパースケーラー向けAIインフラ受注額93億ドルで終え、来年のAIインフラ売上高を約$4B から75億ドルへと見込んでいる。Aristaは前年同期比37.7%増の30.4億ドルを達成した。
私が興味深い変化だと思うのは、限界的なAI投資の資金が向かい始めている先だ。
構築の初期段階では、できるだけ多くのアクセラレーターを稼働させることが中心だった。クラスターが十分に大規模になると、GPUにデータを供給し続け、GPU同士を効率的に通信させることが、経済性のより大きな部分を占めるようになる。
ネットワークが処理しきれないために高価なGPUがアイドル状態になるのは、基本的に無駄な設備投資だ。
今後数年間のAIインフラ支出は、単純にGPUをさらに何台購入できるかではなく、すでに導入されたGPUからどれだけ有用な計算能力を引き出せるかによって、ますます決まるようになっても不思議ではない。
CSCO-0.73%
原文表示
  • 報酬
  • コメント
  • 1
  • 共有
数年前、ハイパースケーラーはS&P 500の設備投資の約16%を占めていた。来年には、そのうち5社が残り495社の合計と同程度の額を支出する可能性がある。
Microsoft、Amazon、Alphabet、Meta、Oracle
BofAは現在、2027年の5社の設備投資額を約1.07兆ドル、指数に含まれるその他の企業全体では約1.06兆ドルと見積もっている。
この集中は、GPUをはるかに超える範囲で重要になり始めている。
AIは非常に大規模になったため、コンピューティング需要が物理経済全体を引きずり始めている。Goldmanの推計では、米国の設備投資に占める割合はすでに約15%に達しており、BloombergNEFは建設中のデータセンター容量を23.1 GWと追跡している。
現在では、少数のハイパースケーラーによる計画決定が、電力、建設、ネットワーキングをめぐって、他の企業全体に非常に現実的な需要ショックを引き起こし得る。
ハイパースケーラーのAI予測が、ひそかにそれ自体でマクロ変数になりつつあるのではないかと思わせられる。5社がこれほど大きな追加投資を担っているのであれば、必要と見込むコンピューティング量のわずかな変化でさえ、サプライチェーン全体に波及する可能性がある。
MSFT0.82%
AMZN1.31%
META1.68%
ORCL-2.75%
原文表示
post-image
  • 報酬
  • コメント
  • リポスト
  • 共有
ウェブ上のエージェントによるトラフィックは急速に増加しており、CloudflareはAIエージェント専用のブラウザ(Kitesurf)を構築しました。
エージェントは基本的に、人間が画面を見つめることを前提に約30年かけて作られてきたブラウザ設計の判断を受け継いでいますが、数千のセッションを同時に実行する場合、その多くは不要なオーバーヘッドになります。
AI主導のウェブトラフィックは2025年を通じてほぼ3倍になった一方、AIエージェントとエージェント型ブラウザからのトラフィックは前年比で7,851%増加しました。
現在の推定では、エージェントは今日のウェブリクエストの約57%を生成しています。
Kitesurfの素晴らしい点は、タブ、拡張機能、テーマ、永続的な状態、ピクセル単位の完全なレンダリングといった要素を取り除いていることで、これによって大きな違いが生まれます。
• スクリーンショットのCPU使用量を3.1倍削減
• HTML抽出のCPU使用量を3.8倍削減
• スクリーンショットのメモリ使用量を4.7倍削減
• HTML抽出のメモリ使用量を7倍削減
実時間では約1.7~1.8倍遅くなりますが、大規模かつ継続的にエージェントを実行する場合、計算資源とメモリの効率のほうがはるかに重要になる可能性があります。
人間ではなく機械を中心に再構築されるウェブスタックの最初の部分が、ブ
NET-4.33%
原文表示
post-image
  • 報酬
  • コメント
  • リポスト
  • 共有
メモリ不足の深刻化によって、出荷前の段階ですでにGPUの設計が変わり始めているのは驚きだ。
@nvidiaは現在、Rubin Ultra向けに、より低層構成のHBMオプションをテストしている。従来の12-Hi HBM4e設計は14~16 Gbpsに達する可能性があった一方、新たに最適化されたHBM4の方式は11~12 Gbpsに落ち着く可能性がある。
魅力は供給量だ。アクセラレーター1基あたりのDRAM層を減らせば、同じウェハー供給でより多くのGPUに対応できる。
しかし、メモリスタックが小さくなったからといって、モデルが小さくなるわけではない。より多くのアクセラレーターにまたがって処理せざるを得なくなれば、そのコストはネットワークと電力が負担することになる。
HBMのビット出荷量は2027年に50~60%増加すると予測されているが、それでも需要には届かない。このため、この不足は、HBMを中心に構築されるクラスターのアーキテクチャと運用コストを左右することになる。
NVDA-2.92%
原文表示
  • 報酬
  • コメント
  • リポスト
  • 共有
Big TechのAIインフラへのコミットメントは、私たちが通常目にする設備投資額をはるかに超えて拡大しています。AIデータセンター向けを中心に、将来のリース支払額としておよそ1.09兆ドルをコミットしています。
現在リース負債として計上されているのは約2,850億ドルにすぎません。これは、多くの契約が施設の稼働開始まで認識されないためです。
本当のリスクは、期間のミスマッチです。リース期間が15年から30年に及ぶ一方で、チップ、モデル、顧客需要は数回の製品サイクル以内に変化する可能性があります。コンピュート需要が伸び続ける一方で、個々の施設やハードウェア構成の価値は、それらに資金を供給する契約よりもはるかに速く失われる可能性があります。
キャパシティプランニングは、AIインフラにおける最も困難な問題の一つになりつつあります。
原文表示
post-image
  • 報酬
  • コメント
  • リポスト
  • 共有
データセンターのエネルギー需要は、送電網が追いつけないほど急速に増加しており、企業は今やその問題を回避するためにガスタービンをトラックで運び込んでいる。
APR Energyは、データセンター需要を直接対象とした、合計1.1GWの移動式ユニット8基を展開したばかりだ。
これが何を意味するか考えてみてほしい。トレーラーに載せたタービンは、1つを除けばあらゆる点で送電網への接続より条件が悪い。その唯一の利点は、稼働までに数年ではなく数か月で済むことだ。割増料金を払う意味があるのは、待ち時間こそが致命的な問題になっている場合だけであり、現在、米国の多くの州ではその待ち時間が5年以上に及んでいる。
そのため、設備の建設は送電網を待つのをやめ、自前の電力を持ち込むようになる。これはボトルネックが物理的な形で現れたものだ。今のところ他に方法がないため、発電機が敷地へ運び込まれている。
チップが難所だったことは一度もない。問題は電力であり、これは不足が深刻になりすぎて、問題を回避するために現地でガスを燃やすようになったときの姿だ。
APR7.57%
原文表示
post-image
  • 報酬
  • コメント
  • リポスト
  • 共有
自分のハードウェアで DeepSeek V4 Flash 0731 を動かすのは、もう現実になりました。ただ、それに何がどれくらいかかるのか、そしてそれが価値に見合うかどうかは、あなたが誰かに大きく左右されます。
それを実際に動かすマシンは:
> 256GB M3 Ultra Mac Studio(約$7-9k):4ビットのビルドを余裕をもって保持でき、単体のきれいな構成。
> 512GB M3 Ultra(約$10k+、見つかれば):ほぼロスレス版を快適に動作。
> 2基の H200 または 4基の A100 サーバー:1Mコンテキストでフルのチェックポイントが可能ですが、今度は少し“データセンター代”になってきます。
128GBでも技術的には動きますが、強めの3ビット圧縮にしかできず、品質が目に見えて落ちます。
なので、約$7-10kで、真面目なシングルボックス構成を小さなチームが丸ごと所有できます。
正直、軽い用途ならAPIの方が安いです。DeepSeekのホスト価格があまりに低いので、$9k 箱が元を取れるのは、莫大で常に発生する稼働量になったときだけです。毎月数百万トークン程度を回すだけなら、APIの方がまだ良いです。
ただし、所有するべき理由はコストではありません。APIではできない“すべて”があるからです。あなたのデータは一度も外へ出ま
DEEPSEEK-6.22%
原文表示
post-image
  • 報酬
  • 1
  • リポスト
  • 共有
GateUser-3e640a4c:
これは国産のあのDeepSeekですか?
チップサプライヤー。インフラ貸し手。自社顧客へのエクイティ投資家。今やNvidiaはこの3つを同時に担っている。今月、それぞれの帽子をかぶり続けるための請求書は、$750B
> $250B でOpenAIのオハイオ州リースを後ろ盾にする形となった。
> $500B はSKグループのメモリーと絡み合い。
> $5B はSSIへ。製品のない会社へ。
> $1B はNaverへ。Nebiusの持ち分。チップはテキサスの自社がリースする施設へ流れ込み、しかもそれが自分自身に戻ってくる。
Nvidiaが実質的に作り出したループは、顧客に資金を出す→顧客がNvidiaのチップを買う→Nvidiaが収益を計上する→Nvidiaが次の顧客に資金を出す、というものだ。需要と供給が彼らの同じバランスシート上に圧縮されつつある。
ベンダー、貸し手、そして投資家として、AIスタック全体にわたって同時に機能しているのは「1社」だ。
デフォルトリスクの価格付けを仕事にしている人々は、エクイティ勢より先にそれに気づいた。5年物CDSで記録的な82bps。取引開始以来最大の単日変動だ。
そして緊張の中心は、主に中央集権モデルがこれほどまでに資本を食うようになったため、規模拡大を続けるには今や自ら需要を“作る”必要が出てきたことにある。コンピュートが豊富で安いときに、自分の顧客を引き受け
原文表示
post-image
  • 報酬
  • コメント
  • リポスト
  • 共有
ここまでで、世界のデータセンター向けCAPEXが~$1T を超え、2030年に向けて$1.7Tへ近づいています。これは2024年の$455B からの増加です。
これは6年でほぼ4倍です。この間に米国の4大ハイパースケーラーはだいたい2倍になります。それ以外の新興クラウド企業、AIラボ、官民の主権プロジェクトなどが、実際にカーブを押し上げていて、平均で年39%ほどの成長をしています。2030年にはAmazon、Google、Meta、Microsoftの寄与はその約半分にとどまります。
2年前には、インフラの増強は基本的に4社でした。今ではそれが一つの分野まるごとになり、いま新しい資金は、計算資源を囲い込むというより“貸し出す”レイヤーに流れています。
$1T のマークもDell'Oroの予想より早く到達したので、$1.7Tという推計も上回られてしまっても驚きません。ここでのどの予測も同じ壁にぶつかります。つまり、需要はモデルの想定よりも早く現れ、数字は下方修正ではなく上方修正される、ということです。
AMZN1.31%
META1.68%
MSFT0.82%
原文表示
  • 報酬
  • コメント
  • リポスト
  • 共有
2026年は、閉鎖されたラボが計画していた年ではなく、クローズドなフロンティア・モデルが収益を得られる「閉ざされた空間」は、@Kimi_MoonshotからK3が登場した後、いまや約3ポイントの幅にまで狭まっている。
K3は能力面でOpus 4.8を、タスクあたりの価格は半分で、きれいに上回って着地し、重みは数日で公開される。これをなお上回っているのはFable 5とGPT-5.6 Solだけ。
そのラインより下はすべてオープン領域になり、誰でもハードウェアコストで提供できるモデルで、回収すべきR&Dマージンがない。
これが、すべてのクローズドなリリースに対する新しい計算式だ。オープン・フロンティアより上に着地すれば、そのギャップに値付けできる。フロンティアと同等かそれ以下に着地すれば、市場がコストで得られるものに対してマージンを取ることになる。2位はかつてAIの事業だったが、今や無料ダウンロードだ。
そして、その帯はさらに狭まっている。1年前はオープンモデルが6〜8か月遅れていた。K3はそれを、ほぼ1世代にまで縮め、Qwen、GLM、DeepSeek、MiniMaxはいずれもその後ろに順番待ちになっている。
閉鎖ラボは、もはや上位を争うだけではない。彼らは、その直下に急速に迫ってくる「床」に追い上げられているのだ。
原文表示
post-image
  • 報酬
  • コメント
  • リポスト
  • 共有
  • ピン留め