ハードウェア競争、信頼モデル、遅延プロファイル、そして生の計算能力を火の玉のように燃やすことなく実用的な推論に変えることができるかどうかのレースが、ますます複雑になってきている。
いくつかのプロジェクトをマッピングして、より明確に見えるようにしてみた。
[1] @darkbloomai
@EigenLabsは、アイドル状態のApple Silicon Macをプライバシー重視の推論ネットワークに変えようとしている。
すでに何百万台ものMシリーズMacが存在し、限界コストは主に電力であり、Apple Siliconは最大64〜512GBの統一メモリと巨大な帯域幅を持つ。
だから、誰かの机の上にある余ったMacをAIインフラ層の一部にしたいのだ。
ユーザーは推論リクエストを送信し、Eigenが運営するコーディネーターがそれをルーティングし、プロバイダーは適格なMac上でモデルを実行し、プロバイダーはプロンプトや出力を見ることができないとされている。
– トッププロバイダーは約6ドル、5番目は約2ドルを稼ぐ
– 30日間の収益は、計算機の予測で月280〜600ドルに対し、実際は約6ドルに近かった
[2] @nosana_ai
Solanaベースの推論ネットワークは、AIジョブ、スケジューリング、GPUホスト、そしてインフラについてあまり考えずに安価な推論を望む開発者に焦点を当てている。
– 50,000以上の登録GPUホスト
– 60以上の国で毎日600のアクティブノード
彼らは開発者に安価な推論レーンを提供し、Solanaにマーケットプレイスの調整を任せている。
[3] @rendernetwork
彼らはすでにクリエイティブGPUネットワークを持ち、その後徐々にAI計算と推論に拡大してきた。
– 5,600以上のGPUノード
– 2025年に2,430万フレームをレンダリング
– AIはすでに取引量の約35〜40％を占めている
– 分散GPUは約0.69ドル/時間
レンダリングと推論は同じ作業負荷ではないが、Renderはすでに分散GPUの需要、支払い、供給の評判、クリエイターワークフローを調整する方法を知っている。
[4] @akashnet
Kubernetesネイティブの逆オークション、SDLを通じた計算リース、多くの作業負荷に対応できる柔軟性。
Akashは実在し、成熟しており、安価で役立つが、推論には完全に最適化されていない。
コスト削減弁、バースト容量、バッチジョブ、自ホスティングインフラのために使える。しかし、低遅延推論のUXには、一般的なクラウドは専門のルーターと競合しなければならない。
[5] @ionet
登録GPUは10万以上、H100の価格は約1.49〜2.20ドル/時間で、ハイパースケーラーの高価格に対抗し、Rayスタイルのオーケストレーションと、今やIntel TDX対応のH100/H200/B200層の機密計算もある。
スケールとエンタープライズグレードのポジショニングを狙っている。
[6] $Tao サブネット（SN64 + SN4）
Chutesは約4,400台のH100相当の供給、合計トークンは9.1兆、ピーク時には50B+トークン/日を供給し、トップのOpenRouterプロバイダーの一つとされている。
TargonはIntel TDX + NVIDIAの機密計算を用いた機密推論に傾いており、1,500以上のH200を持ち、$10M ARRを主張している。
遅延は依然として壁だ。ほとんどの分散型ネットワークは、リアルタイムチャットのための中央集権的なプロバイダーには全く及ばない。
しかし、すべての作業負荷に勝つ必要はない。
バッチ推論、非同期エージェント、コードタスク、画像/動画生成、オフラインリサーチ、バックグラウンドエージェントループ、これらはコストとプライバシーが良ければ遅延が悪くても耐えられる。
だからこそ、AI市場が大きくなるほど、暗号プロジェクトが自分たちの道を切り開く余地が増えると信じている。

原文表示