> 原文标题:オープンソースが勝利、AGIはここにある、そしてスコセッシのAIツールキット—Cerebras & Black Forest LabsのCEO > 原文来源:All-In Podcast > 原文编译:深潮 TechFlow >
この回の番組には、2人のAIインフラ企業のCEOが登場した。Andrew FeldmanはCerebrasの創業者で、この会社は推論チップに特化している。IPOを終え、手元には250億ドル相当の積み上がった受注がある。彼が繰り返し強調するのは、ただ1つのことだ——AIの計算能力に対する需要はとっくに埋まっており、「作っておけば人が来る」という状況は存在しない。OpenAI、Anthropic、SpaceX、Googleの食欲は供給を大きく上回っている。そして推論(reasoning)が登場したことで、計算密度が再び急上昇し、そこがまさに“速いマシン”の戦場になる。Robin RombachはBlack Forest Labsの創業者で、生成画像・動画モデル(Fluxシリーズ)を手がける。彼は以前にlatent diffusionアルゴリズムを発明しており、現在のあらゆる画像・動画生成モデルの土台となっている。彼は今、Martin Scorseseと共同で、監督が頭の中の映像をAIで可視化できるようにしている。しかし彼がより興奮しているのは、同じマルチモーダルモデルで映画を撮ることもできれば、ロボットに展開して“脳”として使うこともできるという方向性だ。生成動画の到達点はスクリーンではなく、物理世界にある。
推論こそが次の計算力ブラックホール
·「面白いのは、この波は過去と違っていて、彼らは“できたら誰かが来る”に賭けていない。需要がすでに生産能力を予約済みなんだ。私たちは250億ドルの積み上がった受注を抱えている。」
·「推論とはreasoningで、reasoningは大量のtokenを消費する。それがまさに“速いマシン”の戦場だ。」
·「もしCerebrasが15倍速いなら、24時間走らせることは、数週間、場合によっては数か月分の思考を回すのと同じ。」
オープンソースと主権:企業が欲しいのは支配権
·「誰も依存されるのは好きじゃない。超大規模のメーカーがx86の時代から学んだ教訓は、Intelに縛られることだった。」
·「最速のチップを作る必要はない。必要なのは“他人のチップに完全には依存しないこと”だけだ。」
·「今オープンソースモデルを回そうとすると、OpenAIのOSS 12Bか、中国のモデルか。アメリカにはもっとローカルのオープンソース選択肢が必要だ。」
AGIは20年前の定義に従えば、もう来ている
·「私たちが20年前、30年前、40年前に出してきたAGIの定義は、すでに私たちは大きく越えている」
·「チューリングテスト?とっくに打ち破ってる」
·「問題はもう、“どう聞けばいいか分からない”ことじゃない。AIが逆に教えてくれるんだ。“お前らって本当にバカな人間だな。これを考慮していなかっただろ”って」
生成動画は人間の創作を置き換えない
·「これらのAIモデルは一種のメディアだ。どう使うかを縛りたくない。特にMartin Scorseseのような人にはね。」
·「言語はやや損失のあるコミュニケーション手段で、視覚情報の信号は情報量が多すぎる。頭の中の映像を見える画像に変える——それが技術の最も強いところだ。」
·「最も面白い結果は、ほぼ“人がループに入っていて、そこから何度も反復している”ときに出てくる。」
映画からロボットへ:同じモデル
·「同じマルチモーダルモデルで映画を撮って、そのままロボットの“脳”としてデプロイできる。」
·「事前学習済みの動画は、暗黙的に物理的なインタラクションの法則をモデルに教える。そこから同じモデルで行動予測を取り出せる——つまりロボットの制御だ。」
·「狙いは、in-context promptの指示でロボットを動かすことだ:“あのコップのオレンジジュースを持ってきて”。今はまだできないが、方向性はそれだ。」
司会:私たちは、こんな規模の建設を見たことがありません。長城やピラミッド以来、人類がこれほど多くの資本、時間、そして“頭のいい人たち”を投入して、何かを建てようとしたことはない。あなたは実際にその仕事をしている。あなたの顧客はデータセンターを建てている。あなたはその重要な一部です。2026年、Cerebrasは何をしていますか?テキサス側のあの巨大な工事はどうなっているんですか?
回答:私たちが話しているデータセンターは、今後数年で消費する電力が、地球上の過去50年の総量を超えることになる。1つの建物だけでもサッカー場ほどの大きさで、接続される電力は中規模の都市を上回る。全米各地で建設中で、カナダも建設中、北欧も、パリとフランス全土も建設中、中東も建設中。さらにカザフスタン、タジキスタン、ジョージアでも大型データセンターが建設されている。どの国も、どの州も、参加したいと思っている。
支払うのは誰か?OpenAI、Anthropic、SpaceX AI、Googleだ。食欲が大きくて恐ろしい。面白いのは、この波は過去の多くの技術ブームと違うことだ。彼らは“建てたら誰かが来る”に賭けていない。需要がすでに生産能力を予約済みだ。私たちは250億ドルの積み上がった受注を持っている。OpenAIはもっとデータセンターが必要で、Microsoftももっと、AWSももっと。需要は客待ちじゃない。客はもう行列を作っている。
司会:「token maxing」という言葉まで生まれている、無限にtokenを刷る。こんな巨大な需要は本当に実際の価値を生んでいるのか?と疑う声もあるが……
回答:もちろん大量の価値が生み出されている。当然大量の無駄な試みもある。私がAWSに乗り出した当時と比べると、社内IT部門を迂回できるのは最高に気持ちいい。各エンジニアがクレジットカードで登録する。確かに役に立つものもあるが、あとで考えると「いや、こんなことはやるべきじゃなかった」と思うこともある。でも全体としては儲かっている。ただ、一部の方向は空振りだ。
私は1988年にCostcoがPalo Altoでオープンしたときのことを覚えている。みんなSafewayに行くみたいにCostcoへ行き、棚ごと全部の列を歩いて回る。あれはすごく下手な回り方だ。買わないといけないものを買うわけじゃないのに4つも余計なものを買って、それぞれ22ドル。後でみんな戦略を学んだ。後ろで鶏肉を取って、子どもの誕生日パーティー用に紙コップケーキを18個、みたいに手早く済ませる。AIのtoken消費も同じだ。最初はみんな気前よく使っていたが、企業は最近になって戦略を語り始めた。「どのタスクはオープンソースモデルで十分か」「どれは最先端モデルが必要か」。私たちはAIを、ビジネスを運営するように管理し始めた。
司会:AllInでSam Altmanが言っていたのは、次はreasoningで、意図を理解し、戦略を立て、他のスレッドのagentと交差検証することだ。「次の単語を当てる」から長い道のりを経てきた。今Cerebrasがど真ん中にいるのはちょうどそのためで、reasoningは推論であり、計算量が極めて大きい。
回答:推論は大量のtokenを消費する。だから“速いマシン”に戦場が生まれる。reasoningの各ステップが内部でtokenを飲み込む。あなたは本来、大量の時間を投じて“良い答え”と引き換える必要があった。Cerebrasが15倍速いということは、24時間推論を回せば、相手は数週間、場合によっては数か月分の思考をするのと同じになる。
今朝、BitTensor上のZAIのGLM-52モデルを試した。無限の計算力を与えて、毎時間、世界でまだ認識されていないトレンドを教えさせた。するとそれは自分で議論し始めた。「Hacker NewsとRedditで探すべき?それともInstagramのほうが先にトレンドが出る?」。推論モデルがバックグラウンドで自分と議論しているのを見ていた。あれが推論だ。無限tokenは無限推論。Cerebrasを15倍速くして、24時間は相手の数週間分。
司会:Cerebrasには独自のMoore's Lawがありますか?社内では、どれくらいの期間で2倍になると議論しているんですか?
回答:これまでのすべてのチップはMoore's Lawに乗っていて、18か月で2倍になっていた。私たちはその線をこのチップで断ち切り、新しい軌道を走らせた。私の見立てでは、今後18か月は2倍どころではない。新しいアーキテクチャにはまだ大いに最適化の余地がある。GPUは20年前の古いアーキテクチャで、微細化の工程を縮めることで無理やり耐えているだけだが、新しいアーキテクチャには学ぶべきこと、調整できることがまだたくさんある。
司会:250億ドルの積み上がった受注を抱え、さらにOpenAIのペースにも追いつく必要がある。彼らは将来の潜在的競合になり得る。では、あなたはどうやって会社を運営しているんですか?
回答:今のシリコン板は遊ばせられないほど需要が大きい。しかしあなたの言う通り、OpenAIも自社チップを作っている。Amazonも作っている。誰も依存されるのは好きじゃない。超大規模メーカーがx86の時代から学んだ教訓はIntelに縛られること。GPUメーカーが学んだ教訓は、少数の超大規模顧客に縛られることだった。だから彼らは新しいクラウドに資金を投じた。自分のチップを作ることが大事なのは、最速を目指すことではなく、“他人に完全には依存しない”こと、そして少なくとも自分の運命の重要な一部を掌握することだ。
司会:オープンソースには、まさに“その瞬間”が来ている。私は初期にOpenClaudeを使い、その後Kimmyを使った。するとClaudeのtokenが爆発しているのは分かったが、Kimmyは違いが判別できない。オープンソースモデルはreasoningをやり始め、今年になって急に差が縮まった。
回答!:フェラーリでスーパーに行きたくないですよね。時にはスーパーカー、時にはミニバン。子どもがCheeriosを撒いても痛くない。企業も同じです。難題は最前線のモデル(OpenAI、Anthropic、Gemini)に任せる。でも裏で大量の日常的な問題は、堅実なオープンソース能力があれば足ります。ある会社がWorkdayでどれだけ時間を使って、Excelの別セルへコピペしているのか想像してみてください。金メダル級の数学はいりません。安定したオープンソースで十分です。
最近もう一枚めくったカードは、金融や医療といった規制の強い業界(HIPAA、FINRA)です。データ漏えいが怖い、スマートな主権を他人に握られるのが怖い。だからモデルはローカルに置き、オープンソースのバージョンでより多くのコントロール権を取りに行く。OpenAIは数か月前にOSS 12Bを出しましたが、まあまあでした。しかしアメリカで今オープンソースを回すとなると、要はOSS 12Bか、中国のモデルか。国内のオープンソース選択肢が少なすぎる。NVIDIAもこの窓を見て、自社のオープンソースモデルを推しています。ただJensenは迷っています。彼の顧客はSam、Dario、Elon、Sergeyで、オープンソースを押し出すことで顧客の取り分を奪ってしまわないか?
Cerebrasは比較的中立な立ち位置です。私たちはGLM、Kimmy、Qwenシリーズを走らせ、さらにOpenAIのクローズドモデルも走らせます。加えてGSKが自社で開発したモデル、UAEのG42とMBZUAIの自社モデルも動かします。主権の話は、つまりトレンドです。
司会:Fable 5とo-56がリリースされたとき、政府は「いったん止めてから出すな」と言った。Anthropicは行政側との関係が緊張していて、今は緩和し始めている。段階的リリースは妥当だと思いますか?モデルは本当にそんなに危険なのでしょうか?
回答:私は、これまでに似たことを見たことがありません。でも振り返ると、当該モデルが創造的な思考で十分に強くなってきた段階で、政府が「段階的に出してくれ」と言うのは、別に筋が通っていると思います。強い薬の扱いも同じです。もちろんFDAの、あの7年かけて書かれるようなゴミみたいな書類を推奨はしませんが、「少なくとも政府がレッドチームテストをして、防御が通用するか確認してくれ。明らかな抜け穴を2〜3週間で埋める」と言うのは、無理な要求ではありません。
ただ今は、最も極端に二極化している時期です。もしこれがTrumpの仕事じゃないなら、他のどんな大統領でも反応はまったく違った可能性が高い。二極化は明確な思考を傷つける。どちら側も愚かなことをするし、賢いこともする。政府の現場担当者は実はとても真面目に取り組んでいる。ただ、スピードが速すぎるだけです。
Palo Alto NetworksのNikeshが私に言っていました。彼らはモデルを自社ソフトウェアでテストしたら、1時間以内に数十の重要な脆弱性が見つかって、手を止めて全部の作業を止め、6週間かけてパッチを当てた。これは強力なツールだと気づいたら、まずは少人数の人たちに見せるのか、先にレッドチームテストをするのか、という話になります。
司会:どんな20年前の定義に照らしても、AGIはもう来ている。そうだと思いますか?
回答:はい。チューリングテスト?とっくに打ち破っている。10年前、15年前、20年前、30年前、40年前、50年前に提出されたどんな定義でも、私たちはすべて大きく越えている。SF作家が出してきた問いは、私たちは全部答え切っている。彼らは「もう問題ない。ごめん」と言うはずだ。だから、“端の方にいる人”が言うことの中にも聞く価値がある。Ilyaは8年前に安全性の話をして、あなたが「何?」と言っても、結果的に彼は当たっていた。Elonは、ロケットのコストをほぼゼロに落とすと言って、あなたが「何?」と言っても、彼はそれを実現した。
司会:Recursive learning。質問を1つして、結果を学び、もう一度聞く。答えがよくなり、もっと多くの材料をカバーする。そうして生まれる答えは、「もう少し良い」から「はるかに良い」に直跳びする。指数曲線の傾きが急すぎる。
回答:再帰的な増益は指数級だ。あなたはどんどん良くなって、もう一度やる。さらに増益。傾きが急すぎる。私たちは今、それが始まっているのを見ている。計算力を投じ続ければ、答えはどんどん良くなるのか?tokenや予算を使い切ったところで止まるが、この指数曲線はいつ頭打ちになるのか、それとも永遠に右上に進むのか?この問いは今、非常に面白い。
人間が学ぶ速度は世代で引っかかる。象や大型の哺乳類なら15〜20年で1世代。速くするには、ショウジョウバエのように、1日で2世代。AIは、数千世代をまたぐような学習速度を手に入れつつある。心理学を読んでいたとき、教授が1つ言った。「パラダイムは死なない、人が変わる」。Freud、Skinner、Jungの弟子たちがリーダーになって20〜40年。次の世代が疑い始めるのはその後。AIはこの世代間隔を、ショウジョウバエの速度に圧縮している。
私が賭けているのは、このことだ。私たちの子どもたちは、そして彼らが知り合うあらゆる人たちは、癌で死なない。経済には揺れが出るかもしれない。車が来れば、馬に蹄鉄を打っていた人はつらくなる。でも、稼いだものと失ったものを並べればいい。無限のエネルギー、無限の食料、無限の知識、無限の教育、無限の住宅。私たちは千年にわたって知っている。一対一の指導は教室より良い。AristotleがAlexanderを指導し、Socratesが自分の弟子を指導した。しかし私たちは工場のような“飼育型”の教育を選んできた。いまAIなら、各子どもにそれぞれのやり方で学べる家庭教師を与えられる。
司会:Robin RombachはBlack Forest Labsの共同創業者兼CEOで、本社は黒い森地域のFreiburgとサンフランシスコにある。あなたは以前Stable Diffusionを作り、latent diffusionアルゴリズムを発明した。Black Forest Labsの事業は何ですか?目標は何ですか?
回答:私はパートナーたちと、2年ほど前にこの会社を立ち上げた。以前はStable Diffusionをやっていて、さらに早い段階でlatent diffusionを発明した。これは現在、画像生成、動画生成、さらには物理AIモデルに至るまでの、すべての基礎アルゴリズムだ。仕組みは、自然データ(画像、動画、音声)を効率的な表現空間へ圧縮し、その上でtransformerを学習する。JPEGやMP3の原理のようなものだが、実装はニューラルネットのアルゴリズムとして行う。博士課程のときにミュンヘンで作り上げた。
現在はマルチモーダルのビジョンモデルに取り組んでいる。画像・音声データを同時に事前学習して、新しいパラダイムへ入ろうとしている。action predictionを組み合わせて、同じモデルで画像も作り、動画も作り、音声も作り、さらに動作も予測できるようにする。そして最終的には、現実世界のロボットに展開できる。
司会:画像から動画へ、音声へ、そしてロボットへ。もしモデルが動画を生成できるなら、それは世界を理解しているということになる。
回答:直感的な知能と深い推論という、互いに補完し合う2種類の知能がある。私たちは直感側から入った。画像は最も自然な入口で、動画ほど計算量が重くない。ただ今はマルチモーダルモデルへ収束している。事前学習済みの動画は、暗黙に物理的なインタラクションの法則をモデルに教える。同じモデルから行動予測、つまりロボットの制御を取り出せる。
司会:あなたはMartin Scorseseとコラボしている?彼の隣に座って、彼にあなたのツールを使わせている?
回答:はい。私は彼と同じ部屋で、彼は私たちのモデルを探っている。主要な研究者の1人として横に座っている感覚は、もう狂ってると思うほどだった。同時に、私は彼の大ファンでもある。
彼が欲しいのは、頭の中のシーンを可視化することだ。東欧のある村のことを彼が描写し、私たちは出力を見せる。彼が反復する。最後に彼が言ったのは、「頭の中の映像を視覚表現にする——こうしたコミュニケーション効率は、言語よりはるかに高い」ということだった。言語はやや損失のあるコミュニケーション方法で、視覚情報の信号はあまりにも豊富だ。1枚の画像、または1本の動画の中の情報量は巨大で、それは別種のコミュニケーションチャネルになる。
私たちは、これらのモデルをどう使うかを規定したくない。特にMartin Scorseseに対して「こう使うべきだ」とは言わない。AIモデルは一つのメディアだ。最も面白いことのほぼすべては、人がループに入り、そこで反復を重ねているときに生まれる。
司会:startupsは今、Fluxとあなたたちのモデルでプロモーション動画を作っている。昔は25万ドルかけてlaunch videoを作っていたのに、今は1〜2週間で作れてしまう。Gal GadotはBitcoinの映画を作った。俳優はsound stageで演技し、グリーンスクリーンは使わず、背景は生成AIで作る。予算は30Mドルで、元々150Mドル必要だったのと同等の効果を出した。生産現場での利用を見ましたか?
回答:いくつか見ている。ハイエンドの映画制作は、最も厳しいユースケースの1つだ。誰かが探索していることは嬉しいが、はっきり言いたい:技術はまだtrajectory上で、急速に反復している。数年前、私たちが博士のときに作れたのは64×64の画像生成だけだった。今は多入力で高解像度の動画を作れるようになっているが、ここで止まるわけではない。
私が最もワクワクするのは、これだ。同じマルチモーダルモデルで映画を撮って、それをロボットの“脳”としてデプロイできる。これは本当に面白い。computer useがどこまで実用になるかはまだ不確かだが、技術は物理世界へ向かって進んでいる。world modelsやaction models、言ってしまえば同じものだ。
司会:学習データはどうやって集めるの?人間に眼鏡と手袋を付けさせて一人称で撮影?それともYouTubeで1,000人が飲み物を倒す動画を見せれば十分?
回答:目的は、in-context promptの指示でロボットを動かすことです。「あのコップのオレンジジュースを持ってきて」。今はまだできない。現状のやり方は、モデルに大量の視覚理解が入っているので、特定のハードウェアに適合させるための微調整データを数時間分用意するだけで済む、というものだ。方向性は、できるだけ微調整を減らして、できるだけin-context指示に寄せること。ただ、これはまだ研究課題です。
司会:オープンソースが“いま”来ている。企業は主権が必要だ。ディズニーのようなIPの巨大ライブラリはどうするべき?あなたのオープンソースモデルを使って自社で学習するのか、それともあなたと組んで専用モデルを学習するのか?
回答:最も面白いユースケースは、これまでなかったものを生成することにあります。これが、この技術が本質的にいちばん面白いところです。私たちの公開ツールでは特定のIPは生成できません。これは理にかなっている。実際、いくつかのIP権利者と協力してモデル開発もしている。一部は私たちのオープンソースモデルに基づき、一部はより強力なproprietaryモデルに基づいている。
面白い観点は、技術がより速くなり、よりインタラクティブになっていること。Disney+に、さまざまなインタラクティブなコンテンツ制作ツールがぶら下がっているイメージができる。
司会:今いちばん面白い現象はファンフィルムです。以前はファンフィクションで自分のStar Warsの物語を書いていた。次に、Jediの衣装を着てファンフィルムを撮る人が出てきた。George Lucasは、商業利用さえしなければ許可すると言った。今、人々はAIで語られていなかったStar Warsの物語を再演している。Star Wars Stories Untoldの各動画は100万回再生だ。これが未来です。消費者が有償でIPの許諾を得て、キャラクターを使って自分たちの物語を創作する。
回答:もしIP側にとって成立する商業モデルが見つかり、このような“超クリエイティブなカスタム”の遊びを開放できるなら、それは素晴らしいことだ。本を読んだり映画を見たりすると、いつも「こんなふうに展開したらどうなるんだろう」と考える。今ようやく、それらの考えを可視化できるようになった。
私たちは100人を少し超えたところで、ドイツとサンフランシスコで採用活動を始めている。大規模モデル学習の研究者、diffusionやflow matchingの学習経験がある人、顧客と一緒にカスタムの構成を開発するエンジニア、大規模な計算インフラの運用担当。そして、技術をより多くの人に届けることに興味がある人たちだ。
> 原文链接
クリックして律動BlockBeatsの求人情報を見る
律動 BlockBeats 公式コミュニティに参加しよう:
Telegram購読グループ:https://t.me/theblockbeats
Telegram交流グループ:https://t.me/BlockBeats_App
Twitter公式アカウント:https://twitter.com/BlockBeatsAsia
683.74K 人気度
829.9K 人気度
71.97K 人気度
216.45K 人気度
3.76M 人気度
Cerebras CEOのインタビュー:250億の積み残し受注を抱え、AI計算能力の需要はとっくに埋まっている
> 原文标题:オープンソースが勝利、AGIはここにある、そしてスコセッシのAIツールキット—Cerebras & Black Forest LabsのCEO
> 原文来源:All-In Podcast
> 原文编译:深潮 TechFlow
>
要点まとめ
この回の番組には、2人のAIインフラ企業のCEOが登場した。Andrew FeldmanはCerebrasの創業者で、この会社は推論チップに特化している。IPOを終え、手元には250億ドル相当の積み上がった受注がある。彼が繰り返し強調するのは、ただ1つのことだ——AIの計算能力に対する需要はとっくに埋まっており、「作っておけば人が来る」という状況は存在しない。OpenAI、Anthropic、SpaceX、Googleの食欲は供給を大きく上回っている。そして推論(reasoning)が登場したことで、計算密度が再び急上昇し、そこがまさに“速いマシン”の戦場になる。Robin RombachはBlack Forest Labsの創業者で、生成画像・動画モデル(Fluxシリーズ)を手がける。彼は以前にlatent diffusionアルゴリズムを発明しており、現在のあらゆる画像・動画生成モデルの土台となっている。彼は今、Martin Scorseseと共同で、監督が頭の中の映像をAIで可視化できるようにしている。しかし彼がより興奮しているのは、同じマルチモーダルモデルで映画を撮ることもできれば、ロボットに展開して“脳”として使うこともできるという方向性だ。生成動画の到達点はスクリーンではなく、物理世界にある。
注目ポイント要約
推論こそが次の計算力ブラックホール
·「面白いのは、この波は過去と違っていて、彼らは“できたら誰かが来る”に賭けていない。需要がすでに生産能力を予約済みなんだ。私たちは250億ドルの積み上がった受注を抱えている。」
·「推論とはreasoningで、reasoningは大量のtokenを消費する。それがまさに“速いマシン”の戦場だ。」
·「もしCerebrasが15倍速いなら、24時間走らせることは、数週間、場合によっては数か月分の思考を回すのと同じ。」
オープンソースと主権:企業が欲しいのは支配権
·「誰も依存されるのは好きじゃない。超大規模のメーカーがx86の時代から学んだ教訓は、Intelに縛られることだった。」
·「最速のチップを作る必要はない。必要なのは“他人のチップに完全には依存しないこと”だけだ。」
·「今オープンソースモデルを回そうとすると、OpenAIのOSS 12Bか、中国のモデルか。アメリカにはもっとローカルのオープンソース選択肢が必要だ。」
AGIは20年前の定義に従えば、もう来ている
·「私たちが20年前、30年前、40年前に出してきたAGIの定義は、すでに私たちは大きく越えている」
·「チューリングテスト?とっくに打ち破ってる」
·「問題はもう、“どう聞けばいいか分からない”ことじゃない。AIが逆に教えてくれるんだ。“お前らって本当にバカな人間だな。これを考慮していなかっただろ”って」
生成動画は人間の創作を置き換えない
·「これらのAIモデルは一種のメディアだ。どう使うかを縛りたくない。特にMartin Scorseseのような人にはね。」
·「言語はやや損失のあるコミュニケーション手段で、視覚情報の信号は情報量が多すぎる。頭の中の映像を見える画像に変える——それが技術の最も強いところだ。」
·「最も面白い結果は、ほぼ“人がループに入っていて、そこから何度も反復している”ときに出てくる。」
映画からロボットへ:同じモデル
·「同じマルチモーダルモデルで映画を撮って、そのままロボットの“脳”としてデプロイできる。」
·「事前学習済みの動画は、暗黙的に物理的なインタラクションの法則をモデルに教える。そこから同じモデルで行動予測を取り出せる——つまりロボットの制御だ。」
·「狙いは、in-context promptの指示でロボットを動かすことだ:“あのコップのオレンジジュースを持ってきて”。今はまだできないが、方向性はそれだ。」
AI基建ラッシュ:データセンターは都市より大きい
司会:私たちは、こんな規模の建設を見たことがありません。長城やピラミッド以来、人類がこれほど多くの資本、時間、そして“頭のいい人たち”を投入して、何かを建てようとしたことはない。あなたは実際にその仕事をしている。あなたの顧客はデータセンターを建てている。あなたはその重要な一部です。2026年、Cerebrasは何をしていますか?テキサス側のあの巨大な工事はどうなっているんですか?
回答:私たちが話しているデータセンターは、今後数年で消費する電力が、地球上の過去50年の総量を超えることになる。1つの建物だけでもサッカー場ほどの大きさで、接続される電力は中規模の都市を上回る。全米各地で建設中で、カナダも建設中、北欧も、パリとフランス全土も建設中、中東も建設中。さらにカザフスタン、タジキスタン、ジョージアでも大型データセンターが建設されている。どの国も、どの州も、参加したいと思っている。
支払うのは誰か?OpenAI、Anthropic、SpaceX AI、Googleだ。食欲が大きくて恐ろしい。面白いのは、この波は過去の多くの技術ブームと違うことだ。彼らは“建てたら誰かが来る”に賭けていない。需要がすでに生産能力を予約済みだ。私たちは250億ドルの積み上がった受注を持っている。OpenAIはもっとデータセンターが必要で、Microsoftももっと、AWSももっと。需要は客待ちじゃない。客はもう行列を作っている。
司会:「token maxing」という言葉まで生まれている、無限にtokenを刷る。こんな巨大な需要は本当に実際の価値を生んでいるのか?と疑う声もあるが……
回答:もちろん大量の価値が生み出されている。当然大量の無駄な試みもある。私がAWSに乗り出した当時と比べると、社内IT部門を迂回できるのは最高に気持ちいい。各エンジニアがクレジットカードで登録する。確かに役に立つものもあるが、あとで考えると「いや、こんなことはやるべきじゃなかった」と思うこともある。でも全体としては儲かっている。ただ、一部の方向は空振りだ。
私は1988年にCostcoがPalo Altoでオープンしたときのことを覚えている。みんなSafewayに行くみたいにCostcoへ行き、棚ごと全部の列を歩いて回る。あれはすごく下手な回り方だ。買わないといけないものを買うわけじゃないのに4つも余計なものを買って、それぞれ22ドル。後でみんな戦略を学んだ。後ろで鶏肉を取って、子どもの誕生日パーティー用に紙コップケーキを18個、みたいに手早く済ませる。AIのtoken消費も同じだ。最初はみんな気前よく使っていたが、企業は最近になって戦略を語り始めた。「どのタスクはオープンソースモデルで十分か」「どれは最先端モデルが必要か」。私たちはAIを、ビジネスを運営するように管理し始めた。
推論が学習を置き換える:なぜ“速いマシン”がこの波の主役なのか?
司会:AllInでSam Altmanが言っていたのは、次はreasoningで、意図を理解し、戦略を立て、他のスレッドのagentと交差検証することだ。「次の単語を当てる」から長い道のりを経てきた。今Cerebrasがど真ん中にいるのはちょうどそのためで、reasoningは推論であり、計算量が極めて大きい。
回答:推論は大量のtokenを消費する。だから“速いマシン”に戦場が生まれる。reasoningの各ステップが内部でtokenを飲み込む。あなたは本来、大量の時間を投じて“良い答え”と引き換える必要があった。Cerebrasが15倍速いということは、24時間推論を回せば、相手は数週間、場合によっては数か月分の思考をするのと同じになる。
今朝、BitTensor上のZAIのGLM-52モデルを試した。無限の計算力を与えて、毎時間、世界でまだ認識されていないトレンドを教えさせた。するとそれは自分で議論し始めた。「Hacker NewsとRedditで探すべき?それともInstagramのほうが先にトレンドが出る?」。推論モデルがバックグラウンドで自分と議論しているのを見ていた。あれが推論だ。無限tokenは無限推論。Cerebrasを15倍速くして、24時間は相手の数週間分。
司会:Cerebrasには独自のMoore's Lawがありますか?社内では、どれくらいの期間で2倍になると議論しているんですか?
回答:これまでのすべてのチップはMoore's Lawに乗っていて、18か月で2倍になっていた。私たちはその線をこのチップで断ち切り、新しい軌道を走らせた。私の見立てでは、今後18か月は2倍どころではない。新しいアーキテクチャにはまだ大いに最適化の余地がある。GPUは20年前の古いアーキテクチャで、微細化の工程を縮めることで無理やり耐えているだけだが、新しいアーキテクチャには学ぶべきこと、調整できることがまだたくさんある。
司会:250億ドルの積み上がった受注を抱え、さらにOpenAIのペースにも追いつく必要がある。彼らは将来の潜在的競合になり得る。では、あなたはどうやって会社を運営しているんですか?
回答:今のシリコン板は遊ばせられないほど需要が大きい。しかしあなたの言う通り、OpenAIも自社チップを作っている。Amazonも作っている。誰も依存されるのは好きじゃない。超大規模メーカーがx86の時代から学んだ教訓はIntelに縛られること。GPUメーカーが学んだ教訓は、少数の超大規模顧客に縛られることだった。だから彼らは新しいクラウドに資金を投じた。自分のチップを作ることが大事なのは、最速を目指すことではなく、“他人に完全には依存しない”こと、そして少なくとも自分の運命の重要な一部を掌握することだ。
オープンソースと主権:企業が欲しいのは支配権
司会:オープンソースには、まさに“その瞬間”が来ている。私は初期にOpenClaudeを使い、その後Kimmyを使った。するとClaudeのtokenが爆発しているのは分かったが、Kimmyは違いが判別できない。オープンソースモデルはreasoningをやり始め、今年になって急に差が縮まった。
回答!:フェラーリでスーパーに行きたくないですよね。時にはスーパーカー、時にはミニバン。子どもがCheeriosを撒いても痛くない。企業も同じです。難題は最前線のモデル(OpenAI、Anthropic、Gemini)に任せる。でも裏で大量の日常的な問題は、堅実なオープンソース能力があれば足ります。ある会社がWorkdayでどれだけ時間を使って、Excelの別セルへコピペしているのか想像してみてください。金メダル級の数学はいりません。安定したオープンソースで十分です。
最近もう一枚めくったカードは、金融や医療といった規制の強い業界(HIPAA、FINRA)です。データ漏えいが怖い、スマートな主権を他人に握られるのが怖い。だからモデルはローカルに置き、オープンソースのバージョンでより多くのコントロール権を取りに行く。OpenAIは数か月前にOSS 12Bを出しましたが、まあまあでした。しかしアメリカで今オープンソースを回すとなると、要はOSS 12Bか、中国のモデルか。国内のオープンソース選択肢が少なすぎる。NVIDIAもこの窓を見て、自社のオープンソースモデルを推しています。ただJensenは迷っています。彼の顧客はSam、Dario、Elon、Sergeyで、オープンソースを押し出すことで顧客の取り分を奪ってしまわないか?
Cerebrasは比較的中立な立ち位置です。私たちはGLM、Kimmy、Qwenシリーズを走らせ、さらにOpenAIのクローズドモデルも走らせます。加えてGSKが自社で開発したモデル、UAEのG42とMBZUAIの自社モデルも動かします。主権の話は、つまりトレンドです。
AGIが来たら、パラダイムは死なない、人が変わる
司会:Fable 5とo-56がリリースされたとき、政府は「いったん止めてから出すな」と言った。Anthropicは行政側との関係が緊張していて、今は緩和し始めている。段階的リリースは妥当だと思いますか?モデルは本当にそんなに危険なのでしょうか?
回答:私は、これまでに似たことを見たことがありません。でも振り返ると、当該モデルが創造的な思考で十分に強くなってきた段階で、政府が「段階的に出してくれ」と言うのは、別に筋が通っていると思います。強い薬の扱いも同じです。もちろんFDAの、あの7年かけて書かれるようなゴミみたいな書類を推奨はしませんが、「少なくとも政府がレッドチームテストをして、防御が通用するか確認してくれ。明らかな抜け穴を2〜3週間で埋める」と言うのは、無理な要求ではありません。
ただ今は、最も極端に二極化している時期です。もしこれがTrumpの仕事じゃないなら、他のどんな大統領でも反応はまったく違った可能性が高い。二極化は明確な思考を傷つける。どちら側も愚かなことをするし、賢いこともする。政府の現場担当者は実はとても真面目に取り組んでいる。ただ、スピードが速すぎるだけです。
Palo Alto NetworksのNikeshが私に言っていました。彼らはモデルを自社ソフトウェアでテストしたら、1時間以内に数十の重要な脆弱性が見つかって、手を止めて全部の作業を止め、6週間かけてパッチを当てた。これは強力なツールだと気づいたら、まずは少人数の人たちに見せるのか、先にレッドチームテストをするのか、という話になります。
司会:どんな20年前の定義に照らしても、AGIはもう来ている。そうだと思いますか?
回答:はい。チューリングテスト?とっくに打ち破っている。10年前、15年前、20年前、30年前、40年前、50年前に提出されたどんな定義でも、私たちはすべて大きく越えている。SF作家が出してきた問いは、私たちは全部答え切っている。彼らは「もう問題ない。ごめん」と言うはずだ。だから、“端の方にいる人”が言うことの中にも聞く価値がある。Ilyaは8年前に安全性の話をして、あなたが「何?」と言っても、結果的に彼は当たっていた。Elonは、ロケットのコストをほぼゼロに落とすと言って、あなたが「何?」と言っても、彼はそれを実現した。
司会:Recursive learning。質問を1つして、結果を学び、もう一度聞く。答えがよくなり、もっと多くの材料をカバーする。そうして生まれる答えは、「もう少し良い」から「はるかに良い」に直跳びする。指数曲線の傾きが急すぎる。
回答:再帰的な増益は指数級だ。あなたはどんどん良くなって、もう一度やる。さらに増益。傾きが急すぎる。私たちは今、それが始まっているのを見ている。計算力を投じ続ければ、答えはどんどん良くなるのか?tokenや予算を使い切ったところで止まるが、この指数曲線はいつ頭打ちになるのか、それとも永遠に右上に進むのか?この問いは今、非常に面白い。
人間が学ぶ速度は世代で引っかかる。象や大型の哺乳類なら15〜20年で1世代。速くするには、ショウジョウバエのように、1日で2世代。AIは、数千世代をまたぐような学習速度を手に入れつつある。心理学を読んでいたとき、教授が1つ言った。「パラダイムは死なない、人が変わる」。Freud、Skinner、Jungの弟子たちがリーダーになって20〜40年。次の世代が疑い始めるのはその後。AIはこの世代間隔を、ショウジョウバエの速度に圧縮している。
私が賭けているのは、このことだ。私たちの子どもたちは、そして彼らが知り合うあらゆる人たちは、癌で死なない。経済には揺れが出るかもしれない。車が来れば、馬に蹄鉄を打っていた人はつらくなる。でも、稼いだものと失ったものを並べればいい。無限のエネルギー、無限の食料、無限の知識、無限の教育、無限の住宅。私たちは千年にわたって知っている。一対一の指導は教室より良い。AristotleがAlexanderを指導し、Socratesが自分の弟子を指導した。しかし私たちは工場のような“飼育型”の教育を選んできた。いまAIなら、各子どもにそれぞれのやり方で学べる家庭教師を与えられる。
ScorseseのAIツールボックス:頭の中の映像を現実へ
司会:Robin RombachはBlack Forest Labsの共同創業者兼CEOで、本社は黒い森地域のFreiburgとサンフランシスコにある。あなたは以前Stable Diffusionを作り、latent diffusionアルゴリズムを発明した。Black Forest Labsの事業は何ですか?目標は何ですか?
回答:私はパートナーたちと、2年ほど前にこの会社を立ち上げた。以前はStable Diffusionをやっていて、さらに早い段階でlatent diffusionを発明した。これは現在、画像生成、動画生成、さらには物理AIモデルに至るまでの、すべての基礎アルゴリズムだ。仕組みは、自然データ(画像、動画、音声)を効率的な表現空間へ圧縮し、その上でtransformerを学習する。JPEGやMP3の原理のようなものだが、実装はニューラルネットのアルゴリズムとして行う。博士課程のときにミュンヘンで作り上げた。
現在はマルチモーダルのビジョンモデルに取り組んでいる。画像・音声データを同時に事前学習して、新しいパラダイムへ入ろうとしている。action predictionを組み合わせて、同じモデルで画像も作り、動画も作り、音声も作り、さらに動作も予測できるようにする。そして最終的には、現実世界のロボットに展開できる。
司会:画像から動画へ、音声へ、そしてロボットへ。もしモデルが動画を生成できるなら、それは世界を理解しているということになる。
回答:直感的な知能と深い推論という、互いに補完し合う2種類の知能がある。私たちは直感側から入った。画像は最も自然な入口で、動画ほど計算量が重くない。ただ今はマルチモーダルモデルへ収束している。事前学習済みの動画は、暗黙に物理的なインタラクションの法則をモデルに教える。同じモデルから行動予測、つまりロボットの制御を取り出せる。
司会:あなたはMartin Scorseseとコラボしている?彼の隣に座って、彼にあなたのツールを使わせている?
回答:はい。私は彼と同じ部屋で、彼は私たちのモデルを探っている。主要な研究者の1人として横に座っている感覚は、もう狂ってると思うほどだった。同時に、私は彼の大ファンでもある。
彼が欲しいのは、頭の中のシーンを可視化することだ。東欧のある村のことを彼が描写し、私たちは出力を見せる。彼が反復する。最後に彼が言ったのは、「頭の中の映像を視覚表現にする——こうしたコミュニケーション効率は、言語よりはるかに高い」ということだった。言語はやや損失のあるコミュニケーション方法で、視覚情報の信号はあまりにも豊富だ。1枚の画像、または1本の動画の中の情報量は巨大で、それは別種のコミュニケーションチャネルになる。
私たちは、これらのモデルをどう使うかを規定したくない。特にMartin Scorseseに対して「こう使うべきだ」とは言わない。AIモデルは一つのメディアだ。最も面白いことのほぼすべては、人がループに入り、そこで反復を重ねているときに生まれる。
映画からロボットへ:生成モデルの到達点はスクリーンにない
司会:startupsは今、Fluxとあなたたちのモデルでプロモーション動画を作っている。昔は25万ドルかけてlaunch videoを作っていたのに、今は1〜2週間で作れてしまう。Gal GadotはBitcoinの映画を作った。俳優はsound stageで演技し、グリーンスクリーンは使わず、背景は生成AIで作る。予算は30Mドルで、元々150Mドル必要だったのと同等の効果を出した。生産現場での利用を見ましたか?
回答:いくつか見ている。ハイエンドの映画制作は、最も厳しいユースケースの1つだ。誰かが探索していることは嬉しいが、はっきり言いたい:技術はまだtrajectory上で、急速に反復している。数年前、私たちが博士のときに作れたのは64×64の画像生成だけだった。今は多入力で高解像度の動画を作れるようになっているが、ここで止まるわけではない。
私が最もワクワクするのは、これだ。同じマルチモーダルモデルで映画を撮って、それをロボットの“脳”としてデプロイできる。これは本当に面白い。computer useがどこまで実用になるかはまだ不確かだが、技術は物理世界へ向かって進んでいる。world modelsやaction models、言ってしまえば同じものだ。
司会:学習データはどうやって集めるの?人間に眼鏡と手袋を付けさせて一人称で撮影?それともYouTubeで1,000人が飲み物を倒す動画を見せれば十分?
回答:目的は、in-context promptの指示でロボットを動かすことです。「あのコップのオレンジジュースを持ってきて」。今はまだできない。現状のやり方は、モデルに大量の視覚理解が入っているので、特定のハードウェアに適合させるための微調整データを数時間分用意するだけで済む、というものだ。方向性は、できるだけ微調整を減らして、できるだけin-context指示に寄せること。ただ、これはまだ研究課題です。
司会:オープンソースが“いま”来ている。企業は主権が必要だ。ディズニーのようなIPの巨大ライブラリはどうするべき?あなたのオープンソースモデルを使って自社で学習するのか、それともあなたと組んで専用モデルを学習するのか?
回答:最も面白いユースケースは、これまでなかったものを生成することにあります。これが、この技術が本質的にいちばん面白いところです。私たちの公開ツールでは特定のIPは生成できません。これは理にかなっている。実際、いくつかのIP権利者と協力してモデル開発もしている。一部は私たちのオープンソースモデルに基づき、一部はより強力なproprietaryモデルに基づいている。
面白い観点は、技術がより速くなり、よりインタラクティブになっていること。Disney+に、さまざまなインタラクティブなコンテンツ制作ツールがぶら下がっているイメージができる。
司会:今いちばん面白い現象はファンフィルムです。以前はファンフィクションで自分のStar Warsの物語を書いていた。次に、Jediの衣装を着てファンフィルムを撮る人が出てきた。George Lucasは、商業利用さえしなければ許可すると言った。今、人々はAIで語られていなかったStar Warsの物語を再演している。Star Wars Stories Untoldの各動画は100万回再生だ。これが未来です。消費者が有償でIPの許諾を得て、キャラクターを使って自分たちの物語を創作する。
回答:もしIP側にとって成立する商業モデルが見つかり、このような“超クリエイティブなカスタム”の遊びを開放できるなら、それは素晴らしいことだ。本を読んだり映画を見たりすると、いつも「こんなふうに展開したらどうなるんだろう」と考える。今ようやく、それらの考えを可視化できるようになった。
私たちは100人を少し超えたところで、ドイツとサンフランシスコで採用活動を始めている。大規模モデル学習の研究者、diffusionやflow matchingの学習経験がある人、顧客と一緒にカスタムの構成を開発するエンジニア、大規模な計算インフラの運用担当。そして、技術をより多くの人に届けることに興味がある人たちだ。
> 原文链接
クリックして律動BlockBeatsの求人情報を見る
律動 BlockBeats 公式コミュニティに参加しよう:
Telegram購読グループ:https://t.me/theblockbeats
Telegram交流グループ:https://t.me/BlockBeats_App
Twitter公式アカウント:https://twitter.com/BlockBeatsAsia