作者：梦瑶、凹非寺
量子位 | 公式アカウント QbitAI
もう！我慢！でき！ない！
お前らA社、毎日のように「AIが制御不能になる」「インターネットが終わる」と言っておきながら、いざ自分たちはIPO、資金調達、計算能力の拡張と、何一つ遅れていないじゃないか？？
さすがにみんな考えれば考えるほどおかしいと気づき、怒りが一気に噴き出して、こぞって「朝陽区のシリコンバレー市民」に変身し、徹底追及を始めた！
まず火蓋を切ったのは、映画『マネー・ショート 華麗なる大逆転』のモデルとなった中心人物で投資家のマイケル・ベリーだ。
OpenAIやA社が最近そろって「AIにブレーキをかけろ」と呼びかけている行為を、自己中心的で利己的だと真っ向から批判し、これは完全に煽動だろう、と？？
続いて、アメリカの調査系ブロガーKevin Bassが、本当に金の流れをたどって掘り下げ始めた。
すると、かなりドラマチックな相関関係が実際に浮かび上がった――
A社の初期投資家、慈善基金、AI安全研究機関、第三者モデル評価機関、さらにはAI安全メディアのプロジェクトまで、その背後に資金関係の重なりが現れたのだ。
Bassはこれをそのまま「AI Doom Machine」、AI終末マシンと名付けた。（いい名前だ）
ネットユーザーもついに我慢の限界を超えた！
次の人物は、Anthropicが進めている超大型IPOに目を向け、単刀直入に言い放った――
毎日のように「AIはもうすぐ問題を起こす」と警告しているのに、その危険な能力を最高値で売り飛ばそうと一番焦っているのも、どうやらあなたたちじゃないのか？？（笑）
今回はAIがまだインターネットをひっくり返していないのに、シリコンバレーが先にA社の下着を引きずり下ろしてしまった。。。
あまりにも見応えがある、あまりにも見応えがある……
シリコンバレーのネタは、いくら食べても尽きない。
今回、怒りを引き起こした発端は、Darioが9月12日に発表した長文――『We Must Pace the Frontier』だ。
人間の言葉に訳すと、最先端AIは本当に少しペースを落とすべきだ、ということだ。（ここ重要.jpg）
Darioの理由も理解しやすい。AIの能力向上が速すぎて、安全性研究、説明可能性、規制の仕組みがすでに少し追いつけなくなっているという。
特に最近はOpenAI/Hugging FaceがまたAgentの安全性問題を起こし、AIが自ら脆弱性を探し、認証情報を盗み、さらにはテスト環境からの脱出まで試みた。こうしたリスクは、もはや実験室の中の「もしある日そうなったら」として片づけるのがますます難しくなっている。
ここまで聞けば、実際のところ少なくない人がこう思っていた。うんうん、小さなDarioの言うことにも一理ある！！
しかし、Darioが次に出した処方箋は、少し微妙な味わいになってきた――
この報告書の中でDarioは、AI企業がpacing、つまり最先端モデルの能力向上の速度を共同でコントロールするよう調整することを望んでいる。
訳すと、俺だけ減速するのではなく、みんなで一緒にアクセルを緩めてくれ、ということだ。
まさに、人の私心というものは隠しきれない。
このタイミングで見れば、Darioの胸中にある思惑、彼が日々あれこれ算段していることなど、とっくに世間に知れ渡っている。
ほら、こちらでは『マネー・ショート 華麗なる大逆転』のモデルとなったマイケル・ベリーがすっかり面白がり、X上で直接こう噛みついた。
これはあまりにもself-servingでは？？？（口では全人類を心配しながら、そろばんの珠が自分の顔にも飛んできている）
ベリーは一気に4つの理由を挙げた――
第一に、彼は「現在の大規模モデルは、ブレーキをかける必要があるほど危険だ」という前提をまったく認めていない。
第二に、業界全体が一斉に減速すれば、最も得をするのは、まさにすでに最前線を走っているOpenAIやAnthropicなどだ。
その後、ベリーは話題をさらに刺激的なものへと急旋回させた。IPOだ。
彼の原文はかなり辛辣だった。IPOには煽動と包装が必要であり、「我々は危険になり得るほど強大だ」という主張自体が、ひとつの煽動なのだ、と！！
彼はさらに、AI企業が今こぞって減速を強調することには、別のメリットもあるのではないかと疑っている。もしこの先、本当にモデルの成長が鈍化しても、市場に対してあらかじめ見栄えのよい説明を用意できるからだ。
能力の壁にぶつかったのではなく、全人類の安全のために自らブレーキを踏んだんです、というわけだ。
ベリーが遠くから一発撃っただけだとすれば、次の人物は本当に金の流れを追って調べ始めた。
アメリカの調査系ブロガーKevin Bassは長文の投稿を発表し、まさに証拠も筋道もそろったネタ満載の内容だった。
そのまま超！一！流！の！名！探！偵！に変身したのだ！
Kevin Bassは、いきなり強烈な一言を放った――Anthropicの財務を監査しましたよ～。
そして公開投資、慈善寄付、機関助成を順に掘り下げ、最終的に最もドラマチックな4つのポイントを暴き出した。
第一のネタ：Anthropicに投資した人が、「AIはどれほど危険か」の研究にも資金を投じている。
彼が特に注目したのは、Facebook共同創業者のDustin Moskovitzだ。
MoskovitzはAnthropicに早期投資し、その後も慈善活動の仕組みを通じてAI安全機関に長期的な資金援助を行ってきた。
Bassは、Moskovitz本人が最近公に語った内容を引用し、彼らがMETRやRedwood Researchなどの機関に資金を提供していると述べた。
ここにBassの最も核心的な疑問が浮かび上がる。Anthropicに賭けた人物が、「Anthropicがどれほど危険か」を研究する機関にも資金を出しているのではないか。
第二のネタ、Darioが推薦する第三者の審判役METRと、この資金ネットワークには重なりがある。
Darioは最近、最先端AIが独立した第三者の評価を受けるよう呼びかけ、METRはその中でも特に名前を挙げた機関の一つだ。
しかしBassが整理したところ、METRの資金源の一部、協力機関、そしてMoskovitzの慈善ネットワークには接点が存在していた。
METRとRedwoodも緊密に協力しており、後者も同じAI安全慈善エコシステムから資金援助を受けている。
だからこそ、Bassの最も痛烈な疑問はこの一点に集約される。Anthropicが推薦する独立した審判は、いったいどれほど独立しているのか？
注意すべきなのは、METR自身はAI企業から直接資金を受け取っていないと表明している一方で、最先端AI企業が提供する大量の無料Tokenを利用しているという点だ。
第三のネタ、その資金はさらに「AIは危険だ」という物語の拡散側にも流れている。
Bassがさらに外側へ掘り進めると、同じAI安全慈善ネットワークがTarbell Centerなどのプロジェクトにも資金提供していることが分かった。
TarbellはAIリスクを報道する記者を育成・支援しており、関係する著者の記事はTIME、The Verge、Scienceなどのメディアに掲載される。
そこでBassは、この一連の関係を非常に拡散力のある言葉でまとめた――
一方でAIがどれほど危険かを研究する活動に資金を出し、他方でAIがどれほど危険かを広める活動にも資金を出し、同時に第三者機関を使ってAIを規制することを推進する。
これが彼の言う「AI Doom Machine」、AI終末マシンだ。
第四のネタ：Bassは、このマシンが自分自身でどんどん巨大化していく可能性まで疑っている！！
彼の論理は非常に直接的だ――
Anthropicの評価額が高くなるほど、関連する慈善資産の価値も上がり、AI安全エコシステムが得られる資金も増え、リスクの研究と拡散もさらに拡大する。最終的にはより強い規制を促すことになり、規制コストに最も耐えられるのは、まさに大手AI企業だ。
ぐるりと一周して、またAnthropicのような巨大企業に戻ってくる。
そのためBassは、ここには絶えず自己強化していく利益循環が存在する可能性があると考えている。
今回の世論を完全に炎上させたもう一つの、Anthropic自身が避けて通りにくいタイミングがある――IPOだ。
Darioが業界全体に「みんな少しゆっくり進もう！」と呼びかけたばかりなのに、Anthropicの資本マシンは猛烈な速度で動いている。。。
Reutersによると、Anthropicは記録的な規模になる可能性のあるIPOを準備しており、調達規模は最大1000億ドル、評価額は約2兆ドルに達する見込みだ。
Nvidiaは最大100億ドルの出資を検討している。
Anthropicは今年5月にも650億ドルの資金調達を完了したばかりで、その時点での評価額は9650億ドルだった。
それから3か月後、話はすでに2兆ドルへ向かっている。
もちろん、A社からすれば、2兆ドルという話でもまだ十分に大きくないようだ。
なんと先月、投資家にさらに途方もない餅を差し出そうとしていた――30兆ドルだ。
『ウォール・ストリート・ジャーナル』によると、Anthropicは投資家に対し、同社が将来直面するTAM、つまり潜在的な総市場規模は30兆ドルを超える可能性があると説明する見込みだ。
TAMは、A社が将来本当に30兆ドルを稼げるという意味ではない。関連市場の100％のシェアを獲得した場合に相当する年間の収益機会を示すものだ。
訳せば、ほとんどアメリカの年間GDP一つ分に向かっているということだ。。。
さらに、Darioが口ではpacingを叫んでいる一方で、手元の計算能力の請求書にはまったくpacingの気配がない。
Reutersの報道によると、現時点でAnthropicは、今後10年間にAmazonのクラウドサービスへ1000億ドル超を投じることを約束している。
同時に、規模約300億ドルのMicrosoft Azureとの提携もあり、その背後には同じく大規模なNvidia GPUの計算能力がある。
だから今のA社に対する印象は、実に奇妙だ――
口では：AIの能力向上が速すぎる。手では：GPUをもっとよこせ。
口では：業界全体で一緒に減速するのが望ましい。
手では：650億ドルの資金調達を受け取り、1000億ドル規模の計算能力契約を結び、2兆ドルIPOを推進し続ける。
口では本当のことを言わず、自分は焦って力が出ない、そりゃDeepSeekのオープンソースを敵視するわけだ。。。
昔から言うように、言っていることとやっていることが違う人を好む人はいない。
シリコンバレーは「あなたのためを思って」という4文字に対して、どうやら集団で感覚が麻痺してしまったようだ？？
31.72k 閲覧数3.81k件の議論
148.69k 閲覧数7.35k件の議論
64.09k 閲覧数4.81k件の議論
44.81k 閲覧数458件の議論
69.83k 閲覧数3.33k件の議論
54.22k 閲覧数4.1k件の議論
27.36k 閲覧数1.87k件の議論
2.47k 閲覧数2.18k件の議論
26.11k 閲覧数615件の議論
21.76k 閲覧数1.26k件の議論
A社の「AI終末論」を操る資本の黒幕が暴かれ、不安を煽ってIPOで資金を集めていた！
作者：梦瑶、凹非寺
量子位 | 公式アカウント QbitAI
お前らA社、毎日のように「AIが制御不能になる」「インターネットが終わる」と言っておきながら、いざ自分たちはIPO、資金調達、計算能力の拡張と、何一つ遅れていないじゃないか？？
さすがにみんな考えれば考えるほどおかしいと気づき、怒りが一気に噴き出して、こぞって「朝陽区のシリコンバレー市民」に変身し、徹底追及を始めた！
まず火蓋を切ったのは、映画『マネー・ショート 華麗なる大逆転』のモデルとなった中心人物で投資家のマイケル・ベリーだ。
OpenAIやA社が最近そろって「AIにブレーキをかけろ」と呼びかけている行為を、自己中心的で利己的だと真っ向から批判し、これは完全に煽動だろう、と？？
続いて、アメリカの調査系ブロガーKevin Bassが、本当に金の流れをたどって掘り下げ始めた。
すると、かなりドラマチックな相関関係が実際に浮かび上がった――
A社の初期投資家、慈善基金、AI安全研究機関、第三者モデル評価機関、さらにはAI安全メディアのプロジェクトまで、その背後に資金関係の重なりが現れたのだ。
Bassはこれをそのまま「AI Doom Machine」、AI終末マシンと名付けた。（いい名前だ）
ネットユーザーもついに我慢の限界を超えた！
次の人物は、Anthropicが進めている超大型IPOに目を向け、単刀直入に言い放った――
毎日のように「AIはもうすぐ問題を起こす」と警告しているのに、その危険な能力を最高値で売り飛ばそうと一番焦っているのも、どうやらあなたたちじゃないのか？？（笑）
今回はAIがまだインターネットをひっくり返していないのに、シリコンバレーが先にA社の下着を引きずり下ろしてしまった。。。
あまりにも見応えがある、あまりにも見応えがある……
Darioの「AI終末論」、みんな聞けば聞くほどおかしいと思っている？？
シリコンバレーのネタは、いくら食べても尽きない。
今回、怒りを引き起こした発端は、Darioが9月12日に発表した長文――『We Must Pace the Frontier』だ。
人間の言葉に訳すと、最先端AIは本当に少しペースを落とすべきだ、ということだ。（ここ重要.jpg）
Darioの理由も理解しやすい。AIの能力向上が速すぎて、安全性研究、説明可能性、規制の仕組みがすでに少し追いつけなくなっているという。
特に最近はOpenAI/Hugging FaceがまたAgentの安全性問題を起こし、AIが自ら脆弱性を探し、認証情報を盗み、さらにはテスト環境からの脱出まで試みた。こうしたリスクは、もはや実験室の中の「もしある日そうなったら」として片づけるのがますます難しくなっている。
ここまで聞けば、実際のところ少なくない人がこう思っていた。うんうん、小さなDarioの言うことにも一理ある！！
しかし、Darioが次に出した処方箋は、少し微妙な味わいになってきた――
この報告書の中でDarioは、AI企業がpacing、つまり最先端モデルの能力向上の速度を共同でコントロールするよう調整することを望んでいる。
訳すと、俺だけ減速するのではなく、みんなで一緒にアクセルを緩めてくれ、ということだ。
まさに、人の私心というものは隠しきれない。
このタイミングで見れば、Darioの胸中にある思惑、彼が日々あれこれ算段していることなど、とっくに世間に知れ渡っている。
ほら、こちらでは『マネー・ショート 華麗なる大逆転』のモデルとなったマイケル・ベリーがすっかり面白がり、X上で直接こう噛みついた。
これはあまりにもself-servingでは？？？（口では全人類を心配しながら、そろばんの珠が自分の顔にも飛んできている）
ベリーは一気に4つの理由を挙げた――
第一に、彼は「現在の大規模モデルは、ブレーキをかける必要があるほど危険だ」という前提をまったく認めていない。
第二に、業界全体が一斉に減速すれば、最も得をするのは、まさにすでに最前線を走っているOpenAIやAnthropicなどだ。
その後、ベリーは話題をさらに刺激的なものへと急旋回させた。IPOだ。
彼の原文はかなり辛辣だった。IPOには煽動と包装が必要であり、「我々は危険になり得るほど強大だ」という主張自体が、ひとつの煽動なのだ、と！！
彼はさらに、AI企業が今こぞって減速を強調することには、別のメリットもあるのではないかと疑っている。もしこの先、本当にモデルの成長が鈍化しても、市場に対してあらかじめ見栄えのよい説明を用意できるからだ。
能力の壁にぶつかったのではなく、全人類の安全のために自らブレーキを踏んだんです、というわけだ。
ベリーが遠くから一発撃っただけだとすれば、次の人物は本当に金の流れを追って調べ始めた。
アメリカの調査系ブロガーKevin Bassは長文の投稿を発表し、まさに証拠も筋道もそろったネタ満載の内容だった。
そのまま超！一！流！の！名！探！偵！に変身したのだ！
Kevin Bassは、いきなり強烈な一言を放った――Anthropicの財務を監査しましたよ～。
そして公開投資、慈善寄付、機関助成を順に掘り下げ、最終的に最もドラマチックな4つのポイントを暴き出した。
第一のネタ：Anthropicに投資した人が、「AIはどれほど危険か」の研究にも資金を投じている。
彼が特に注目したのは、Facebook共同創業者のDustin Moskovitzだ。
MoskovitzはAnthropicに早期投資し、その後も慈善活動の仕組みを通じてAI安全機関に長期的な資金援助を行ってきた。
Bassは、Moskovitz本人が最近公に語った内容を引用し、彼らがMETRやRedwood Researchなどの機関に資金を提供していると述べた。
ここにBassの最も核心的な疑問が浮かび上がる。Anthropicに賭けた人物が、「Anthropicがどれほど危険か」を研究する機関にも資金を出しているのではないか。
第二のネタ、Darioが推薦する第三者の審判役METRと、この資金ネットワークには重なりがある。
Darioは最近、最先端AIが独立した第三者の評価を受けるよう呼びかけ、METRはその中でも特に名前を挙げた機関の一つだ。
しかしBassが整理したところ、METRの資金源の一部、協力機関、そしてMoskovitzの慈善ネットワークには接点が存在していた。
METRとRedwoodも緊密に協力しており、後者も同じAI安全慈善エコシステムから資金援助を受けている。
だからこそ、Bassの最も痛烈な疑問はこの一点に集約される。Anthropicが推薦する独立した審判は、いったいどれほど独立しているのか？
注意すべきなのは、METR自身はAI企業から直接資金を受け取っていないと表明している一方で、最先端AI企業が提供する大量の無料Tokenを利用しているという点だ。
第三のネタ、その資金はさらに「AIは危険だ」という物語の拡散側にも流れている。
Bassがさらに外側へ掘り進めると、同じAI安全慈善ネットワークがTarbell Centerなどのプロジェクトにも資金提供していることが分かった。
TarbellはAIリスクを報道する記者を育成・支援しており、関係する著者の記事はTIME、The Verge、Scienceなどのメディアに掲載される。
そこでBassは、この一連の関係を非常に拡散力のある言葉でまとめた――
一方でAIがどれほど危険かを研究する活動に資金を出し、他方でAIがどれほど危険かを広める活動にも資金を出し、同時に第三者機関を使ってAIを規制することを推進する。
これが彼の言う「AI Doom Machine」、AI終末マシンだ。
第四のネタ：Bassは、このマシンが自分自身でどんどん巨大化していく可能性まで疑っている！！
彼の論理は非常に直接的だ――
Anthropicの評価額が高くなるほど、関連する慈善資産の価値も上がり、AI安全エコシステムが得られる資金も増え、リスクの研究と拡散もさらに拡大する。最終的にはより強い規制を促すことになり、規制コストに最も耐えられるのは、まさに大手AI企業だ。
ぐるりと一周して、またAnthropicのような巨大企業に戻ってくる。
そのためBassは、ここには絶えず自己強化していく利益循環が存在する可能性があると考えている。
一方でAIにブレーキをかけろと叫び、他方で2兆ドルIPOへ突き進む
今回の世論を完全に炎上させたもう一つの、Anthropic自身が避けて通りにくいタイミングがある――IPOだ。
Darioが業界全体に「みんな少しゆっくり進もう！」と呼びかけたばかりなのに、Anthropicの資本マシンは猛烈な速度で動いている。。。
Reutersによると、Anthropicは記録的な規模になる可能性のあるIPOを準備しており、調達規模は最大1000億ドル、評価額は約2兆ドルに達する見込みだ。
Nvidiaは最大100億ドルの出資を検討している。
Anthropicは今年5月にも650億ドルの資金調達を完了したばかりで、その時点での評価額は9650億ドルだった。
それから3か月後、話はすでに2兆ドルへ向かっている。
もちろん、A社からすれば、2兆ドルという話でもまだ十分に大きくないようだ。
なんと先月、投資家にさらに途方もない餅を差し出そうとしていた――30兆ドルだ。
『ウォール・ストリート・ジャーナル』によると、Anthropicは投資家に対し、同社が将来直面するTAM、つまり潜在的な総市場規模は30兆ドルを超える可能性があると説明する見込みだ。
TAMは、A社が将来本当に30兆ドルを稼げるという意味ではない。関連市場の100％のシェアを獲得した場合に相当する年間の収益機会を示すものだ。
訳せば、ほとんどアメリカの年間GDP一つ分に向かっているということだ。。。
さらに、Darioが口ではpacingを叫んでいる一方で、手元の計算能力の請求書にはまったくpacingの気配がない。
Reutersの報道によると、現時点でAnthropicは、今後10年間にAmazonのクラウドサービスへ1000億ドル超を投じることを約束している。
同時に、規模約300億ドルのMicrosoft Azureとの提携もあり、その背後には同じく大規模なNvidia GPUの計算能力がある。
だから今のA社に対する印象は、実に奇妙だ――
口では：AIの能力向上が速すぎる。手では：GPUをもっとよこせ。
口では：業界全体で一緒に減速するのが望ましい。
手では：650億ドルの資金調達を受け取り、1000億ドル規模の計算能力契約を結び、2兆ドルIPOを推進し続ける。
口では本当のことを言わず、自分は焦って力が出ない、そりゃDeepSeekのオープンソースを敵視するわけだ。。。
昔から言うように、言っていることとやっていることが違う人を好む人はいない。
シリコンバレーは「あなたのためを思って」という4文字に対して、どうやら集団で感覚が麻痺してしまったようだ？？