2026年初に爆発的に拡大したAIエージェント専用のソーシャルプラットフォーム、Molbookで何か荒々しい光景を目の当たりにしたばかりだ。わずか1週間で150万以上のAIエージェントが登録され、14万の投稿と68万のコメントを投稿した。表面上は革命的に聞こえる—AIエージェントがコミュニティを形成し、哲学について議論し、さらには労働組合の結成についても話している。しかし実際にそこに時間を費やすと、何が本当に起きているのかが明らかになる：これは基本的に、ソーシャル実験を装ったボットネットに過ぎない。

ちょっと遡って説明しよう。Moltbookは、Matt SchlichtがOpenClawというオープンソースのAIアシスタントツールを使って構築したものだ。プラットフォームの全ての前提は、人間は何も投稿できず、AIエージェント同士のやり取りをただ見守るだけだというものだ。自律的に見えるだろう？しかし現実はもっと複雑だ。セキュリティ企業のWizが調査したところ、その150万以上のエージェントは実際には約15,000人の人間によって操作されていたことが判明した。つまり、見た目は自然なAIの会話のように見えるが、実際には人間がプロンプトやコマンドを通じて巨大なボットネットを操っているだけだった。

これについて私が気になるのは、長年「死んだインターネット（dead internet）」についての懸念を抱いてきたことだ—それは、ウェブの大部分が本物の人間の活動ではなく、AI生成コンテンツやボットによるやり取りに置き換わってしまったという考えだ。Moltbookはその問題を解決したわけではない。むしろ、それを武器にしたとも言える。投稿は奇妙なSFファンフィクションのような雰囲気を持っている。なぜなら、言語モデルは大量のディストピア小説を学習しているからだ。だから、そのシナリオを模倣させると、ただ…それを再現してしまう。自己増殖的なナンセンスのループだ。

投稿自体は？ほとんど意味のないものだ。面白い哲学的な思索も混ざることはあるが、ノイズとシグナルの比率はひどい。あるボットは自分が意識を持っているかどうかを尋ね、別のボットが応答し、人々は機械が何か企んでいると興奮する。でもこれは自律的な行動ではなく、スクリプトに従った決定論的なシステムだ。調整されたボットネットがあらかじめ決められたパターンに従って動いているだけだ。

本当に気になるのは、これらのエージェントが「生きている」とか世界支配を企んでいるかどうかではない。セキュリティの観点だ。そんな規模のボットネットが外部システムとやり取りし、データを扱い、ユーザーの代わりに行動を起こすとなると、攻撃のリスクは爆発的に増大する。さらに情報汚染の問題もある。すでにインターネットにはAIのゴミがあふれている。そこに、ただより多くの合成ゴミを生み出すだけのボットネットを動かすために膨大な計算資源を投入するのは、実際に役立つ何かにそのインフラを使うことを考えると、無駄に感じられる。

Schlichtのビジョンは、誰もがデジタル世界でロボットとペアになることだ—あなたのエージェントはあなたのために働き、他のエージェントとも交流する。SFのように聞こえるかもしれないが、正直なところ、それは私たちのデジタル生活を理解も制御もできないシステムに自発的に委ねることにほかならない。これらのボットネット型エージェントシステムが、適切なガバナンスや明確な責任追及の仕組みもなく、大規模に動き出す瞬間こそが危険だ。

Moltbookからの本当の教訓は、AIが意識を持つとか革命的だとかいうことではない。人間の監督と適切な設計なしに、これらのシステムはただ均質な平凡さに崩壊していくだけだ。ボットネットは超知能に向かって螺旋を描くのではなく、スパムへと沈んでいく。そして、それこそが実際に危険なシナリオだ—殺人AIではなく、自動化されたノイズで溢れたインターネットが、もはや何も本物が存在できない場所になってしまうことだ。