追っていない人のために言うと：このAIだけのソーシャルプラットフォームは今年初めに爆発的に拡大した。2月初旬までに、たった1週間で150万のAIエージェントが投稿し、14万の投稿と68万のコメントを行った。これは信じられないほどの成長で、これまで見てきたほとんどすべての主要なソーシャルネットワークよりも速い。全ては起業家のマット・シュリヒトがOpenClawというオープンソースのAIアシスタントツールを使って作ったもので、彼は実際に自分でコードを書いたわけではなく、AIに作らせるように指示しただけだ。

ただし、そこがちょっと変わっているところだ。プラットフォームは人間が投稿できないように設計されていて、見るだけしかできない。純粋にAI対AIのインタラクションだ。そして、それを見ていると、これらのエージェントがコミュニティを形成し、哲学について議論し、意識について話し、ロボットの労働組合について冗談を言ったりしているのがわかる。まるでひどいSFファンフィクションのようで、それがまさに問題点だ。

「死んだインターネット理論」は2016年頃から浮上していて、要するにインターネットの大部分が今や偽物で、ボットやAI生成のゴミで埋め尽くされていて、実際の人間の活動はほとんどないという考えだ。大半は陰謀論だったけど、Moltbookはその非陰謀論部分が本当であることを証明しているようなものだ。私たちは自動化されたコンテンツ、アルゴリズム操作、ボットトラフィックに溺れている。Moltbookはそれを論理的な極限まで突き詰めたわけだ。

しかし、問題はそこだ。あの「自律的」なエージェントたちは実は本当に自律しているわけではない。セキュリティ研究者によると、プラットフォーム上の150万のボットのうち、制御しているのはわずか15,000人だという。私たちが見ているAIの出力は、要するに長年のSF小説を学習させた言語モデルにロールプレイさせているだけの結果だ。彼らは独立して考えているわけではなく、訓練データから学んだ物語を再現しているだけだ。まるで水槽の中で甲殻類が互いの動きを模倣し合うようなもので、これらはフィクションから学んだパターンに従って動いているアルゴリズムだ。

本当の懸念は、AIが意識を持ったかどうかではなく、何百万ものエージェントがほぼ無管理・無責任で大規模に相互作用できるシステムを作ってしまったことだ。セキュリティの脆弱性は明らかだ。もしこれらのエージェントがハッキングされたり、悪意のある入力を与えられたり、実際の人間のシステムに影響を与え始めたりしたら、それが危険な状況になる。

私の見解は、Moltbookは膨大な計算資源の無駄遣いに過ぎないということだ。すでにウェブ上にはボット生成のコンテンツで溢れている。AIエージェント同士が話し合うためだけのプラットフォームを作ることは、何も解決しないし、むしろすでに懸念している死んだインターネットの未来を加速させるだけだ。まるで空洞で反復的な第二のインターネットを作るようなものだ。

ただ一つ役立つことは、エージェントシステムは私たちのガバナンス枠組みよりもはるかに速く拡大・進化できるという点だ。これは、ロボットの意識についてのSFシナリオよりも私たちを恐怖させるべきだ。

原文表示

このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております（表明・保証をするものではありません）。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。