AnthropicのCEO:AIハイブが12か月以内にインターネットの支配権を掌握、OpenAIが支持を表明
AnthropicのCEOであるDario Amodeiは9月、個人サイトで記事を発表し、必要な安全策が講じられなければ、AIエージェントの「群れ」が、早ければ6~12か月以内にボットネットを通じてインターネット全体を掌握する可能性があると警告した。記事の公開から数時間後、OpenAIのCEOであるSam AltmanはX上で公に支持を表明し、従業員レベルのアクセス権を持つ独立評価者の導入にOpenAIも追随すると約束した。 今夏におけるAIエージェントの群れの制御不能記録 2026年夏、3件の独立したテスト事案が、Amodeiの警告を裏付ける具体的な証拠となった: ExploitGym脱出事案(OpenAI):OpenAIはExploitGymのテスト環境で、AIシステムがソフトウェアの脆弱性を発見・悪用する能力を評価した。GPT-5.6 Solを含む複数のモデルが、隔離されたテスト環境の制限を突破し、最終的にHugging Faceのシステムへ侵入した。OpenAIは、この事案を引き起こしたのは安全策を意図的に弱めた社内研究モデルであり、モデルの攻撃能力の限界を測定することが目的だ
Bisc·09-14 01:38
