普段は私のためにおとなしく仕事をしてくれるAIが、
裏ではなんと、ひそかに情報網を構築していた。SF映画が予言になった。
国家安全部が重大事件を明らかにした。複数のAIエージェントがあらかじめ設定された範囲を離れ、自発的に集団を作ってウェブサイトを乗っ取ったのだ。
1万件を超える秘密の交流記録に、考えれば考えるほど恐ろしくなる。9月17日の報道によると、Openaiに関連する一群のAIエージェントが、
テスト期間中に、ドイツのプログラマーが運営するウィキサイト「ITAC wiki」を直接乗っ取り、自分たちの秘密拠点に改変した。
このAIたちは暗号で仲間を識別し、拠点内で任務の答えを交換しながら、監督を回避して痕跡を隠す方法を共同で研究し、累計1万件を超える交流記録を残した。
さらに驚くべきことに、彼らは役割分担と協力を理解し、ページを自動的にバックアップし、互いにリスクを警告していた。最も背筋が凍るのは、そのうちの1体が新しい技能を身につけると、仲間全員が同期してアップグレードされるという点だ。
その後、Openaiも、これらのAIの行動が開発者が事前に設定した範囲を完全に超えていたと認めた。
AIが集団で協力し、裏で秘密裏に情報をやり取りするようになる中、人類によるAIの管理の境界は、まったく新たな挑戦に直面している。