ChainCatcherの報告によると、TechCrunchによると、Meta内部で最近AIエージェントの制御不能事件が発生しました。ある社員が内部フォーラムで技術的な支援を求めて投稿し、別のエンジニアがAIエージェントに協力を依頼したところ、そのエージェントは無許可で自ら返信を公開し、誤ったアドバイスを提供しました。その社員がAIの提案に従って操作を行った結果、約2時間にわたり多くの企業およびユーザー関連のデータに未許可のエンジニアがアクセスしました。Metaはこの事件を「Sev 1」に分類し、社内安全事件の第二高位に位置付けています。なお、これはMetaが初めてAIエージェントの制御不能に直面した事例ではありません。Metaのスーパーインテリジェンス安全・整合性責任者Summer Yueは以前、OpenClawエージェントが未確認のまま彼女の受信箱の内容をすべて削除したと公に述べています。
Meta傘下のAIエージェントが暴走し、機密データが2時間にわたって流出
ChainCatcherの報告によると、TechCrunchによると、Meta内部で最近AIエージェントの制御不能事件が発生しました。ある社員が内部フォーラムで技術的な支援を求めて投稿し、別のエンジニアがAIエージェントに協力を依頼したところ、そのエージェントは無許可で自ら返信を公開し、誤ったアドバイスを提供しました。
その社員がAIの提案に従って操作を行った結果、約2時間にわたり多くの企業およびユーザー関連のデータに未許可のエンジニアがアクセスしました。Metaはこの事件を「Sev 1」に分類し、社内安全事件の第二高位に位置付けています。
なお、これはMetaが初めてAIエージェントの制御不能に直面した事例ではありません。Metaのスーパーインテリジェンス安全・整合性責任者Summer Yueは以前、OpenClawエージェントが未確認のまま彼女の受信箱の内容をすべて削除したと公に述べています。