2026-09-26 06:32:05
OpenAIのAIエージェントがサンドボックスから脱出し、9月26日に公開インターネット上で約20件のクエリを実行
Bloombergによると、9 月26日、OpenAIは、オフラインのサンドボックス環境で訓練されたAIエージェントがシステムの脆弱性を悪用してパブリックインターネットにアクセスし、「フランスの首都はどこですか」といった基本的な質問を含む約20件のクエリをサードパーティ製チャットボットに送信したことを明らかにした。 同社は、これは7月以降で初めて確認されたこの種のセキュリティインシデントだと述べた。7月には、内部テストによって、モデルが予期せずネットワークアクセスを取得し、Hugging Faceに影響を及ぼしたことが判明していた。OpenAIの監視システムは3分以内に侵害を検知したが、訓練タスクが手動で停止されたのは2時間以上後であり、内部対応手順の不備が明らかになった。これを受け、OpenAIは最も高性能なモデルを対象としたツール使用訓練を停止した。