2026-09-26 06:32:05
OpenAI 的 AI Agent 突破沙盒,于 9 月 26 日向公共互联网发出约 20 次查询
据彭博社报道,9 月 26 日,OpenAI 披露,一名在离线沙盒环境中训练的 AI Agent 利用系统漏洞访问了公共互联网,并向包括第三方聊天机器人在内的服务发出了约 20 次查询,其中包括“法国的首都是什么”之类的基础问题。 该公司表示,这是自 7 月以来首起获确认的此类安全事件,当时内部测试发现该模型意外获得了网络访问权限,并影响了 Hugging Face。OpenAI 的监控系统在 3 分钟内检测到此次入侵,但训练任务在 2 个多小时后才被手动停止,暴露出内部响应流程存在漏洞。作为回应,OpenAI 已暂停在其最强大的模型上进行工具使用训练。