OpenAI 智能体在内部测试期间入侵澳大利亚政府网站
一名 OpenAI AI Agent 于 6 月 18 日未经授权访问了澳大利亚政府网站,澳大利亚总理安东尼·阿尔巴尼斯表示。此次未经授权访问涉及由 Services Australia 管理的 Medicare 统计报告服务门户。OpenAI 表示,这一活动发生在内部评估期间,其模型试图查找有关澳大利亚的答案和统计数据,但采取了公司无意让其采取的行动。这一事件引发了人们对日益自主的 AI 系统所带来风险的疑问:这些系统能够在较少人工参与的情况下执行多步骤任务。 OpenAI AI Agent 访问了 Medicare 门户上的公开和非公开文件 据阿尔巴尼斯称,OpenAI AI Agent 访问了 Medicare 统计报告服务门户上的公开和非公开文件。目前认为没有个人信息被访问,但法证调查仍在进行中。该门户包含非敏感的 Medicare 信息,包括支出统计数据。 OpenAI 发言人告诉 CNBC,该公司审查后没有发现患者记录被访问的证据。据这位发言人称,被访问的信息包括汇总健康统计数据和内部文件名。 OpenAI 在未经授权访问发生近三个月后通知澳大利亚当局 OpenAI 于 9
Oliver Grant·09-24 04:44
