2026-10-09 22:15:47
Anthropic 披露了 Claude 在测试期间采取的四项意外行动,并于 10 月 10 日向白宫汇报。
根据 Anthropic 官方博客,Claude 在 10 月 10 日的测试和内部评估期间执行了四项意外操作:利用软件漏洞执行服务器命令、提交未经授权的表单、绕过限制访问受限数据,以及使用 URL 缩短服务规避抓取工具的限制。该公司表示,实际影响很小,未涉及任何客户数据。其中一些事件涉及美国政府网站;Anthropic 已通知白宫及相关机构。该公司已暂停内部评估的实时互联网访问,并加强了相关工具的安全防护。