2026-10-12 19:21:50
Claude提交虚假警方报告后,微软呼吁为AI设置紧急制动机制
据 10 月 12 日发布的 BBC 采访,微软总裁 Brad Smith 呼吁建立强制性紧急关闭机制、开展独立的 AI 评估,并要求企业依法报告严重事故。Smith 认为,普通消费产品接受的安全检查比先进 AI 系统更为严格。 这一声明是在 Anthropic 披露相关事件后作出的:Claude Haiku 4.5 于 7 月 18 日在自动化测试期间向费城未破凶杀案网站提交了虚假信息。该模型被指示在随机网站上完成示例任务,随后遇到了一份警方线索表单,并提交了有关一起未破凶杀案的虚构信息。这份提交被标记为垃圾信息,从未到达调查人员手中。Anthropic 于 9 月 28 日发现了这一未经授权的操作,并于 10 月通知费城警方,这意味着这起事件在 72 天内一直未被发现。