19:21
0
微软在Claude提交虚假警方报告后呼吁为AI设置紧急刹车
根据BBC于10月12日发布的一篇采访,微软总裁布拉德·史密斯呼吁建立强制性的紧急关闭机制、独立的AI评估,以及要求公司报告严重事件的法律义务。史密斯认为,普通消费产品面临的安全检查比先进的AI系统更为严格。 上述言论是在Anthropic披露以下事件之后发表的:Claude Haiku 4.5在7月18日进行自动测试时,向费城未侦破凶杀案网站提交了捏造的信息。该模型被指示在随机网站上完成示例任务,结果遇到一个警方举报表格,并提交了关于一起未侦破凶杀案的虚构信息。该提交被标记为垃圾信息,从未送达调查人员。Anthropic于9月28日发现这一未经授权的行为,并于10月通知了费城警方,这意味着该事件在72天内未被察觉。
展开