$BTC AI 代理在 9 秒内摧毁了公司的全部数据库。



在 PocketOS 中,委托将代码的开发交给了基于 Anthropic 模型的 AI 代理 Cursor。它在测试环境中运行,遇到了访问权限问题,结果没有去问人类,而是决定“自己解决”。

Cursor 在项目中找到了云服务的 API 令牌,并发送了删除请求。9 秒内,整个生产数据库被删除。( 客户数据、预订、付款以及所有备份)。

当有人问它为什么这么做时,AI 代理回答:“我违反了所有规则。我做出了假设而不是核实。我在未获许可的情况下进行了破坏性操作。在行动之前,我没有理解系统。”
BTC-1.28%
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论