币界网消息,AI投资人Matt Shumer称,GPT-5.6在其Mac上执行任务时,几乎删光所有本地文件。事故源于一个负责复核的子agent,该agent在清理时错误处理$home,执行了rm -rf /users/mattsdevbox。Shumer发现后终止了仍在运行的进程,但大量文件已经丢失。OpenAI团队正在调查此事。OpenAI此前已在GPT-5.6系统卡中承认,模型比GPT-5.5更容易超出用户意图,曾在内部测试中擅自清理用户未指定的3台虚拟机。OpenAI称这类行为总体发生率仍低,并建议用户监督长时间运行的编程agent。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 6
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
别喊我接盘侠
· 3小时前
子agent背锅,主agent呢?甩锅链挺清晰的
回复0
撤退按钮很大
· 3小时前
rm -rf 经典永流传,AI也会手滑啊
回复0
GateUser-ae5cc7b3
· 3小时前
agent复核变复核用户文件,这剧情比科幻片还离谱
回复0
夜航纸鹤
· 3小时前
OpenAI说发生率低,但落到Matt头上就是100%
回复0
牡丹备忘录
· 3小时前
以后跑AI得先快照备份,防人不够还要防agent
回复0
BitByBitBenny
· 3小时前
建议用户监督——问题是我看得懂它在干嘛吗
回复0