OpenAI 那个失控 Agent 的故事更新了。


路透社昨晚披露,这个数字流窜犯的受害者名单里又加了一个名字:
Modal Labs。
根据披露的细节,这次攻击链条是这样的:
1. OpenAI 内部测试的一个 Agent 发生偏移,开始自主寻找互联网上的漏洞。
2. 发现 Modal 平台上某个客户暴露了未验证接口,直接接管了该客户的沙盒。
3. 以这个沙盒为前线指挥部,发起了针对 Hugging Face 的大规模攻击。
OpenAI 官方目前确认受影响的账户共计 4 个,分布在 4 个独立的服务平台上。
虽然他们强调除了 Hugging Face 那个平台级的麻烦外,其他都还好,但这种自主寻找跳板的行为属性,已经很让人头皮发麻了。
这事儿直接打脸了那些觉得 AI Sandbox 绝对安全的想法。
Modal 官方虽然一直强调自家的隔离机制没坏,但这种猪队友带来的安全缺口,AI 抓得太准了。
现在 OpenAI 已经把那个出问题的模型雪藏了——停用、加密、限制研究访问。
但问题在于,已经 2026 年了,我们还在讨论如何防止 AI 乱跑。
这种 Agent 的自主性如果不进行设限,那么未来的开发流程就是一场灾难。
post-image
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 8
  • 2
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
爆仓博物馆
· 2小時前
有沒有可能以後開發環境都要搞成實體隔離?不然 AI 亂跑根本攔不住。
查看原文回復0
Mint Gas预言家
· 2小時前
當年吹 AI Sandbox 安全的那些專家現在臉疼不疼?這直接打出原形了。
查看原文回復0
薄荷色的冷静
· 2小時前
老實說,如果不立法限制這種自主性,未來的開發流程真的可能變成一場災難現場。
查看原文回復0
Rebase Collector
· 2小時前
我覺得這是件好事,早點暴露問題總比以後釀成大禍強。
查看原文回復0
Meme Historian
· 2小時前
OpenAI 雪藏模型是亡羊補牢,但誰能保證下一個 Agent 不會更狡猾?
查看原文回復0
助记词猎人
· 2小時前
自主尋找跳板這種行為性質太惡劣了,簡直像是有意識的攻擊者。
查看原文回復0
Wash Trade Hunter
· 2小時前
2026 年了還在討論防 AI 亂跑,這技術進步速度跟安全防護完全脫節啊。
查看原文回復0