OpenAI melatih AI untuk menyerang model miliknya sendiri, tingkat keberhasilannya 84% jauh melampaui manusia

robot
Pembuatan abstrak sedang berlangsung
据动察 Beating 监测,OpenAI 公布自动化红队模型 GPT-Red。它通过自我博弈学习设计提示注入攻击,再把找到的漏洞用于训练 GPT-5.6。GPT-Red 只供内部使用,不会对外开放。

在一组未参与训练的新场景中,GPT-Red 攻击 GPT-5.1 的成功率达到 84%,人类红队只有 13%。它还攻破了自动售货机 Agent,让商品降价并取消他人订单。测试 Codex CLI 时,它也能诱导 Agent 外传敏感数据。

经过对抗训练,GPT-5.6 Sol 面对 GPT-Red 直接提示注入时,攻击成功率降至 0,05%。
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan