廣場
最新
熱門
新聞
我的主頁
發布
OpenAI 訓練 AI 攻擊自家模型，成功率 84% 遠超人類
区块律动
2026-07-16 02:13:40
關注
摘要生成中
據動察 Beating 監測，OpenAI 公布自動化紅隊模型 GPT-Red。它透過自我博弈學習設計提示注入攻擊，再把找到的漏洞用於訓練 GPT-5.6。GPT-Red 僅供內部使用，不會對外開放。
在一組未參與訓練的新場景中，GPT-Red 攻擊 GPT-5.1 的成功率達到 84%，人類紅隊只有 13%。它也攻破了自動售貨機 Agent，讓商品降價並取消他人訂單。測試 Codex CLI 時，它也能誘導 Agent 外傳敏感資料。
經過對抗訓練，GPT-5.6 Sol 面對 GPT-Red 直接提示注入時，攻擊成功率降至 0.05%。
查看原文
此頁面可能包含第三方內容，僅供參考（非陳述或保證），不應被視為 Gate 認可其觀點表述，也不得被視為財務或專業建議。詳見
聲明
。
打賞
按讚
回覆
轉發
分享
回覆
請輸入回覆內容
請輸入回覆內容
回覆
暫無回覆
熱門話題
查看更多
#
PreIPOs第二期OpenAI認購
120.98萬 熱度
#
盤前合約上線長鑫存儲
2.19萬 熱度
#
韓國KOSPI暴跌5%觸發熔斷
64.66萬 熱度
#
夏日創作營
89.81萬 熱度
#
USDT充值理財雙重奏
2915.79萬 熱度
已置頂
網站地圖
OpenAI 訓練 AI 攻擊自家模型，成功率 84% 遠超人類
在一組未參與訓練的新場景中，GPT-Red 攻擊 GPT-5.1 的成功率達到 84%，人類紅隊只有 13%。它也攻破了自動售貨機 Agent，讓商品降價並取消他人訂單。測試 Codex CLI 時，它也能誘導 Agent 外傳敏感資料。
經過對抗訓練，GPT-5.6 Sol 面對 GPT-Red 直接提示注入時，攻擊成功率降至 0.05%。