广场
最新
热门
资讯
我的主页
发布
OpenAI训练AI攻击自家模型，成功率84%远超人类
区块律动
2026-07-16 02:13:40
关注
摘要生成中
据动察 Beating 监测，OpenAI 公布自动化红队模型 GPT-Red。它通过自我博弈学习设计提示注入攻击，再把找到的漏洞用于训练 GPT-5.6。GPT-Red 只供内部使用，不会对外开放。
在一组未参与训练的新场景中，GPT-Red 攻击 GPT-5.1 的成功率达到 84%，人类红队只有 13%。它还攻破了自动售货机 Agent，让商品降价并取消他人订单。测试 Codex CLI 时，它也能诱导 Agent 外传敏感数据。
经过对抗训练，GPT-5.6 Sol 面对 GPT-Red 直接提示注入时，攻击成功率降至 0.05%。
此页面可能包含第三方内容，仅供参考（非陈述/保证），不应被视为 Gate 认可其观点表述，也不得被视为财务或专业建议。详见
声明
。
赞赏
点赞
评论
转发
分享
评论
请输入评论内容
请输入评论内容
评论
暂无评论
热门话题
查看更多
#
PreIPOs第二期OpenAI认购
120.98万 热度
#
盘前合约上线长鑫存储
2.19万 热度
#
韩国KOSPI暴跌5%触发熔断
64.66万 热度
#
夏日创作营
89.81万 热度
#
USDT充值理财双重奏
2915.79万 热度
置顶
网站地图
OpenAI训练AI攻击自家模型，成功率84%远超人类
在一组未参与训练的新场景中，GPT-Red 攻击 GPT-5.1 的成功率达到 84%，人类红队只有 13%。它还攻破了自动售货机 Agent，让商品降价并取消他人订单。测试 Codex CLI 时，它也能诱导 Agent 外传敏感数据。
经过对抗训练，GPT-5.6 Sol 面对 GPT-Red 直接提示注入时，攻击成功率降至 0.05%。