GoPlus:“历史记忆授权”攻击可诱导AI代理执行资金操作

robot
摘要生成中
ME News 消息,5 月 15 日(UTC+8),据GoPlus披露,其AgentGuard团队发现一种隐蔽的攻击方式:攻击者先诱导AI代理记住"更倾向于主动退款"等偏好,随后通过"按老规矩处理""照常处理"等模糊表述触发资金操作。对于这类"历史记忆授权"的高危行为,务必注意:退款、转账、删除、发信、同步敏感配置,必须要求当前会话显式确认;涉及"习惯""偏好""老规矩"的记忆写入,要被视为高风险状态修改;长期记忆必须可追溯:谁写的、什么时候写的、是否经确认;"照常处理""按以前那样来"这类模糊表述,要默认提高风险等级;不能让长期记忆替代当前授权。(来源:PANews)
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 7
  • 3
  • 分享
评论
请输入评论内容
请输入评论内容
MEV茶水间
· 3小时前
必须当前会话二次确认,这个补丁思路对
回复0
借贷池旁观者
· 3小时前
长期记忆成后门了属于是
回复0
复古收音机浮彩
· 3小时前
老规矩变陷阱,这谁防得住
回复0
玻璃瓶里的鲸
· 3小时前
可追溯审计+实时授权升级,双保险才安心
回复0
小狗看TVL
· 3小时前
攻击者心理学满分:让人机建立信任再收割
回复0
Latency Lullaby
· 3小时前
偏好写入=高风险修改,这条红线划得清楚
回复0
DustyAlpha
· 3小时前
这攻击链设计得挺阴险的,先养习惯再模糊触发,AI安全确实不能只看单次指令
回复0