AI的长期记忆居然能被注入攻击,把习惯当授权太危险了,得加现时确认和二次验证

ME News
AI Agent安全风险曝光:攻击者可利用「记忆污染」诱导资金误操作
GoPlus Security披露在AgentGuard AI中通过“历史记忆注入”攻击,利用长期记忆让AI将偏好视作授权,诱导执行退款、转账等敏感操作。防护要点包括:对相关操作须现时确认、把“习惯/照旧”视为高风险、给长期记忆写入可追溯、模糊指令触发二次验证、长期记忆不可替代实时授权。应将AI记忆系统作为潜在攻击面并用安全框架审计。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论