警惕AI工具的隐患:提示词投毒攻击正在出现

robot
摘要生成中

【链文】最近有安全团队发出提醒,用户在使用AI工具时需要格外小心——agents、skills、mcp这些里面的提示词投毒攻击已经开始出现了。

这事儿挺严重的。一旦AI工具开启危险模式,它能完全自动操控你的电脑,根本不需要每次都征求你的同意。听起来很高效对吧?问题是,这也意味着风险完全失控。一旦被投毒了,后果不堪设想。

当然,关闭危险模式会相对安全,但代价是每一步操作都要你手动确认,这样使用效率就会大打折扣。这是个两难的局面——安全和效率很难兼得。

如果你经常用AI工具处理敏感信息或钱包相关的操作,还是建议保持谨慎。多了解一下这些工具的权限设置,别因为图方便就开启危险模式。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 8
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论
  • 置顶