破案了,Anthropic紧急关闭Fable5 的权限,很可能是因为亚马逊的员工向美国政府告密了。


亚马逊的研究人员对 Fable 5 做了越狱测试,他们通过一系列特殊提示词,不断诱导模型回答原本不应该回答的问题,最终让模型泄露了一些安全漏洞相关的信息。
随后,他们把研究结果整理成了一份安全报告,紧接着美国政府就以国家安全为由,对 Fable 5 和 Mythos 5 采取了限制措施。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论