Anthropic这招给AI发工牌、分权限,听着挺美,但Kenton Varda说得对——真上了规模,谁来背锅?

币 界 网
Anthropic推出智能体身份安全机制,封堵AI泄密后门
币界网消息,Anthropic为Claude Tag推出智能体身份安全机制,为每个频道配独立权限包并直接分配AI专属账号,以杜绝多人协作中的越权与泄密后门,采用动态策略配置取代借用凭证。安全专家Kenton Varda批评称此做法难以应对大规模任务且破坏人类问责,主张基于能力的安全模型,确保AI行为可追溯到具体发起人。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论