Anthropic essa jogada de dar crachás e permissões para IA parece bonita, mas como Kenton Varda disse — quando realmente escala, quem vai assumir a culpa?

Ver original
CoinNetwork
AnthropiclançamecanismodesegurançadeidentidadedeagenteparabloquearbackdoordevazamentodeIA.
币界网消息,Anthropic为ClaudeTag推出智能体身份安全机制,为每个频道配独立权限包并直接分配AI专属账号,以杜绝多人协作中的越权与泄密后门,采用动态策略配置取代借用凭证。安全专家KentonVarda批评称此做法难以应对大规模任务且破坏人类问责,主张基于能力的安全模型,确保AI行为可追溯到具体发起人。
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado