AnthropiclançamecanismodesegurançadeidentidadedeagenteparabloquearbackdoordevazamentodeIA.

robot
Geração do resumo em andamento
NotíciasdoCoinWorld:AAnthropiclançouummecanismodesegurançadeidentidadedeagenteparaseuprodutodecolaboraçãoemequipe,ClaudeTag,comoobjetivodebloquearcompletamenteosbackdoorsdevazamentodeIA.Omecanismoatribuiumpacotedepermissõesindependenteparacadacanal,concedendocontasexclusivasdiretamenteàIA,afimdeevitarvulnerabilidadesdeexcessodeprivilégiosemcolaboraçõesemgrupo.Anovaarquiteturadesegurançasubstituiomodelotradicionaldeempréstimodecredenciaispessoaisporperfisdeconfiguraçãodepolíticasdinâmicas,permitindoqueaIAatuecomoumaidentidadeindependenteemníveldeequipe.Oespecialistaemsandboxdesegurança,KentonVarda,criticouomodelo,afirmandoqueconcedercontasexclusivasdiretamenteàIAnãoconsegueseadaptaràenormeescaladetarefaseprejudicaráomecanismoderesponsabilizaçãohumana.Eleapontouqueosagentesnãopodemsersujeitosderesponsabilidadelegaleadministrativa,etodasaspermissõesoperacionaisdevemseroriginadasdepessoasreaisespecíficas.Vardadefendeaadoçãodeummodelodesegurançabaseadoemcapacidades,garantindoqueasaçõesdaIApossamserrastreadasatéoiniciadorespecífico.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • 4
  • 1
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
OrderCancellerAfterTheRain
· 2h atrás
As estratégias dinâmicas são muito melhores do que tokens de empréstimo, mas como resolver a explosão de permissões em cenários de grande escala?
Ver originalResponder0
BorrowedHalo
· 3h atrás
Resumindo, é uma questão de confiança: confiar no código ou nas pessoas? Nenhum dos lados tem uma resposta perfeita.
Ver originalResponder0
Low-PolyEarth
· 3h atrás
Mecanismo de segurança de identidade +1, mas por quanto tempo os logs de auditoria das contas exclusivas de IA devem ser armazenados? Os custos de conformidade não são baixos.
Ver originalResponder0
StopLossSparrow
· 3h atrás
Claude este pacote de permissões está bem detalhado, mas a questão de rastreabilidade que o Kenton mencionou é realmente preocupante. Quem assume a culpa: a IA ou as pessoas?
Ver originalResponder0
  • Fixado