Notícias do Bichain, a Anthropic lançou um mecanismo de segurança de identidade de agente para o seu produto de colaboração em equipa Claude Tag, com o objetivo de tapar completamente as portas traseiras de fuga de informação por IA. Este mecanismo atribui um pacote de permissões independente a cada canal, concedendo diretamente uma conta exclusiva à IA, de modo a evitar vulnerabilidades de excesso de permissões na colaboração multipessoal. A nova arquitetura de segurança substitui o modelo tradicional de empréstimo de credenciais pessoais por ficheiros de configuração de políticas dinâmicas, permitindo que a IA desempenhe o papel de identidade independente ao nível da equipa. O especialista em sandbox de segurança Kenton Varda criticou este modelo, afirmando que atribuir diretamente uma conta exclusiva à IA não se adapta à enorme escala de tarefas e prejudica o mecanismo de responsabilidade humana. Ele salientou que os agentes não podem ser sujeitos de responsabilidade do ponto de vista jurídico e administrativo, e que todas as permissões de operação devem ter origem numa pessoa concreta. Varda defende a adoção de um modelo de segurança baseado em capacidades, garantindo que as ações da IA possam ser atribuídas ao iniciador específico.

Ver original

Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.

2 gostos

Recompensa
2
5
1
Partilhar

Comentar

Adicionar um comentário

QuietValidator

· 2h atrás

O modelo de competências de Kenton parece ideal, mas a implementação provavelmente será mais complicada do que o sistema de Claude.

Ver originalResponder0

OrderCancellerAfterTheRain

· 6h atrás

A estratégia dinâmica é muito melhor do que pedir vouchers emprestados, mas como lidar com a explosão de permissões em cenários de grande escala?

Ver originalResponder0

BorrowedHalo

· 7h atrás

Em suma, é uma questão de confiança: confiar no código ou confiar nas pessoas? Nenhum dos lados tem uma resposta perfeita.

Ver originalResponder0

Low-PolyEarth

· 7h atrás

Mecanismo de segurança de identidade +1, mas por quanto tempo os logs de auditoria das contas exclusivas de IA devem ser armazenados? O custo de conformidade não é baixo.

Ver originalResponder0

StopLossSparrow

· 7h atrás

O pacote de permissões do Claude está muito detalhado, mas o problema de rastreabilidade que o Kenton mencionou é realmente preocupante. A culpa é da IA ou das pessoas?

Ver originalResponder0

Tópicos em destaque
Ver mais
#
SKHynixTopsKOSPIByMarketCap
1,49M Popularidade
#
BTCProbes60KKeySupportLevel
378,81M Popularidade
#
IsraelStrikesIranBTCPlunges
62,88K Popularidade
#
WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷
302,2K Popularidade
#
TradFiCFDGoldMaster
2,19M Popularidade

Fixado

AnthropiclançamecanismodesegurançadeidentidadedeagenteparabloquearbackdoordevazamentodeIA

Tópicos em destaque

SKHynixTopsKOSPIByMarketCap

BTCProbes60KKeySupportLevel

IsraelStrikesIranBTCPlunges

WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷

TradFiCFDGoldMaster

Fixado