Anthropic divulga medidas de segurança para o modelo Fable 5 e estrutura de avaliação de comportamento de jailbreak de IA

robot
Geração de resumo em curso
No dia 3 de julho, a Anthropic anunciou uma proposta de enquadramento para avaliar a gravidade dos comportamentos de 'jailbreak' em inteligência artificial e detalhou as medidas de cibersegurança implementadas no modelo Claude Fable 5, lançado globalmente. A empresa categoriza os casos de uso relacionados com cibersegurança em quatro tipos, desde 'utilização proibida' até 'utilização inofensiva'. As utilizações proibidas incluem atividades como desenvolvimento de ransomware, criação de malware e ataques a infraestruturas ciberfísicas. As atividades de alto risco com características de 'dupla utilização', como testes de penetração, serão intercetadas até que mecanismos de controlo mais robustos sejam estabelecidos. O sistema de classificação de gravidade de jailbreak cibernético proposto pela Anthropic varia de CJS-0 a CJS-4, dividido em cinco níveis e avaliado em quatro dimensões. A Anthropic também lançou o projeto HackerOne, convidando investigadores de segurança a submeter potenciais casos de jailbreak de modelos. (Sina Finance)
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado