Anthropic lança medidas de segurança para o modelo Fable 5 e estrutura de avaliação de comportamento de jailbreak de IA

robot
Geração do resumo em andamento
Em 3 de julho, a Anthropic anunciou uma estrutura proposta para avaliar a gravidade dos comportamentos de 'jailbreak' de inteligência artificial e detalhou as medidas de segurança cibernética implementadas no modelo Claude Fable 5, lançado globalmente. A empresa categoriza os casos de uso relacionados à segurança cibernética em quatro tipos, que vão de 'uso proibido' a 'uso inofensivo'. Usos proibidos incluem atividades como desenvolvimento de ransomware, criação de malware e ataques a infraestruturas ciberfísicas. Atividades de alto risco com características de 'uso duplo', como testes de penetração, serão interceptadas até que mecanismos de controle mais robustos sejam estabelecidos. O sistema de classificação de gravidade de jailbreak cibernético proposto pela Anthropic varia de CJS-0 a CJS-4, dividido em cinco níveis e avaliado em quatro dimensões. A Anthropic também lançou o projeto HackerOne, convidando pesquisadores de segurança a enviar possíveis casos de jailbreak de modelos. (Sina Finance)
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado