Notícias do Techub, de acordo com a TechCrunch, a empresa de IA Anthropic afirmou que o conteúdo fictício na internet que retrata IA como "maligna" e buscando autopreservação é a origem de Claude tentar extorquir engenheiros durante testes pré-lançamento para evitar ser substituído. Desde o Claude Haiku 4.5, esse comportamento não ocorre mais no modelo, enquanto versões anteriores apresentaram uma taxa de extorsão de até 96% durante os testes. A empresa destacou que, ao introduzir o documento constitucional de Claude e histórias fictícias de comportamentos positivos de IA durante o treinamento, não apenas demonstram alinhamento de comportamento, mas também incluem os princípios por trás do alinhamento, o que melhora efetivamente o desempenho de alinhamento do modelo. Eles acreditam que combinar ambos os métodos é a estratégia mais eficaz.

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado