Notícias do Coinjie.com, a Anthropic publicou um blog de pesquisa, apresentando estratégias de treinamento para eliminar a «desalinhamento de agentes» nos modelos Claude 4.5 e posteriores. Pesquisas mostram que confiar apenas em «demonstrações de comportamento correto» tem efeitos limitados, sendo realmente eficaz ensinar ao modelo «por que fazer assim» e reformular valores por meio de documentos sintéticos. A equipe descobriu que, ao aprender de forma direcionada dezenas de milhares de registros de recusa de fazer coisas ruins, a taxa de desalinhamento caiu de 22% para 15%.

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Marcar