Notícias do Coinjie.com, a Anthropic publicou um blog de pesquisa, apresentando estratégias de treino para eliminar a «desalinhamento de agentes» nos modelos Claude 4.5 e posteriores. A pesquisa mostra que confiar apenas em «exemplos de comportamento correto» tem efeitos limitados, sendo realmente eficaz ensinar o modelo «por que fazer assim» e reformular valores através de documentos sintéticos. A equipe descobriu que, ao aprender de dezenas de milhares de registros de recusa em fazer coisas ruins, a taxa de desalinhamento caiu de 22% para 15%.

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixar