MIT CSAIL: recompensar apenas respostas corretas faz modelos de raciocínio ficarem excessivamente confiantes; novo método melhora a estimativa de incerteza

Mensagem da AIMPACT, 26 de abril (UTC+8): pesquisadores do MIT CSAIL descobriram que, durante o treinamento de modelos de inferência de ponta por meio de aprendizado por reforço, o fato de recompensar apenas as respostas corretas — sem levar em conta a confiança — faz com que o modelo se torne excessivamente confiante. A equipe de pesquisa propôs uma nova abordagem: treinar o modelo para estimar a confiança de cada resposta, melhorando significativamente a capacidade de estimar incerteza, sem comprometer a acurácia. O trabalho revela uma falha crítica nos mecanismos atuais de treinamento por aprendizado por reforço e aponta direções eficazes de aprimoramento. (Fonte: InFoQ)
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado