MIT CSAIL: Apenas recompensar respostas corretas leva a modelos de raciocínio a ter excesso de confiança; um novo método melhora a estimativa de incerteza

Mensagem AIMPACT, 26 de Abril (UTC+8). Um estudo do MIT CSAIL descobriu que, durante o treino por aprendizagem por reforço, os modelos de raciocínio de topo ficam demasiado confiantes porque são recompensados apenas pelas respostas corretas e a confiança não é considerada. A equipa de investigação propôs um novo método: treinar o modelo para estimar a confiança de cada resposta, melhorando significativamente as capacidades de estimativa de incerteza sem comprometer a exatidão. Este trabalho revela uma falha crítica nos mecanismos atuais de treino por aprendizagem por reforço e propõe direções de melhoria eficazes. (Fonte: InFoQ)
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado