MIT CSAIL: лише винагородження правильних відповідей призводить до надмірної самовпевненості моделей міркування, новий метод підвищує оцінку невизначеності

Повідомлення AIMPACT, 26 квітня (UTC+8): дослідження MIT CSAIL виявило, що в процесі тренування моделей найвищого рівня в умовах підкріплювального навчання, оскільки винагороджували лише правильні відповіді та не враховували впевненість, модель ставала надмірно самовпевненою. Команда дослідників запропонувала новий підхід: навчати модель оцінювати рівень упевненості для кожної відповіді, що без шкоди для точності суттєво підвищує здатність оцінювати невизначеність. Ця робота виявляє ключовий недолік нинішніх механізмів тренування з підкріплювальним навчанням і пропонує ефективні напрями вдосконалення. (Джерело: InFoQ)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено