MIT CSAIL: Лише винагорода за правильні відповіді змушує моделі міркування надмірно впевнено оцінювати себе, новий метод покращує оцінку невизначеності

Повідомлення AIMPACT, 26 квітня (UTC+8): дослідження MIT CSAIL показало, що топові моделі міркування під час тренування з підкріпленням стають надто самовпевненими, оскільки їм нараховують нагороду лише за правильні відповіді, не враховуючи рівень упевненості. Дослідницька група запропонувала новий підхід: тренувати модель для оцінювання рівня впевненості в кожній відповіді, щоб істотно покращити здатність оцінювати невизначеність, не погіршуючи точність. Ця робота виявляє ключовий недолік поточного механізму тренування з підкріпленням і пропонує ефективний напрям покращення. (Джерело: InFoQ)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено