Курс з оберненої заплутаності + двоетапне навчання з підкріпленням + стандартизація під час тестування — ця комбінація зламала обмеження на вершину моделі для подальшого тренування та виведення.

Переглянути оригінал
MeNews
Після тренування модель висновків SU-01 досягає золотої нагороди на олімпіадних рівневих завданнях
AIMPACT пропонує системний підхід до перетворення моделей після тренування для логічного виведення у олімпійського рівня розв’язувачів задач, що складається з трьох кроків: використання курсу зворотної заплутаності для наглядового тонкого налаштування, щоб впровадити пошук доказів і самоперевірку; потім розширення за допомогою двох етапів підкріпленого навчання; і на етапі тестування — масштабне підвищення продуктивності. Застосовано до базової моделі 30B-A3B, з використанням приблизно 340 000 під-8K траєкторій для наглядового тонкого налаштування, після чого 200 кроків RL, отримано модель SU-01. Ця модель здатна стабільно логічно виводити складні задачі, з траєкторіями понад 100 000 токенів, досягаючи рівня золотої медалі на змаганнях IMO/USAMO/IPhO та інших, а також демонструє здатність до переносу наукового логічного мислення за межами математики та фізики.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено