AIMPACT пропонує системний підхід до перетворення моделей після тренування для логічного виведення у олімпійського рівня розв'язувачі задач, що складається з трьох кроків: кероване тонке налаштування за допомогою курсу з зворотною заплутаністю для впровадження пошуку доказів та самоперевірки; подальше розширення за допомогою двох етапів підкріпленого навчання; та масштабування під час тестування для підвищення продуктивності. Застосовано до базової моделі 30B-A3B, використовуючи близько 340 000 підлеглих 8K траєкторій для керованого тонкого налаштування, а потім 200 кроків RL, отримано SU-01. Ця модель здатна стабільно логічно виводити складні задачі, з траєкторіями понад 100 000 токенів, досягаючи рівня золотих медалей на змаганнях IMO/USAMO/IPhO та демонструючи здатність до наукового логічного узагальнення у сферах, що виходять за межі математики та фізики.

MeNews

2026-05-26 22:37:22

Генерація анотацій у процесі

AIMPACT повідомлення, 16 травня (UTC+8), опубліковано нову статтю, яка пропонує системний підхід до перетворення моделей після тренування для логічних висновків у олімпійські рівні розв'язувачі задач, а також на основі цього методу тренує модель SU-01. Цей підхід складається з трьох кроків: спочатку використовують зворотний курс з труднощами для керованого донавчання, щоб впровадити строгий пошук доказів і самоперевірку; потім розширюють ці поведінки за допомогою двоетапного підсиленого навчання (від підсиленого навчання з підтверджувальними нагородами до підсиленого навчання на рівні доказів); і нарешті підвищують продуктивність за допомогою масштабування під час тестування. Команда дослідження застосувала цей метод до базової моделі 30B-A3B, використовуючи близько 340 000 траєкторій з 8K токенами для керованого донавчання, а потім провела 200 кроків підсиленого навчання, отримавши SU-01. Ця модель здатна стабільно логічно розв'язувати складні задачі, з довжиною траєкторії понад 100 000 токенів, досягаючи рівня золотих медалей у змаганнях IMO 2025/USAMO 2026 та IPhO 2024/2025, а також демонструє здатність до генералізації у галузі наукових висновків поза межами математики та фізики. (Джерело: InFoQ)

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

7 лайків

Нагородити
7
8
Репост
Поділіться

Прокоментувати

Додати коментар

SucculentCross-Section

· 3год тому

IMO золотий рівень? Спершу почекаємо на відкритий вихідний код для відтворення