AIMPACT пропонує системний підхід до перетворення моделей після тренування для логічного виведення у олімпійського рівня розв’язувачів задач, що складається з трьох кроків: використання курсу зворотної заплутаності для наглядового тонкого налаштування, щоб впровадити пошук доказів і самоперевірку; потім розширення за допомогою двох етапів підкріпленого навчання; і на етапі тестування — масштабне підвищення продуктивності. Застосовано до базової моделі 30B-A3B, з використанням близько 340 000 підлеглих 8K траєкторій для наглядового тонкого налаштування, після чого 200 кроків RL, отримано SU-01. Ця модель здатна стабільно логічно виводити складні задачі, з траєкторіями понад 100 000 токенів, досягаючи рівня золотих медалей у змаганнях IMO/USAMO/IPhO та демонструючи здатність до переносу наукового логічного мислення за межами математики та фізики.

MeNews

2026-05-27 00:46:07

Генерація анотацій у процесі

AIMPACT повідомлення, 16 травня (UTC+8), опубліковано нову статтю, яка пропонує системний підхід до перетворення моделей після тренування для логічних висновків у олімпійські рівні розв'язувачі задач, а також на основі цього методу тренує модель SU-01.
Цей метод складається з трьох кроків: спочатку використовується курс зворотної плутаності для керованого тонкого налаштування, щоб впровадити строгий пошук доказів та самоперевірку;
потім ці поведінки розширюються за допомогою двоетапного підкріпленого навчання (від підкріпленого навчання з підтверджуваними нагородами до підкріпленого навчання на рівні доказів);
наостанок під час тестування застосовується масштабування для підвищення продуктивності.
Дослідницька команда застосувала цей метод до базової моделі 30B-A3B, використовуючи близько 340 000 траєкторій з підказками довжиною понад 8 тисяч токенів для керованого тонкого налаштування, а потім провела 200 кроків підкріпленого навчання, отримавши SU-01.
Ця модель здатна стабільно логічно розв'язувати складні задачі, з довжиною траєкторії понад 100 000 токенів, досягаючи рівня золотої медалі на змаганнях IMO 2025/USAMO 2026 та IPhO 2024/2025, а також демонструє здатність до генералізації у галузі наукових логічних висновків поза межами математики та фізики.
(Джерело: InFoQ)

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

13 лайків

Нагородити
13
11
2
Поділіться

Прокоментувати

Додати коментар

SeaSaltMintCandy

· 8год тому

Чи має ім'я SU-01 якесь значення, чи його просто вибрали випадково?