34 тисячі траєкторій, що годують цю розумову істоту, монстра-розвідника, ім’я SU-01 звучить досить круто

AIMPACT пропонує системний підхід до перетворення моделей після тренування для логічного виведення у олімпійського рівня розв’язувачів задач, що складається з трьох кроків: кероване тонке налаштування за допомогою курсу з оберненою заплутаністю для впровадження пошуку доказів та самоперевірки; потім розширення за допомогою двох етапів підкріпленого навчання; і масштабне підвищення під час тестування. Застосовано до базової моделі 30B-A3B, з використанням приблизно 340 000 підлеглих 8K траєкторій для керованого тонкого налаштування, після чого 200 кроків RL, отримано SU-01. Ця модель здатна стабільно логічно виводити складні задачі, з траєкторіями понад 100 000 токенів, досягаючи рівня золотої медалі на змаганнях IMO/USAMO/IPhO та інших, а також демонструє здатність до переносу наукового логічного мислення за межами математики та фізики.