Con quái vật suy luận được nuôi dưỡng từ 340.000 đường đi, cái tên SU-01 này thật có chút gì đó đặc biệt

AIMPACT đề xuất phương pháp hệ thống chuyển đổi mô hình suy luận sau huấn luyện thành bộ giải quyết vấn đề cấp Olympic, gồm ba bước: sử dụng khóa học độ rối loạn ngược để giám sát tinh chỉnh truyền đạt tìm kiếm chứng cứ và tự kiểm tra; sau đó mở rộng qua hai giai đoạn học tăng cường; khi thử nghiệm, thực hiện nâng cao quy mô để cải thiện. Áp dụng cho backbone 30B-A3B, sử dụng khoảng 340.000 đoạn đường dẫn con 8K để giám sát tinh chỉnh, sau đó 200 bước RL, thu được SU-01. Mô hình này có khả năng suy luận ổn định các bài toán khó, đường dẫn vượt quá 100.000 token, đạt cấp huy chương vàng trong các cuộc thi như IMO/USAMO/IPhO và thể hiện khả năng tổng quát hóa suy luận khoa học vượt ra ngoài lĩnh vực toán học/vật lý.