Le monstre de raisonnement alimenté par 340 000 trajectoires, le nom SU-01 est assez discret

AIMPACT propose une méthode systématique pour transformer un modèle d'inférence post-entraînement en un solveur de niveau olympique, en trois étapes : une fine-tuning supervisée avec un cours de perplexité inversée pour intégrer la recherche de preuve et l'auto-vérification ; une extension par apprentissage par renforcement en deux phases ; et une amélioration par mise à l'échelle lors de l'inférence. Appliqué à l'architecture 30B-A3B, utilisant environ 340 000 trajectoires sous 8K, suivi de 200 étapes de RL, pour obtenir SU-01. Ce modèle peut effectuer une inférence stable sur des problèmes difficiles, avec des trajectoires dépassant 100 000 tokens, atteignant un niveau de médaille d'or dans des compétitions telles que l'IMO/USAMO/IPhO, tout en montrant une capacité de généralisation en raisonnement scientifique au-delà des domaines mathématiques/physiques.