De SFT para RL e depois para escalonamento em tempo de teste, as três fases progressivas empilham blocos como construir um castelo, levando o modelo pequeno de 30B até a medalha de ouro do IMO, um caminho assustadoramente claro.

AIMPACT propôs um método sistemático para transformar modelos de inferência pós-treinamento em solucionadores de nível olímpico, dividido em três etapas: ajuste supervisionado com cursos de perplexidade reversa para incorporar busca de provas e autoverificação; depois, expansão por meio de reforço em duas fases; e, na fase de teste, escalonamento para aprimoramento. Aplicado ao backbone 30B-A3B, usando aproximadamente 340 mil trajetórias sub-8K para ajuste supervisionado, seguido de 200 passos de RL, resultando no SU-01. Este modelo consegue realizar inferências estáveis em problemas difíceis, com trajetórias superiores a 100 mil tokens, atingindo nível de medalha de ouro em competições como IMO/USAMO/IPhO, e demonstrando capacidade de generalização para raciocínio científico além de matemática e física.