Prime Intellect reescreve verificadores; o treinamento e a avaliação de agentes podem ser montados como blocos de montar

De acordo com o monitoramento Beating, a plataforma de treinamento de IA Prime Intellect lançou o verifiers 0.2.0 e, nele, abriu uma prévia da arquitetura do próximo Verifiers v1. Verifiers é um framework open source para criar questões, executar e pontuar AI Agents, podendo ser usado para avaliação de habilidades e treinamento por reforço.

A Prime Intellect também disponibilizou em open source o framework de treinamento de modelos prime-rl. Em termos simples, Verifiers define a tarefa, as ferramentas e as regras de pontuação, e o prime-rl treina o modelo com base nos resultados da tarefa. Desenvolvedores podem baixar e implantar essas duas ferramentas por conta própria.

A Prime Intellect também opera o Environments Hub e o Lab. O primeiro é usado para compartilhar e baixar ambientes de treinamento prontos, enquanto o segundo fornece serviço de treinamento hospedado. Desenvolvedores podem implantar todo o conjunto de ferramentas eles mesmos ou, alternativamente, usar diretamente os ambientes e a plataforma de computação da Prime Intellect.

As versões antigas do Verifiers amarravam as formas de execução da tarefa e do Agent. O v1 as separa em três partes: Taskset define o que deve ser feito, quais ferramentas serão disponibilizadas e como a pontuação será calculada; Harness determina como o Agent completa a tarefa; Runtime decide se a tarefa será executada localmente, em Docker ou em sandbox remota.

Com o mesmo conjunto de tarefas, é possível alternar entre Agents como Codex, Kimi Code e Terminus 2, além de executar localmente, em Docker ou em sandbox remota. Assim, os desenvolvedores não precisam reescrever as tarefas e as regras de pontuação toda vez que trocam um Agent ou o ambiente de execução.

O v1 também pode registrar processos ramificados, como chamadas de sub Agents e compressão de contexto, e salvar os Token ID e as probabilidades logaritmizadas necessários para o treinamento. A versão nova é mais adequada para tarefas longas com centenas de rodadas contínuas e também consegue usar diretamente o histórico de execução do Agent para aprendizado por reforço. No futuro, o 1.0.0 ainda planeja incluir ambientes com múltiplos Agents e aprimorar o suporte a frameworks de ambientes como OpenEnv, NeMo Gym e OpenReward.