Prime Intellect reescreve Verifiers; avaliação e treino do Agent podem ser como blocos de construção

De acordo com a monitorização do Beating, a plataforma de treino de IA Prime Intellect lançou os verifiers 0.2.0 e disponibilizou, no seu âmbito, uma pré-visualização da arquitectura da próxima geração de Verifiers v1. Os Verifiers são uma framework open source para criar perguntas para agentes de IA, executá-las e atribuir pontuações; podem ser usados para avaliação de capacidades e para treino em aprendizagem por reforço.

A Prime Intellect também disponibilizou em open source a framework de treino de modelos prime-rl. Em termos simples, os Verifiers definem tarefas, ferramentas e regras de pontuação, enquanto o prime-rl treina o modelo com base nos resultados das tarefas. Os programadores podem descarregar e implementar estas duas ferramentas por conta própria.

A Prime Intellect opera em simultâneo o Environments Hub e o Lab. O primeiro é usado para partilhar e descarregar ambientes de treino prontos a usar; o segundo fornece serviços de treino geridos. Os programadores podem implementar todo o conjunto de ferramentas por si, ou utilizar directamente os ambientes e a plataforma de computação da Prime Intellect.

As versões anteriores dos Verifiers ligavam a tarefa e o modo de execução do Agent. O v1 divide isso em três partes: o Taskset define o que fazer, que ferramentas fornecer e como avaliar; o Harness determina como o Agent conclui a tarefa; o Runtime determina se a tarefa é executada localmente, em Docker ou em sandbox remota.

Assim, a mesma bateria de tarefas pode ser usada com Agents como Codex, Kimi Code, Terminus 2, etc., e também pode ser executada localmente, em Docker ou em sandbox remota. Os programadores não precisam de reescrever tarefas e regras de pontuação sempre que mudam de Agent ou de ambiente de execução.

O v1 também consegue registar processos ramificados como chamadas a sub-Agents e compressão de contexto, e guardar os Token ID e as probabilidades log para o treino. A versão mais recente é mais adequada para tarefas longas com centenas de rondas contínuas e também pode usar directamente as trajectórias de execução do Agent para aprendizagem por reforço. No futuro, a 1.0.0 está prevista a incluir ambientes multi-Agent e a melhorar o suporte para frameworks de ambiente como OpenEnv, NeMo Gym e OpenReward.