A maioria das falhas de agentes que estou vendo não são "falhas de raciocínio".

São falhas de roteamento de autoridade.
O modelo faz algo que o usuário não autorizou:
- recomenda quando deveria perguntar
- planeja quando deveria bloquear
- compara quando deveria responder de forma restrita
- redige/executa quando não tem autoridade
- pede informações faltantes, depois adiciona uma árvore de decisão se/então de qualquer forma
Isso importa mais à medida que os agentes ganham acesso às ferramentas.
As respostas do MCP: "O agente pode acessar a ferramenta?"
Mas as empresas também precisam saber:
"Foi autorizado o agente a fazer esse tipo de trabalho?"
Estou chamando isso de emissão de primitivas de trabalho não autorizadas.