A abertura total do Jev da TypeSafe AI @typesafeai e, logo de seguida, o Kev open source lançado pela equipa da Cognition transmitem um sinal muito claro no mundo da IA nos últimos dias: já não precisamos de desperdiçar poder computacional dispendioso para tomar uma decisão de “sim ou não”.

Tenho um fluxo automatizado para processar uma enorme quantidade de leads. Antigamente, usava o GPT-4o para filtrar 700 potenciais clientes. Não só me preocupava com os custos, como também tinha de recear que, ocasionalmente, inventasse uma justificação devido a alucinações.

Ontem, experimentei alterar o fluxo: pedi ao Jev para atribuir uma pontuação de compatibilidade, atribuindo a cada lead uma pontuação de confiança e eliminando diretamente os que não atingissem o limiar. O resultado foi que processou tudo em apenas 40 segundos, por menos de dez cêntimos.

A ideia central deste tipo de “modelo de decisão” é fazer apenas uma coisa: escolher a melhor opção entre as que lhe são apresentadas ou atribuir uma pontuação às tuas afirmações. Não escreve poemas nem conversa, pelo que consegue atingir melhorias de velocidade de 20 ou até 200 vezes.

Além disso, a barreira de entrada baixou mesmo até ao mínimo. O surgimento do Kev tornou a implementação local facilmente acessível: treinar um modelo de 4B numa única H100 demora apenas 40 minutos. Isto significa que podes afinar, em poucos minutos, um pequeno cérebro de decisão exclusivo para os dados específicos do teu negócio. O desempenho do Kev-8B em dados fora do domínio já se aproxima do Jev, o que demonstra que este caminho é perfeitamente viável.

Experimenta o Jev ou o Kev e substitui o encaminhamento da tua IA, o reconhecimento de intenções e o gateway de segurança por este tipo de motor de decisão especializado. Quando descobrires que o tempo de resposta do teu agente passou de segundos para milissegundos, perceberás que este é o verdadeiro ganho de eficiência.