A Camada de Julgamento: Por que a IA não é inteligente até que os líderes sejam mais inteligentes

Guillermo Delgado Aparicio é Líder Global de IA na Nisum.

Descubra as principais notícias e eventos de fintech!

Inscreva-se na newsletter da FinTech Weekly

Lida por executivos do JP Morgan, Coinbase, Blackrock, Klarna e mais

A IA em fintech abrange uma gama de casos de uso, desde detecção de fraudes e negociação algorítmica até pontuação de crédito dinâmica e recomendações personalizadas de produtos. No entanto, um relatório da Autoridade de Conduta Financeira (FCA) descobriu que, dos 75% das empresas que usam IA, apenas 34% sabem como ela funciona.

O problema não é apenas a falta de conscientização. É um profundo mal-entendido sobre o poder e o escopo da análise de dados, a disciplina da qual a IA surge. A adoção em massa de ferramentas de IA generativa trouxe o tema para a alta diretoria. Mas muitos dos que escolhem como implementar a IA não entendem seus princípios subjacentes de cálculo, estatística e algoritmos avançados.

Veja a Lei de Benford, um princípio estatístico simples que sinaliza fraudes ao identificar padrões em números. A IA se baseia no mesmo tipo de matemática, só que em escala para milhões de transações de uma só vez. Tire o hype, e a base ainda são estatísticas e algoritmos.

É por isso que a alfabetização em IA no nível de diretoria é importante. Líderes que não conseguem distinguir onde a análise de dados termina correm o risco de confiar demais em sistemas que não entendem ou de subutilizá-los por medo. E a história mostra o que acontece quando tomadores de decisão interpretam mal a tecnologia: reguladores já tentaram proibir chamadas IP internacionais, apenas para ver a tecnologia superar as regras. A mesma dinâmica está ocorrendo com a IA. Você não pode bloquear ou adotar cegamente; precisa de julgamento, contexto e capacidade de direcioná-la de forma responsável.

Os líderes de fintech precisam fechar essas lacunas para usar a IA de forma responsável e eficaz. Isso significa entender onde a análise de dados termina e a IA começa, desenvolver as habilidades para direcionar esses sistemas e aplicar um julgamento sólido para decidir quando e como confiar em seus resultados.

Os Limites, Pontos Cegos e Ilusões da IA

A análise de dados examina dados passados e presentes para explicar o que aconteceu e por quê. A IA cresce a partir dessa base, usando análise avançada para prever o que acontecerá a seguir e, cada vez mais, para decidir ou agir automaticamente.

Com suas excepcionais habilidades de processamento de dados, é fácil ver por que os líderes de fintech veriam a IA como sua bala de prata. Mas ela não pode resolver todos os problemas. Os humanos ainda têm uma vantagem inata no reconhecimento de padrões, especialmente quando os dados estão incompletos ou "sujos". A IA pode ter dificuldade em interpretar as nuances contextuais que os humanos captam rapidamente.

No entanto, é um erro pensar que dados imperfeitos tornam a IA inútil. Modelos analíticos podem trabalhar com dados incompletos. Mas saber quando implantar a IA e quando confiar no julgamento humano para preencher as lacunas é o verdadeiro desafio. Sem essa supervisão cuidadosa, a IA pode introduzir riscos significativos.

Um desses problemas é o viés. Quando as fintechs treinam IA em conjuntos de dados antigos, muitas vezes herdam a bagagem que vem com eles. Por exemplo, o prenome de um cliente pode, sem intenção, servir como proxy para gênero, ou o sobrenome pode sugerir pistas sobre etnia, inclinando as pontuações de crédito de maneiras que nenhum regulador aprovaria. Esses vieses, facilmente escondidos na matemática, muitas vezes exigem supervisão humana para serem detectados e corrigidos.

Quando os modelos de IA são expostos a situações para as quais não foram treinados, isso pode causar deriva do modelo. Volatilidade do mercado, mudanças regulatórias, comportamentos em evolução dos clientes e mudanças macroeconômicas podem impactar a eficácia de um modelo sem monitoramento e recalibração humanos.

A dificuldade de recalibrar algoritmos aumenta drasticamente quando as fintechs usam caixas-pretas que não permitem visibilidade da relação entre as variáveis. Nessas condições, elas perdem a possibilidade de transferir esse conhecimento para os tomadores de decisão na gestão. Além disso, erros e vieses permanecem ocultos em modelos opacos, minando a confiança e a conformidade.

O que os Líderes de Fintech Precisam Saber

Uma pesquisa da Deloitte descobriu que 80% afirmam que seus conselhos têm pouca ou nenhuma experiência com IA. Mas os executivos do C-level não podem se dar ao luxo de tratar a IA como um "problema da equipe de tecnologia". A responsabilidade pela IA está com a liderança, o que significa que os líderes de fintech precisam se requalificar.

Fluência Analítica Cruzada

Antes de implantar a IA, os líderes de fintech precisam ser capazes de alternar o foco — olhando para os números, o caso de negócios, as operações e a ética — e ver como esses fatores se sobrepõem e moldam os resultados da IA. Eles precisam entender como a precisão estatística de um modelo se relaciona com a exposição ao risco de crédito. E reconhecer quando uma variável que parece financeiramente sólida (como histórico de pagamento) pode introduzir risco social ou regulatório por meio da correlação com uma classe protegida, como idade ou etnia.

Essa fluência em IA vem de sentar com oficiais de compliance para desempacotar regulamentações, conversar com gerentes de produto sobre a experiência do usuário e revisar os resultados do modelo com cientistas de dados para detectar sinais de deriva ou viés.

Em fintech, evitar 100% do risco é impossível, mas com fluência analítica cruzada, os líderes podem identificar quais riscos vale a pena correr e quais corroerão o valor para o acionista. Essa habilidade também aguça a capacidade do líder de detectar e agir sobre vieses, não apenas do ponto de vista de compliance, mas também estratégico e ético.

Por exemplo, digamos que um modelo de pontuação de crédito baseado em IA penda fortemente para um grupo de clientes. Corrigir esse desequilíbrio não é apenas uma tarefa de ciência de dados; protege a reputação da empresa. Para fintechs comprometidas com a inclusão financeira ou sujeitas a escrutínio ESG, a conformidade legal por si só não é suficiente. Julgamento significa saber o que é certo, não apenas o que é permitido.

Alfabetização em Explicabilidade

A explicabilidade é a base da confiança. Sem ela, tomadores de decisão, clientes e reguladores ficam questionando por que um modelo chegou a uma conclusão específica.

Isso significa que os executivos devem ser capazes de distinguir entre modelos que são interpretáveis e aqueles que precisam de explicações post-hoc (como valores SHAP ou LIME). Eles precisam fazer perguntas quando a lógica de um modelo não está clara e reconhecer quando apenas a "precisão" não pode justificar uma decisão de caixa-preta.

O viés não aparece do nada; ele emerge quando os modelos são treinados e implantados sem supervisão suficiente. A explicabilidade dá aos líderes a visibilidade para detectar esses problemas precocemente e agir antes que causem danos.

A IA é como o piloto automático de um avião. Na maioria das vezes, funciona sem problemas, mas quando uma tempestade chega, o piloto tem que assumir os controles. Em finanças, o mesmo princípio se aplica. As equipes precisam da capacidade de parar negociações, ajustar uma estratégia ou até mesmo cancelar o lançamento de um produto quando as condições mudam. A explicabilidade funciona em conjunto com a prontidão para anulação, o que garante que os líderes do C-level entendam a IA e permaneçam no controle, mesmo quando ela está operando em escala.

Pensamento de Modelo Probabilístico

Os executivos estão acostumados a decisões determinísticas, como se uma pontuação de crédito estiver abaixo de 650, recuse o pedido. Mas a IA não funciona assim, e esta é uma grande mudança de paradigma mental.

Para os líderes, o pensamento probabilístico requer três capacidades:

• Interpretar faixas de risco em vez de resultados binários sim/não.
• Ponderar o nível de confiança de uma previsão em relação a outras considerações comerciais ou regulatórias.
• Saber quando anular a automação e aplicar o discernimento humano.

Por exemplo, um modelo probabilístico de IA de uma fintech pode sinalizar um cliente como de alto risco, mas isso não significa necessariamente "negar". Pode significar "investigar mais" ou "ajustar os termos do empréstimo". Sem essa nuance, a automação corre o risco de se tornar um instrumento contundente, erodindo a confiança do cliente enquanto expõe as empresas a retaliações regulatórias.

Por que a Camada de Julgamento Definirá os Vencedores em Fintech

O futuro das fintechs não será decidido por quem tem os modelos de IA mais poderosos; mas sim por quem os usa com o julgamento mais apurado. À medida que a IA se torna uma commodity, os ganhos de eficiência se tornam requisitos básicos. O que diferencia os vencedores é a capacidade de intervir quando os algoritmos encontram incerteza, risco e zonas cinzentas éticas.

A camada de julgamento não é uma ideia abstrata. Ela se manifesta quando executivos decidem pausar negociações automatizadas, adiar o lançamento de um produto ou anular uma pontuação de risco que não reflete o contexto do mundo real. Esses momentos não são falhas da IA; são a prova de que a supervisão humana é a linha final de criação de valor.

O alinhamento estratégico é onde o julgamento se torna institucionalizado. Uma estratégia de IA forte não apenas estabelece roteiros técnicos; ela garante que a organização revise as iniciativas, atualize as capacidades de IA das equipes, assegure que a empresa tenha a arquitetura de dados necessária e vincule cada implantação a um resultado de negócio claro. Nesse sentido, o julgamento não é episódico, mas incorporado ao modo de operação e permite que os executivos conduzam uma abordagem de liderança baseada em valor.

As fintechs precisam de líderes que saibam equilibrar a IA para velocidade e escala, e os humanos para contexto, nuance e visão de longo prazo. A IA pode detectar anomalias em segundos, mas apenas as pessoas podem decidir quando contestar a matemática, repensar suposições ou assumir um risco ousado que abre portas para o crescimento. Essa camada de julgamento é o que transforma a IA de ferramenta em vantagem.

Sobre o autor:

Guillermo Delgado é o Líder Global de IA da Nisum e COO da Deep Space Biology. Com mais de 25 anos de experiência em bioquímica, inteligência artificial, biologia espacial e empreendedorismo, ele desenvolve soluções inovadoras para o bem-estar humano na Terra e no espaço.

Como consultor de estratégia corporativa, contribuiu para a visão de IA da NASA para a biologia espacial e recebeu prêmios de inovação. Ele possui um Mestrado em Ciências em Inteligência Artificial pela Georgia Tech, obtido com honras. Além disso, como professor universitário, lecionou cursos sobre aprendizado de máquina, big data e ciência genômica.