Por que uma Estrutura Viva está no Centro de Impulsionar a Inovação em Fintech

Imran Aftab, Co-Fundador e CEO da 10Pearls.

Descubra as principais notícias e eventos de fintech!

Subscreva a newsletter do FinTech Weekly

Lida por executivos da JP Morgan, Coinbase, Blackrock, Klarna e mais

A finança tem sempre sido defensora da inovação digital, e a vaga recente de IA não constitui exceção. Enquanto indústria que enfrenta uma pressão crescente para proporcionar experiências digitais mais rápidas, mais personalizadas e mais eficientes aos clientes, incorporar tecnologia de ponta é uma exigência inegociável.

À medida que as fintechs passam de experiências com IA para a integração desta nas suas estratégias centrais, a questão não é o valor que a IA entrega, mas sim como é governada ao longo do tempo. Sem princípios orientadores claros integrados num enquadramento central, as fintechs enfrentarão rapidamente riscos do ponto de vista da reputação, da regulamentação e da segurança.

Um enquadramento vivo não só cobre todas as frentes, como o faz mantendo o ritmo com estratégias em evolução. Impulsiona, e não trava, a inovação—sem comprometer as fintechs no processo.

Encontrar um Equilíbrio entre Justiça e Precisão

A rápida digitalização dos serviços financeiros cria também mais oportunidades para fraudes potenciais e ataques de cibersegurança. No entanto, a IA sem governação muitas vezes cai em alucinações e enviesamento—o que significa que os titulares de contas podem ser sinalizados de forma errada pelos próprios sistemas concebidos para os proteger.

As fintechs têm de garantir que os sistemas de IA operam de forma consistente e cumprem padrões de desempenho. A má gestão de dados é um pilar da IA sem governação e desencadeia consequências desastrosas. Não se trata apenas de agir em tempo real, mas de fazê-lo com precisão e justiça. Quando os dados que informam estes sistemas não são geridos corretamente, a implementação está condenada a falhar.

Considere um sistema de IA alimentado com dados mal geridos e enviesados que, por engano, sinalizou uma transação legítima e de grande montante como fraude com base no código postal do titular da conta. Certas demografias são visadas com base em dados históricos imprecisos, o que apenas serve para reforçar o enviesamento contra indivíduos ou grupos. A discriminação não só prejudica a confiança e as relações, como também tem repercussões a longo prazo na reputação de uma instituição, sobretudo por quebrar diretamente as leis de proteção do consumidor. As fintechs têm uma obrigação legal de usar dados de forma justa e segura ao longo do ciclo de vida de um sistema de IA, e não são as ferramentas postas em causa quando surgem transgressões, mas as equipas que as utilizam.

As consequências vão mais além. Estes cenários criam uma pressão adicional sobre as equipas, que depois têm de intervir, desperdiçando recursos humanos e tempo preciosos. De forma crucial, também evidenciam lacunas sérias na base existente. Os dados sem governação são um ponto fraco no tecido digital de uma fintech, tornando-o vulnerável a fraudes reais e a ameaças de cibersegurança.

Um enquadramento vivo de governação contraria estes riscos porque exige monitorização contínua, testes e recalibração dos modelos de IA. Isto permite que os fornecedores financeiros maximizem continuamente a sua robustez de segurança, avaliando e atualizando os sistemas de forma regular à medida que os dados e os riscos evoluem. Ao mesmo tempo, o enviesamento é eliminado, abrindo caminho para a justiça e a precisão em todo o processo.

Garantir Explicabilidade e Transparência

As fintechs que seguem um enquadramento vivo impedem que a IA funcione como uma caixa negra, onde as equipas e os utilizadores desconhecem os seus mecanismos internos. Os titulares de contas, a equipa e os organismos reguladores precisam de garantias sob a forma de explicabilidade e transparência relativamente a qualquer tecnologia integrada.

Eliminar o enviesamento exige compreender como e por que razão uma ferramenta de IA chegou a uma decisão. Sistemas de IA são agora usados em processos como a avaliação de crédito, mas, infelizmente, não são imunes ao enviesamento. As implicações são graves: discriminação, em particular contra grupos minoritários, que são desproporcionalmente impedidos de obter empréstimos devido a IA falha. Regulamentações como as do CFPB e as leis de Fair Lending exigem explicabilidade e rastreabilidade das ferramentas de IA utilizadas em serviços financeiros. Também exigem que o enviesamento seja removido do cálculo.

Num modelo vivo de governação, a explicabilidade e a rastreabilidade estão integradas em cada caso de uso e fluxo de trabalho:

*   As origens e destinos dos dados são registados de forma clara. 
*   Todas as alterações ao modelo, testes e observações são documentados.
*   A lógica de decisão é comunicada para que reguladores e clientes, e não apenas operadores, compreendam como e por que razão um sistema de IA chegou a uma recomendação ou a uma ação.

Garantir Conformidade com AML

As instituições financeiras estão a recorrer à automatização e à IA para monitorizar transações e atividades suspeitas como parte dos sistemas de luta contra o branqueamento de capitais. No entanto, quando a IA não é devidamente supervisionada ou gerida, surgem dois problemas:

*   Falsos positivos: Transações legítimas são sinalizadas indevidamente, levando a clientes frustrados e ao desperdício de recursos humanos preciosos.
*   Falsos negativos: Ameaças reais são ignoradas, colocando em risco conjuntos de dados inteiros e sistemas digitais, pondo a reputação da organização em jogo e destruindo a confiança.

Com uma abordagem de governação como “guardrails”, estes riscos são minimizados através de dados bem geridos, transparentes e auditáveis. Alertas claros também são integrados com informações imediatas e acionáveis para garantir uma intervenção rápida quando necessário.

À medida que as soluções de IA continuam a evoluir, os enquadramentos vivos, adaptáveis, tornam-se cada vez mais necessários. Estes não só protegem instituições e indivíduos, em conjunto, contra riscos potenciais da participação da IA, como também proporcionam às fintechs uma vantagem competitiva significativa. Estes enquadramentos dotam-nas dos meios para reforçar a confiança e melhorar a sua reputação, oferecendo governação responsável, justiça e transparência, e garantindo fiabilidade e desempenho.