Por que uma Estrutura Viva está no Centro de Impulsionar a Inovação em Fintech

Imran Aftab, Co-Fundador e CEO da 10Pearls.

Descubra as principais notícias e eventos de fintech!

Subscreva a newsletter da FinTech Weekly

Lida por executivos da JP Morgan, Coinbase, Blackrock, Klarna e mais

A finança tem sido sempre uma defensora da inovação digital, e a vaga recente de IA prova que não há exceção. Como uma indústria sob pressão crescente para fornecer experiências digitais mais rápidas, mais personalizadas e mais eficientes aos clientes, a integração de tecnologia de ponta é inegociável.

À medida que as fintechs passam de experiências com IA para a incorporação desta nas suas estratégias centrais, a questão não é o valor que a IA entrega, mas sim como é governada ao longo do tempo. Sem princípios orientadores claros incorporados numa estrutura central, as fintechs irão rapidamente deparar-se com riscos do ponto de vista da reputação, da regulamentação e da segurança.

Uma estrutura viva não só cobre todas as bases, como o faz mantendo o ritmo das estratégias em evolução. Impulsiona, não trava, a inovação—sem comprometer as fintechs no processo.

Encontrar um Equilíbrio Entre Justiça e Precisão

A rápida digitalização dos serviços financeiros cria também mais oportunidades para fraudes potenciais e ataques de cibersegurança. No entanto, a IA sem governação é muitas vezes vítima de alucinações e de enviesamento—o que significa que os titulares de conta podem ser assinalados de forma errada pelos próprios sistemas concebidos para os proteger.

As fintechs devem garantir que os sistemas de IA operam de forma consistente e atingem padrões de desempenho. A má gestão de dados é um pilar da IA sem governação e desagua em consequências desastrosas. Não se trata apenas de agir em tempo real, mas de o fazer com precisão e justiça. Quando os dados que informam estes sistemas não são geridos corretamente, a implementação está condenada ao fracasso.

Considere um sistema de IA alimentado por dados mal geridos e enviesados que, por engano, assinalou uma transação legítima e de grande valor como fraude com base no código postal do titular da conta. Certos segmentos demográficos são destacados com base em dados históricos imprecisos, o que apenas serve para reforçar o enviesamento contra indivíduos ou grupos. A discriminação não só danifica a confiança e as relações, como tem repercussões a longo prazo na reputação de uma instituição, especialmente quando viola diretamente as leis de proteção do consumidor. As fintechs têm uma obrigação legal de utilizar os dados de forma justa e segura ao longo do ciclo de vida de um sistema de IA, e não são as ferramentas em causa quando surgem transgressões, mas sim as equipas que as utilizam.

As consequências agravam-se para além disso. Estes cenários criam uma pressão adicional sobre as equipas, que depois têm de intervir, desperdiçando recursos humanos e tempo precioso. O mais importante é que também assinalam lacunas sérias na base existente. Dados sem gestão são um ponto fraco no tecido digital de uma fintech, tornando-o vulnerável a fraudes reais e a ameaças de cibersegurança.

Uma estrutura de governação viva contraria estes riscos porque exige monitorização contínua, testes e recalibração dos modelos de IA. Isto permite aos prestadores financeiros maximizar, de forma constante, a robustez da sua segurança, avaliando e atualizando regularmente os sistemas à medida que os dados e os riscos evoluem. Ao mesmo tempo, o enviesamento é eliminado, abrindo caminho para justiça e precisão em todo o processo.

Garantir Explicabilidade e Transparência

As fintechs que seguem uma estrutura viva impedem que a IA funcione como uma caixa negra, em que os seus mecanismos internos são um mistério tanto para as equipas como para os utilizadores. Os titulares de conta, o pessoal e os organismos reguladores precisam de segurança sob a forma de explicabilidade e transparência relativamente a qualquer tecnologia integrada.

Eliminar o enviesamento exige compreender como e porquê uma ferramenta de IA chegou a uma decisão. Os sistemas de IA são agora utilizados em processos como a atribuição de pontuações de crédito, mas, infelizmente, não estão imunes ao enviesamento. As implicações disso são graves: discriminação, em particular contra grupos minoritários que são desproporcionalmente recusados a empréstimos devido a uma IA falha. Regulamentos como os da CFPB e as leis de Fair Lending exigem explicabilidade e rastreabilidade das ferramentas de IA usadas nos serviços financeiros. Também exigem que o enviesamento seja removido da equação.

Num modelo de governação vivo, a explicabilidade e a rastreabilidade ficam incorporadas em todos os casos de uso e fluxos de trabalho:

*   As fontes e destinos dos dados são registados de forma clara. 
*   Todas as alterações ao modelo, testes e observações são registados.
*   A lógica de decisão é comunicada para que reguladores e clientes, e não apenas operadores, compreendam como e porquê um sistema de IA chegou a uma recomendação ou ação.

Garantir Conformidade com AML

As instituições financeiras estão a recorrer à automatização e à IA para monitorizar transações e atividades suspeitas como parte dos sistemas de combate à lavagem de dinheiro. No entanto, quando a IA não é devidamente supervisionada ou gerida, surgem dois problemas:

*   Falsos positivos: transações legítimas são assinaladas de forma errada, levando a clientes frustrados e a desperdício de recursos humanos valiosos.
*   Falsos negativos: ameaças reais são ignoradas, colocando em risco conjuntos de dados inteiros e sistemas digitais, expondo a organização à sua reputação e destruindo a confiança.

Com uma abordagem de governação como “guarda-corpos”, estes riscos são minimizados através de dados bem geridos, transparentes e auditáveis. Alertas claros também são integrados com informações imediatas e acionáveis para garantir uma intervenção rápida quando for necessário.

À medida que as soluções de IA continuam a evoluir, torna-se cada vez mais necessária a existência de estruturas vivas e adaptáveis. Estas não só protegem instituições e indivíduos, ambos, de potenciais riscos da participação da IA, como também oferecem às fintechs uma vantagem competitiva significativa. Estas estruturas fornecem-lhes os meios para aumentar a confiança e reforçar a sua reputação ao oferecer uma governação responsável, justiça e transparência, e ao garantir fiabilidade e desempenho.