IA, Confiança e os Desatendidos - Entrevista com Paula Grieco, SVP na Commonwealth

Paula Grieco é Vice-Presidente Sénior na Commonwealth.

Descubra as principais notícias e eventos de fintech!

Subscreva a newsletter do FinTech Weekly

Lida por executivos da JP Morgan, Coinbase, Blackrock, Klarna e mais

A Inteligência Artificial (IA) financeira ainda tem um longo caminho a percorrer — não apenas em termos de velocidade, precisão ou até mesmo de regulação, mas também na forma como conquista confiança. Especialmente junto de pessoas que, de forma tradicional, não são as primeiras na fila quando surge uma nova tecnologia.

No FinTech Weekly, temos acompanhado o trabalho da Commonwealth, uma organização sem fins lucrativos focada em construir segurança financeira para famílias de baixos e rendimentos moderados (LMI). O trabalho de campo, analisado no nosso recente editorial, revelou uma tensão clara: embora os utilizadores LMI estejam abertos a ferramentas como chatbots, continuam à espera de experiências que os sirvam de verdade — não apenas de funcionalidades reembaladas construídas para outra pessoa.

Esta semana, aprofundámos.

Conversámos com Paula Grieco, Vice-Presidente Sénior na Commonwealth, para perceber o que é realmente necessário para que a IA seja eficaz — e segura — para comunidades subatendidas. Dos princípios de conceção à confiança conquistada, dos copilots à fadiga dos chatbots, ela explica por que razão a intenção importa mais do que a inovação por si só.

É uma perspetiva sólida e ponderada sobre como a tecnologia financeira inclusiva poderia — e deveria — parecer.

Leia a entrevista completa abaixo.

2.  A colaboração recente da Commonwealth com a JPMorganChase forneceu informações-chave sobre o papel da IA na melhoria da segurança financeira das famílias LMI. Quais foram as conclusões mais surpreendentes ou impactantes desta investigação?

A nossa investigação ilumina o enorme potencial da IA, especificamente dos chatbots, para oferecer orientação e apoio personalizados às comunidades que vivem com menores rendimentos —  desde que os chatbots sejam concebidos de forma cuidadosa, tendo em conta as necessidades e perspetivas deste grupo.

Duas conclusões principais:

*   Os clientes encaram, em grande medida, os chatbots como ferramentas positivas para melhorar o seu bem-estar financeiro. Os nossos dados mostraram que 57% dos inquiridos afirmou que a utilização de chatbots melhorou a sua situação financeira. A investigação também mostrou que as pessoas com rendimentos baixos a moderados (LMI) querem funcionalidades de construção de crédito, gestão de orçamento e gestão de dívida.

*   Os inquiridos valorizaram o espaço sem julgamentos com um chatbot para colocarem questões financeiras sensíveis, sem terem de se preocupar com a vergonha ou com a autoconsciência que poderiam acompanhar essa mesma conversa, caso acontecesse face a face com um representante humano.

3.  Como vê a evolução da IA conversacional no setor dos serviços financeiros, em particular para comunidades subatendidas?

Idealmente, a próxima geração de chatbots alimentados por IA generativa será de assistentes financeiros de IA que apoiem melhor as atividades financeiras destes agregados familiares e conquistem confiança junto de populações que, muitas vezes, desconfiam do envolvimento com o sistema financeiro e do partilhar dados online. Existe uma grande oportunidade para os prestadores de serviços financeiros oferecerem capacidades mais complexas, mais nuances e orientadas para a ação nos seus chatbots.

Quando os clientes usam chatbots financeiros atualmente, procuram sobretudo informação sobre contas ou tentam resolver um problema. Menos de 20% dos inquiridos do nosso inquérito nacional tinham usado chatbots para aconselhamento e educação financeira, recomendações de produtos, candidatura a crédito ou empréstimos, e abertura ou fecho de contas. Contudo, a nossa investigação identifica uma procura por chatbots que consigam ajudar nestes tipos de ações bancárias. Ao focar este tipo de funcionalidades no desenvolvimento de chatbots, poderá aumentar-se a sua utilização e utilidade entre estes clientes.

Para bancos e instituições financeiras que ainda não estão prontos para lançar copilots financeiros de IA generativa diretamente aos consumidores, esta tecnologia pode apoiar os colaboradores do banco, como representantes de clientes, para fornecerem respostas melhores, mais precisas e mais atempadas aos clientes durante as interações.

4.  Quais são alguns dos maiores desafios em garantir que as ferramentas financeiras baseadas em IA são equitativas e eficazes para agregados familiares liderados por pessoas negras, latinas (Latinx) e mulheres?

Com todas as tecnologias emergentes, é necessária uma abordagem intencional para garantir que as necessidades das pessoas que auferem baixos a rendimentos moderados estão incluídas no processo de desenvolvimento e nas decisões de conceção. Constatámos que uma parceria privada/filantrópica com instituições financeiras no início ajuda a criar impulso para estes esforços. Ao crescer uma base de evidências, ajudamos também a construir o argumento de negócio.

Vimos um potencial significativo para orientação de conceção em aspetos como o aumento da confiança conquistada, que pode permitir que a IA conversacional apoie a saúde financeira sem grandes aumentos de custos.

5.  Com base na sua investigação, quais são os principais princípios de conceção que os prestadores de serviços financeiros devem considerar ao integrar IA para apoiar utilizadores LMI?

A Commonwealth criou um recurso, o Financial AI for Good Guide, para disponibilizar orientação de conceção acionável a prestadores de serviços financeiros que servem populações LMI. Desenvolvemos estas recomendações com base em investigação abrangente com instituições financeiras, fornecedores de chatbots e pessoas que vivem em contextos LMI.

O guia está organizado em torno de quatro objetivos principais de conceção. Vou dar-lhe um ou dois exemplos de cada:

2.  Conquistar confiança: A principal preocupação da maioria dos inquiridos da nossa investigação ao usar um chatbot era a segurança. É aqui que as instituições financeiras podem enfatizar a segurança dos dados através de mensagens iniciais sobre as medidas que o banco está a tomar e, além disso, dar aos utilizadores controlo sobre quais os dados que são armazenados.
4.  Promover o envolvimento: Crie uma experiência em que os utilizadores saibam o que estas ferramentas conseguem fazer por eles e quando, criando clareza sobre as suas funções. E também procure por “proatividade inteligente”. Por exemplo, integre chatbots que surjam quando podem ser mais úteis, sem serem demasiado insistentes ou agressivos, o que pode soar a spam.
6.  Aumentar o valor: Antecipe as necessidades do seu cliente. A limitada disponibilidade de agências físicas cria uma oportunidade para os chatbots executarem pequenas ações que os clientes poderiam ter de fazer no banco. Equilibre a automação e o controlo permitindo que os utilizadores liguem e desliguem as funcionalidades automatizadas de finanças, e inclua funcionalidades de “rede de segurança” que pausam a movimentação automatizada de dinheiro se o saldo cair abaixo de um determinado limite.
8.  Melhorar a acessibilidade: Ofereça apoio multilingue e orientação adaptada ao seu público-alvo, com foco em funcionalidades adaptadas ao telemóvel. A nossa investigação mostrou que mais de metade de todos os inquiridos preferiu aceder ao seu banco através dos seus telemóveis.

6.  Pode partilhar histórias de sucesso ou estudos de caso em que a IA conversacional tenha melhorado significativamente o bem-estar financeiro de pessoas LMI?

O que sabemos é que 57% dos utilizadores no nosso estudo de testes de campo indicaram que a utilização de um chatbot financeiro teve um impacto positivo na sua situação financeira. Embora estes resultados iniciais sejam promissores, as ferramentas de IA generativa ainda estão na fase inicial, e a nossa investigação em curso continuará a construir uma base de evidências sobre a sua eficácia em melhorar o bem-estar financeiro de pessoas LMI.

7.  Que riscos ou consequências não intencionais é importante que as instituições financeiras tenham em mente ao implementar ferramentas financeiras baseadas em IA?

O que é importante é que as pessoas com rendimentos LMI não fiquem de fora da equação. Quando as instituições financeiras estão a desenvolver ferramentas, é importante que compreendam as oportunidades inerentes e as formas de servir a base de clientes LMI.

Existem muitas entidades focadas especificamente nos riscos inerentes e nas consequências de ferramentas baseadas em IA, e no enviesamento e na precisão dos grandes modelos de linguagem. Para além disso, queremos garantir que uma preocupação central é abordada: a relevância das recomendações financeiras para as situações financeiras individuais dos utilizadores. As instituições financeiras podem aumentar o envolvimento dos clientes e conquistar a confiança dos seus clientes assegurando que a informação que disponibilizam é correta e que existe uma transparência real.

A IA apresenta uma oportunidade sem precedentes para as pessoas que auferem rendimentos LMI acederem a aconselhamento e ferramentas que, tradicionalmente, não lhes estavam disponíveis, seja para investir ou para gerir finanças pessoais. Estas ferramentas podem ser personalizadas e adaptadas para pessoas com rendimentos LMI e para as suas situações específicas. Esta é uma oportunidade enorme para os prestadores financeiros expandirem a sua base de clientes.

8.  Como podem as instituições financeiras medir o impacto real das ferramentas baseadas em IA na segurança financeira e no bem-estar dos utilizadores?

Os fundamentos do bem-estar financeiro:  Há um aumento nas poupanças, uma redução na dívida, uma melhoria nas pontuações de crédito quando se utilizam estas ferramentas?

Também podemos inquirir sobre a experiência de interagir com o chatbot — a confiança aumentou? Há um maior interesse em produtos que seriam úteis para melhorar o bem-estar financeiro? Quando se trata de aconselhar, houve ações tomadas após receber aconselhamento?

Os bancos também podem fazer testes A/B entre diferentes grupos de consumidores que interagem com chatbots e aqueles que não interagem, para verificar se existe uma diferença mensurável entre ambos.

9.  Que papel a supervisão humana desempenha na implementação de ferramentas de IA para serviços financeiros, e como é que os prestadores podem encontrar o equilíbrio certo entre automação e apoio humano?

Uma das formas de aumentar a confiança conquistada em torno da IA é garantir que existe um humano acessível nos momentos certos, durante a interação.  É aqui que o uso de copilots por colaboradores bancários que estão em contacto com clientes pode ser benéfico. O acesso a um humano em tempo real, quando é necessário, aumenta a confiança e a experiência com a ferramenta de IA.

Ao usar IA conversacional, os representantes do serviço ao cliente conseguem responder melhor e de forma mais rápida às necessidades complexas dos seus clientes e membros, ao mesmo tempo que fornecem o toque humano nos pontos-chave da interação quando um agente em direto é desejável.

A transparência é também crítica para construir confiança em qualquer interação. Deve saber, por exemplo, se está a falar com um chatbot ou com uma pessoa real.

10.  Olhando para o futuro, quais são as oportunidades mais empolgantes para a IA na inclusão financeira nos próximos cinco anos?

A IA generativa representa a próxima evolução no apoio à IA conversacional, oferecendo envolvimento personalizado e sensível ao contexto a um nível que se aproxima muito mais do apoio humano do que a estrutura em árvore de decisão da maioria dos chatbots financeiros atuais. As aplicações iniciais de IA generativa na área financeira têm-se focado sobretudo em aplicações de back-office, onde existe oportunidade para apoiar agentes de apoio ao cliente. Identificar como a IA generativa pode fornecer apoio personalizado em escala, num contexto financeiro, é uma oportunidade-chave para impulsionar o desenvolvimento neste setor.

A confiança conquistada para a adoção será particularmente crítica para a adoção mais ampla da IA generativa, da qual os participantes nos nossos testes de campo e grupos de foco permanecem mais céticos do que em relação a chatbots tradicionais. Ainda assim, os potenciais benefícios de fornecer um nível de apoio mais avançado em aplicações de serviços financeiros tornam a IA generativa a tecnologia mais empolgante a acompanhar no setor financeiro. Aqueles que conseguirem desenvolver apoio de IA generativa fiável e com confiança estarão na linha da frente desta nova era de construção de relações com clientes em escala.

Algumas outras oportunidades específicas que vemos são copilots e assistentes pessoais que podem fornecer orientação financeira abrangente adaptada às necessidades individuais — um coach financeiro pessoal, por assim dizer. Também esperamos avanços na IA conversacional para desempenharem um papel valioso na promoção da saúde financeira dos trabalhadores, ao disponibilizarem informação e orientação para navegar sistemas complexos de benefícios para trabalhadores.

11.  Como vê o papel de organizações sem fins lucrativos como a Commonwealth a evoluir na definição do uso responsável de IA nos serviços financeiros?

Historicamente, o desenho de novas tecnologias tem-se focado na adoção por consumidores de rendimentos mais altos, enquanto se negligenciavam as necessidades dos agregados familiares LMI. Através da nossa iniciativa Emerging Tech for All (ETA), estamos focados em garantir que as necessidades das pessoas financeiramente vulneráveis são compreendidas, visíveis, introduzidas em conversas relevantes e integradas em soluções. Estamos num momento crítico de mudança de escala para a IA, e acreditamos que é urgente continuar a pesquisar e a identificar as formas como a IA pode impactar positivamente esta população.

Existe relativamente pouca investigação e adoção no terreno sobre este tema atualmente, e alguns prestadores que entrevistámos apontaram para a necessidade de estudos em maior escala para criar o tipo de evidência que poderiam usar para defender internamente este tipo de conceção. Estamos a responder a este desafio produzindo investigação com impacto e testes de campo no terreno que demonstram como a IA generativa pode apoiar o bem-estar financeiro de agregados familiares que vivem em condições LMI e que sustentam o argumento de negócio para desenhar de forma mais ativa para este segmento de consumidores subatendidos.

No futuro, o impacto sistémico do desenho de tecnologia inclusiva dependerá da aplicação em escala destes conhecimentos por parte de grandes intervenientes nos serviços financeiros. Para nós, levar o desenho inclusivo à escala dependerá de aproveitar a nossa investigação para estabelecer parcerias com organizações maiores que procuram capitalizar os avanços em IA para apoiar a saúde financeira dos seus clientes e trabalhadores.

12.  Que conselho daria a instituições financeiras que procuram aproveitar a IA, mantendo confiança e transparência com os seus clientes?

Os agregados familiares LMI estão mais interessados em fazer banca diretamente com uma pessoa, mas têm o menor acesso a agências presenciais. Esta lacuna destaca uma oportunidade-chave para a IA fornecer o tipo de apoio personalizado que os agregados familiares a viver com rendimentos LMI procuram, sem necessidade de aumentar o número de agências ou o quadro de apoio ao cliente.

No entanto, para promover uma adoção mais ampla, as instituições financeiras têm de conquistar e construir mais confiança nos chatbots por parte de pessoas com rendimentos LMI — parte disso é específica para a experiência do chatbot, enquanto outra parte é transversal à indústria, à medida que a tecnologia de IA ganha mais aceitação e melhora em segurança e qualidade globais.

As principais preocupações das pessoas ao interagir com chatbots são a segurança e a privacidade.  De forma geral, as pessoas têm manifestado falta de confiança na IA conversacional para ser útil, para proteger os seus dados ou para agir de acordo com os seus melhores interesses. Embora muitos no mundo empresarial estejam entusiasmados com o potencial da IA, as pessoas que vivem com rendimentos LMI provavelmente encaram-na com mais ceticismo como uma nova tecnologia que ainda não demonstrou diretamente o seu valor para elas.

Políticas de dados transparentes, uma marca e comunicação tranquilizadoras, e manter a ligação a um agente humano como opção de reserva ajudarão tudo para construir e conquistar confiança. Desenvolver interações úteis e personalizadas através de IA generativa que avancem além de fornecer a informação básica disponibilizada pelos chatbots atualmente, como saldos de conta e transações recentes, também ajudará a demonstrar o valor da tecnologia.

Também é importante enfatizar o conceito de confiança conquistada. O objetivo não é apenas convencer as pessoas a confiar em chatbots, mas sim conceber chatbots de tal forma que essa confiança seja efetivamente justificada.