IA, Confiança e os Desatendidos - Entrevista com Paula Grieco, SVP na Commonwealth

Paula Grieco é Vice-Presidente Sénior na Commonwealth.

Descubra as principais notícias e eventos do setor fintech!

Subscreva a newsletter do FinTech Weekly

Lida por executivos do JP Morgan, Coinbase, Blackrock, Klarna e mais

A IA financeira ainda tem um longo caminho a percorrer — não apenas em termos de velocidade, precisão ou até regulamentação, mas na forma como conquista confiança. Especialmente por parte daqueles que tradicionalmente não foram os primeiros a adotar novas tecnologias.

Na FinTech Weekly, temos acompanhado o trabalho da Commonwealth, uma organização sem fins lucrativos focada em construir segurança financeira para famílias de rendimentos baixos e moderados (LMI). O seu trabalho de campo, explorado na nossa recente edição, revelou uma tensão clara: enquanto os utilizadores de LMI estão abertos a ferramentas como chatbots, ainda esperam experiências que realmente os atendam — não apenas funcionalidades reembaladas feitas para terceiros.

Esta semana, aprofundámos a questão.

Conversámos com Paula Grieco, Vice-Presidente Sénior na Commonwealth, para entender o que é realmente necessário para tornar a IA eficaz — e segura — para comunidades desfavorecidas. Desde princípios de design até à confiança conquistada, de co-pilotos a fadiga de chatbots, ela explica por que a intenção importa mais do que a inovação isolada.

É uma visão fundamentada e ponderada do que a tecnologia financeira inclusiva poderia — e deveria — parecer.

Leia a entrevista completa abaixo.

2.  A colaboração recente da Commonwealth com o JPMorganChase forneceu insights-chave sobre o papel da IA na melhoria da segurança financeira para famílias de LMI. Quais foram as descobertas mais surpreendentes ou impactantes desta pesquisa?

A nossa investigação ilumina o potencial imenso da IA, especificamente dos chatbots, para fornecer orientação e apoio personalizados às comunidades com rendimentos mais baixos —  se os chatbots forem desenhados de forma cuidadosa, tendo em conta as necessidades e perspetivas deste grupo.

Duas descobertas principais:

*   Os clientes veem os chatbots como ferramentas positivas para melhorar o seu bem-estar financeiro. Os nossos dados mostraram que 57% dos inquiridos disseram que usar chatbots melhorou a sua situação financeira. A pesquisa também revelou que as pessoas com rendimentos baixos a moderados (LMI) desejam funcionalidades de construção de crédito, orçamento e gestão de dívidas.

*   Os inquiridos valorizam um espaço sem julgamento com um chatbot para fazer perguntas financeiras sensíveis, sem se preocuparem com a vergonha ou a auto-consciência que podem acompanhar essa mesma conversa face a face com um representante humano.

3.  Como vê a evolução da IA conversacional no setor de serviços financeiros, especialmente para comunidades desfavorecidas?

Idealmente, a próxima geração de chatbots alimentados por IA generativa serão assistentes financeiros de IA que apoiem melhor as atividades financeiras destas famílias, e conquistando confiança junto de populações que muitas vezes desconfiam do envolvimento com o sistema financeiro e de partilhar dados online. Existe uma grande oportunidade para os provedores de serviços financeiros oferecerem capacidades mais complexas, nuançadas e orientadas para a ação nos seus chatbots.

Quando os clientes usam atualmente chatbots financeiros, procuram principalmente informações sobre contas ou tentar resolver um problema. Menos de 20% dos respondentes na nossa pesquisa nacional usaram chatbots para aconselhamento financeiro, educação, recomendações de produtos, candidatura a crédito ou empréstimos, e abertura ou encerramento de contas. Contudo, a nossa investigação revela que há uma procura por chatbots que possam ajudar nestas ações bancárias. Focar nestas funcionalidades ao desenvolver chatbots pode aumentar o seu uso e utilidade entre estes clientes.

Para bancos e instituições financeiras que ainda não estão prontos para lançar co-pilotos de IA generativa diretamente aos consumidores, esta tecnologia pode apoiar os funcionários bancários, como representantes de atendimento ao cliente, a fornecer respostas melhores, mais precisas e mais rápidas durante as interações.

4.  Quais são alguns dos maiores desafios para garantir que as ferramentas financeiras impulsionadas por IA sejam equitativas e eficazes para famílias lideradas por negros, latinos e mulheres?

Com todas as tecnologias emergentes, é necessário um esforço intencional para garantir que as necessidades daqueles com rendimentos baixos a moderados sejam incluídas no processo de desenvolvimento e nas decisões de design. Descobrimos que uma parceria privada/filantrópica com instituições financeiras desde cedo ajuda a criar impulso para estes esforços. Ao construir uma base de evidências, também ajudamos a fundamentar o argumento de negócio.

Vimos um potencial significativo em orientações de design relacionadas com o aumento da confiança conquistada, que podem permitir que a IA conversacional apoie a saúde financeira sem aumentos de custos relevantes.

5.  Com base na sua pesquisa, quais são os princípios de design essenciais que os provedores de serviços financeiros devem considerar ao integrar IA para apoiar utilizadores de LMI?

A Commonwealth criou um recurso, o Guia de IA Financeira para o Bem, para fornecer orientações de design acionáveis aos provedores de serviços financeiros que atendem populações de LMI. Desenvolvemos estas recomendações com base em uma pesquisa abrangente com instituições financeiras, fornecedores de chatbots e pessoas que vivem com LMI.

O guia está organizado em torno de quatro objetivos principais de design. Aqui ficam alguns exemplos para cada:

2.  Conquistar confiança: A principal preocupação entre a maioria dos nossos respondentes na pesquisa ao usar um chatbot foi a segurança. Aqui, as instituições financeiras podem enfatizar a segurança dos dados através de mensagens iniciais sobre as medidas que estão a tomar, além de dar aos utilizadores controlo sobre os dados que são armazenados.
4.  Incentivar o envolvimento: Criar uma experiência em que os utilizadores saibam o que estas ferramentas podem fazer por eles e quando, através de uma clareza nas suas funções. Além disso, promover a “proatividade inteligente”. Por exemplo, integrar chatbots que aparecem quando podem ser mais úteis, sem serem demasiado insistentes ou agressivos, o que pode parecer spam.
6.  Aumentar o valor: Antecipar as necessidades do seu cliente. O acesso limitado a agências físicas cria uma oportunidade para os chatbots realizarem pequenas ações que os clientes normalmente teriam que fazer no banco. Equilibrar automação e controlo, permitindo que os utilizadores ativem ou desativem funcionalidades financeiras automatizadas, e incluir “rede de segurança” que pause a movimentação automática de dinheiro se o saldo cair abaixo de um limite definido.
8.  Melhorar acessibilidade: Oferecer suporte multilíngue e orientações ajustadas à sua base de clientes, focando em funcionalidades compatíveis com dispositivos móveis. A nossa pesquisa mostrou que mais da metade dos respondentes prefere aceder ao banco através do telemóvel.

6.  Pode partilhar histórias de sucesso ou estudos de caso onde a IA conversacional tenha melhorado significativamente o bem-estar financeiro de indivíduos de LMI?

O que sabemos é que 57% dos utilizadores no nosso estudo de campo indicaram que usar um chatbot financeiro teve um impacto positivo na sua situação financeira. Embora estes resultados iniciais sejam promissores, as ferramentas de IA generativa ainda estão na sua infância, e a nossa investigação contínua continuará a construir uma base de evidências sobre a sua eficácia na melhoria do bem-estar financeiro de indivíduos de LMI.

7.  Quais riscos ou consequências não intencionais as instituições financeiras devem ter em conta ao implementar ferramentas financeiras impulsionadas por IA?

O importante é que as pessoas com rendimentos baixos a moderados não fiquem de fora. Quando as instituições financeiras desenvolvem ferramentas, é fundamental que compreendam as oportunidades inerentes e as formas de servir a base de clientes de LMI.

Existem muitos órgãos focados especificamente nos riscos e consequências inerentes às ferramentas impulsionadas por IA, bem como nos vieses e na precisão dos grandes modelos de linguagem. Além disso, queremos garantir que uma preocupação principal seja abordada: a relevância das recomendações financeiras para as situações financeiras individuais dos utilizadores. As instituições financeiras podem aumentar o envolvimento do cliente e conquistar a sua confiança ao garantir que as informações fornecidas sejam precisas e que haja total transparência.

A IA oferece uma oportunidade sem precedentes para que pessoas com rendimentos baixos a moderados acessem aconselhamento e ferramentas que tradicionalmente não estavam disponíveis, seja em ferramentas de investimento ou gestão financeira pessoal. Estas ferramentas podem ser personalizadas e ajustadas às situações únicas de cada pessoa com LMI. Esta é uma oportunidade enorme para os provedores financeiros expandirem a sua base de clientes.

8.  Como podem as instituições financeiras medir o impacto real das ferramentas impulsionadas por IA na segurança e bem-estar financeiro dos utilizadores?

Fundamentos do bem-estar financeiro: há um aumento na poupança, uma redução na dívida, uma melhoria nas pontuações de crédito ao usar estas ferramentas?

Também podemos avaliar a experiência de interação com o chatbot — a confiança aumentou? Há maior interesse em produtos que possam ajudar a melhorar o bem-estar financeiro? Após receber aconselhamento, foram tomadas ações?

Os bancos podem também realizar testes A/B com diferentes grupos de consumidores que interagem com chatbots versus aqueles que não interagem, para verificar se há uma diferença mensurável entre eles.

9.  Qual o papel da supervisão humana na implementação de ferramentas de IA para serviços financeiros, e como podem os provedores encontrar o equilíbrio certo entre automação e suporte humano?

Uma das formas de aumentar a confiança conquistada na IA é garantir que haja um humano acessível nos momentos certos durante a interação.  Aqui, o uso de co-pilotos por funcionários de atendimento ao cliente pode ser benéfico. O acesso a um humano ao vivo, quando necessário, aumenta a confiança e a experiência com a ferramenta de IA.

Usar IA conversacional permitirá que os representantes de atendimento ao cliente atendam melhor e mais rapidamente às necessidades complexas dos seus clientes e membros, ao mesmo tempo que proporcionam o toque humano em pontos-chave da interação, quando um agente ao vivo é desejável.

A transparência também é fundamental para construir confiança em qualquer interação. Deve-se saber, por exemplo, se está a falar com um chatbot ou com uma pessoa real.

10.  Olhando para o futuro, quais são as oportunidades mais empolgantes para a IA na inclusão financeira nos próximos cinco anos?

A IA generativa representa a próxima evolução no suporte de IA conversacional, oferecendo um envolvimento personalizado e sensível ao contexto, num nível que se aproxima muito mais do suporte humano do que a estrutura de árvore de decisão da maioria dos chatbots financeiros atuais. As aplicações iniciais da IA generativa em finanças têm-se concentrado principalmente em aplicações de back-office, onde há oportunidade de apoiar agentes de atendimento ao cliente. Identificar como a IA generativa pode fornecer suporte personalizado em escala no contexto financeiro é uma oportunidade-chave para impulsionar o desenvolvimento neste setor.

A construção de confiança conquistada será particularmente crítica para uma adoção mais ampla da IA generativa, que os participantes dos nossos testes de campo e grupos de foco continuam a encarar com mais ceticismo do que os chatbots tradicionais. Ainda assim, os benefícios potenciais de oferecer um nível mais avançado de suporte em várias aplicações financeiras fazem da IA generativa a tecnologia mais empolgante a observar no setor financeiro. Quem conseguir desenvolver suporte de IA generativa confiável e seguro estará na vanguarda desta nova era de construção de relacionamento com clientes em escala.

Outras oportunidades específicas que vemos incluem co-pilotos e assistentes pessoais que possam fornecer orientação financeira abrangente, ajustada às necessidades individuais, um verdadeiro treinador financeiro pessoal. Esperamos também que avanços na IA conversacional desempenhem um papel valioso na promoção da saúde financeira dos trabalhadores, fornecendo informações e orientações para navegar por sistemas complexos de benefícios laborais.

11.  Como vê o papel de organizações sem fins lucrativos como a Commonwealth na formação do uso responsável da IA nos serviços financeiros?

Historicamente, o design de novas tecnologias focou na adoção por consumidores de rendimentos mais elevados, muitas vezes negligenciando as necessidades das famílias de LMI. Através da nossa iniciativa Emerging Tech for All (ETA), estamos focados em garantir que as necessidades de pessoas financeiramente vulneráveis sejam compreendidas, visíveis, introduzidas nas conversas relevantes e integradas em soluções. Estamos numa fase crítica de expansão da IA, e acreditamos que é urgente continuar a pesquisar e identificar formas pelas quais a IA pode impactar positivamente esta população.

Atualmente, há relativamente pouca investigação e adoção nesta área, e alguns provedores que entrevistámos citaram a necessidade de estudos em maior escala para construir o tipo de evidência que possam usar para defender este tipo de design internamente. Estamos a enfrentar este desafio produzindo investigação impactante e testes de campo práticos que demonstrem como a IA generativa pode apoiar o bem-estar financeiro de famílias de LMI e reforçar a argumentação de negócio para um design mais ativo para este segmento de consumidores.

Para o futuro, o impacto sistémico de um design inclusivo dependerá da escala de aplicação destas perceções por grandes atores nos serviços financeiros. Para nós, levar o design inclusivo à escala dependerá de aproveitar a nossa investigação para estabelecer parcerias com organizações maiores que queiram capitalizar os avanços da IA para apoiar a saúde financeira dos seus clientes e trabalhadores.

12.  Que conselho daria às instituições financeiras que desejam aproveitar a IA, mantendo a confiança e a transparência com os seus clientes?

As famílias de LMI preferem fazer operações bancárias diretamente com uma pessoa, mas têm o menor acesso a agências físicas. Esta lacuna destaca uma oportunidade-chave para a IA oferecer o tipo de suporte personalizado que as famílias de LMI procuram, sem necessidade de aumentar o número de agências ou de funcionários de apoio ao cliente.

No entanto, para promover uma adoção mais ampla, as instituições financeiras devem conquistar e reforçar a confiança nas chatbots por parte das pessoas com rendimentos baixos a moderados — parte disso é específica da experiência com o chatbot, enquanto outra parte é geral, à medida que a tecnologia de IA ganha maior aceitação e melhora em segurança e qualidade.

As principais preocupações das pessoas ao interagir com chatbots são segurança e privacidade. Em geral, as pessoas demonstram falta de confiança na IA conversacional para ser útil, proteger os seus dados ou agir no seu melhor interesse. Embora muitos no setor estejam entusiasmados com o potencial da IA, as pessoas de LMI provavelmente a veem com mais ceticismo, como uma tecnologia nova que ainda precisa de demonstrar o seu valor direto para elas.

Políticas de dados transparentes, mensagens tranquilizadoras e a manutenção da ligação a um agente humano como opção de backup ajudarão a construir e conquistar confiança. Desenvolver interações úteis e personalizadas através de IA generativa, que vão além de fornecer informações básicas como saldos de contas e transações recentes, também ajudará a demonstrar o valor da tecnologia.

Também é importante enfatizar o conceito de confiança conquistada. O objetivo não é apenas convencer as pessoas a confiar nas chatbots, mas sim desenhá-las de forma que essa confiança seja justificada.