IA, Confiança e os Desatendidos - Entrevista com Paula Grieco, SVP na Commonwealth

Paula Grieco é Vice-Presidente Sénior na Commonwealth.

Descubra as principais notícias e eventos de fintech!

Subscreva a newsletter do FinTech Weekly

Lida por executivos da JP Morgan, Coinbase, Blackrock, Klarna e mais

A IA financeira tem um longo caminho pela frente — não apenas em termos de velocidade, precisão ou até regulação, mas na forma como gera confiança. Sobretudo por parte daqueles que, tradicionalmente, não têm sido os primeiros da fila quando surge uma nova tecnologia.

No FinTech Weekly, vimos o trabalho de Commonwealth, uma organização sem fins lucrativos dedicada à construção de segurança financeira para famílias de baixos e médios rendimentos (LMI). O trabalho de campo, explorado no nosso recente editorial, revelou uma tensão clara: enquanto utilizadores de LMI estão abertos a ferramentas como chatbots, continuam à espera de experiências que os sirvam de verdade — não apenas de funcionalidades reembaladas construídas para outra pessoa.

Esta semana fomos mais fundo.

Conversámos com Paula Grieco, Vice-Presidente Sénior na Commonwealth, para compreender o que é realmente necessário para tornar a IA eficaz — e segura — para comunidades subatendidas. Dos princípios de conceção à confiança conquistada, dos co-pilotos ao cansaço com chatbots, ela explica por que a intenção importa mais do que a inovação por si só.

É uma visão assente na realidade e ponderada do que a tecnologia financeira inclusiva poderia — e deveria — parecer.

Leia a entrevista completa abaixo.

2.  A colaboração recente da Commonwealth com JPMorganChase forneceu informações-chave sobre o papel da IA na melhoria da segurança financeira das famílias LMI. Quais foram as conclusões mais surpreendentes ou impactantes dessa investigação?

A nossa investigação revela o imenso potencial da IA, em particular dos chatbots, para fornecer orientação e apoio personalizados a comunidades que vivem com rendimentos mais baixos —  desde que os chatbots sejam concebidos com cuidado, tendo em conta as necessidades e perspetivas deste grupo.

Duas conclusões principais:

*   Os clientes tendem a ver os chatbots como ferramentas positivas para melhorar o seu bem-estar financeiro. Os nossos dados mostraram que 57% dos inquiridos afirmaram que a utilização de chatbots melhorou a sua situação financeira. A investigação também mostrou que as pessoas com rendimentos baixos a médios (LMI) procuram funcionalidades de criação de crédito, orçamentação e gestão de dívidas.

*   Os inquiridos valorizaram o espaço sem julgamento com um chatbot para colocarem perguntas financeiras sensíveis, sem terem de se preocupar com a vergonha ou com a falta de à-vontade que poderiam acompanhar a mesma conversa a acontecer cara a cara com um representante humano.

3.  Como perspetiva a evolução da IA conversacional no setor de serviços financeiros, especialmente para comunidades subatendidas?

Idealmente, a próxima geração de chatbots alimentados por IA generativa serão assistentes financeiros de IA que apoiem melhor as atividades financeiras destas famílias e conquistem confiança junto de populações que muitas vezes desconfiam do envolvimento com o sistema financeiro e do facto de partilharem dados online. Existe uma grande oportunidade para os prestadores de serviços financeiros oferecerem capacidades mais complexas, mais refinadas e orientadas para a ação nos seus chatbots.

Quando os clientes usam chatbots financeiros atualmente, procuram sobretudo informação sobre contas ou tentam resolver um problema. Menos de 20% dos inquiridos do nosso inquérito nacional tinham usado chatbots para aconselhamento e educação financeiras, recomendações de produtos, solicitar crédito ou empréstimos e abrir ou encerrar contas. No entanto, a nossa investigação identifica uma procura por chatbots que consigam ajudar com estes tipos de ações bancárias. Focar-se nestes tipos de funcionalidades ao desenvolver chatbots pode aumentar a sua utilização e utilidade junto destes clientes.

Para bancos e instituições financeiras que não estão prontos para lançar co-pilotos financeiros de IA generativa diretamente para consumidores, esta tecnologia pode apoiar os colaboradores do banco, como os representantes de clientes, para fornecer respostas melhores, mais precisas e mais atempadas aos clientes durante as interações.

4.  Quais são alguns dos maiores desafios em garantir que as ferramentas financeiras baseadas em IA são equitativas e eficazes para famílias lideradas por pessoas negras, latinas (Latinx) e mulheres?

Com todas as tecnologias emergentes, é necessário um esforço intencional para garantir que as necessidades de quem aufere rendimentos baixos a médios sejam incluídas no processo de desenvolvimento e nas decisões de conceção. Descobrimos que uma parceria privada/filantrópica com instituições financeiras, desde cedo, ajuda a criar momentum para estes esforços. Ao expandir uma base de evidências, também ajudamos a construir o argumento de negócio.

Vimos um potencial significativo para orientações de conceção sobre aspetos como o aumento da confiança conquistada, que pode permitir que a IA conversacional apoie a saúde financeira sem grandes aumentos de custos.

5.  Com base na sua investigação, quais são os princípios-chave de conceção que os prestadores de serviços financeiros devem considerar ao integrar IA para apoiar utilizadores LMI?

A Commonwealth criou um recurso, o Financial AI for Good Guide, para fornecer orientações de conceção acionáveis aos prestadores de serviços financeiros que servem populações LMI. Desenvolvemos estas recomendações com base numa investigação abrangente com instituições financeiras, fornecedores de chatbots e pessoas que vivem em LMI.

O guia está organizado em torno de quatro objetivos de conceção primários. Vou dar-lhe um exemplo ou dois para cada um:

2.  Conquistar confiança: A principal preocupação para a maioria dos inquiridos da nossa investigação ao usar um chatbot era a segurança. É aqui que as instituições financeiras podem enfatizar a segurança dos dados através de mensagens iniciais sobre as medidas que o banco está a tomar e, ao mesmo tempo, dar aos utilizadores controlo sobre que dados são guardados.
4.  Promover o envolvimento: Crie uma experiência em que os utilizadores saibam o que estas ferramentas podem fazer por eles e quando, estabelecendo clareza sobre as suas funções. Além disso, procure “proatividade inteligente”. Por exemplo, integre chatbots que apareçam quando forem mais úteis, sem serem demasiado insistentes ou agressivos, o que pode soar a spam.
6.  Aumentar o valor: Antecipe as necessidades do seu cliente. A disponibilidade limitada de agências físicas cria uma oportunidade para chatbots concluírem pequenas ações que os clientes talvez tivessem de fazer numa agência. Equilibre a automatização e o controlo permitindo que os utilizadores liguem e desliguem as funcionalidades automatizadas de finanças, e inclua funcionalidades de “rede de segurança” que interrompam o movimento automatizado do dinheiro caso o saldo fique abaixo de um certo limiar.
8.  Melhorar a acessibilidade: Ofereça apoio multilingue e orientação adaptada à base de clientes e foque-se em funcionalidades com compatibilidade para dispositivos móveis. A nossa investigação mostrou que mais de metade de todos os inquiridos preferiu aceder à sua banca através dos seus telemóveis.

6.  Pode partilhar histórias de sucesso ou estudos de caso em que a IA conversacional tenha melhorado significativamente o bem-estar financeiro de pessoas LMI?

O que sabemos é que 57% dos utilizadores no nosso estudo de teste de campo indicaram que a utilização de um chatbot financeiro teve um impacto positivo na sua situação financeira. Embora estes resultados iniciais sejam promissores, as ferramentas de IA generativa ainda estão numa fase inicial, e a nossa investigação contínua continuará a construir uma base de evidências sobre a sua eficácia na melhoria do bem-estar financeiro de pessoas LMI.

7.  Quais riscos ou consequências não intencionais é importante que as instituições financeiras tenham em mente ao implementar ferramentas financeiras orientadas por IA?

O mais importante é que as pessoas com rendimentos LMI não fiquem fora da equação. Quando as instituições financeiras estão a desenvolver ferramentas, é essencial que compreendam as oportunidades inerentes e as formas de servir a base de clientes LMI.

Existem muitos organismos focados especificamente nos riscos inerentes e nas consequências das ferramentas baseadas em IA, bem como no enviesamento e na exatidão dos grandes modelos de linguagem. Além disso, queremos assegurar que uma preocupação principal é abordada: a relevância das recomendações financeiras para a situação financeira individual dos utilizadores. As instituições financeiras podem aumentar o envolvimento dos clientes e conquistar a confiança deles assegurando que a informação que estão a fornecer é correta e que existe uma transparência real.

A IA apresenta uma oportunidade sem precedentes para as pessoas com rendimentos LMI acederem a conselhos e ferramentas que tradicionalmente não lhes estavam disponíveis, seja para investimento ou para gestão de finanças pessoais. Estas ferramentas podem ser personalizadas e adaptadas às pessoas com rendimentos LMI e às suas situações únicas. Esta é uma oportunidade extraordinária para os prestadores de serviços financeiros expandirem a sua base de clientes.

8.  Como é que as instituições financeiras podem medir o impacto real das ferramentas orientadas por IA na segurança financeira e no bem-estar dos utilizadores?

Os fundamentos do bem-estar financeiro:  Há aumento da poupança, redução da dívida, melhoria das pontuações de crédito quando se utilizam estas ferramentas?

Também podemos inquirir sobre a experiência de interação com o chatbot — a confiança aumentou? Há um aumento do interesse em produtos que seriam úteis para melhorar o bem-estar financeiro? Quando se trata de aconselhamento, houve ações tomadas após receber o aconselhamento?

Os bancos também podem fazer testes A/B entre diferentes grupos de consumidores que interagem com chatbots vs. aqueles que não interagem, para ver se existe uma diferença mensurável entre eles.

9.  Que papel tem a supervisão humana na implementação de ferramentas de IA para serviços financeiros, e como é que os prestadores podem encontrar o equilíbrio certo entre automatização e apoio humano?

Uma das formas de aumentar a confiança conquistada em torno da IA é garantir que exista um humano acessível nos momentos certos durante a interação.  É aqui que a utilização de co-pilotos por colaboradores bancários que lidam com clientes pode ser benéfica. O acesso a um humano em tempo real, quando necessário, aumenta a confiança e a experiência com a ferramenta de IA.

Usar IA conversacional permitirá que os representantes do apoio ao cliente sirvam melhor e mais rapidamente as necessidades complexas dos seus clientes e membros, ao mesmo tempo que proporcionam o toque humano nos pontos-chave da interação quando um agente em tempo real for desejável.

A transparência também é crítica para criar confiança em qualquer interação. Deve saber, por exemplo, se está a falar com um chatbot ou com uma pessoa real.

10.  Olhando para a frente, quais são as oportunidades mais entusiasmantes para a IA na inclusão financeira nos próximos cinco anos?

A IA generativa representa a próxima evolução no apoio por IA conversacional, oferecendo envolvimento personalizado e sensível ao contexto a um nível que se aproxima muito mais do apoio humano do que a estrutura em árvore de decisão da maioria dos chatbots financeiros existentes hoje. As aplicações iniciais de IA generativa na área da finança incidiram sobretudo em aplicações de back-office, onde existe oportunidade para apoiar agentes de atendimento ao cliente. Identificar como a IA generativa pode fornecer apoio personalizado à escala num contexto financeiro é uma oportunidade-chave para impulsionar o desenvolvimento neste setor.

A construção de confiança será particularmente crítica para uma adoção mais ampla da IA generativa, da qual os participantes nos nossos testes de campo e grupos de foco continuam mais céticos do que relativamente aos chatbots tradicionais. Ainda assim, os benefícios potenciais de disponibilizar um nível mais avançado de apoio em aplicações de serviços financeiros tornam a IA generativa a tecnologia mais emocionante a acompanhar no setor financeiro. Quem conseguir desenvolver apoio de IA generativa fiável e merecedor de confiança estará na linha da frente desta nova era de construção de relações com clientes em grande escala.

Algumas outras oportunidades específicas que vemos são co-pilotos e assistentes pessoais que podem fornecer orientação financeira abrangente adaptada às necessidades individuais — um coach financeiro pessoal, por assim dizer. Também esperamos avanços na IA conversacional a desempenharem um papel valioso na promoção da saúde financeira dos trabalhadores, fornecendo informação e orientação para navegar sistemas complexos de benefícios para empregados.

11.  Como perspetiva o papel de organizações sem fins lucrativos como a Commonwealth na evolução da utilização responsável de IA nos serviços financeiros?

Historicamente, a conceção de novas tecnologias tem-se focado na adoção por consumidores de maiores rendimentos, ignorando as necessidades dos agregados familiares LMI. Através da nossa iniciativa Emerging Tech for All (ETA), estamos focados em garantir que as necessidades de pessoas financeiramente vulneráveis são compreendidas, visíveis, introduzidas em conversas relevantes e integradas em soluções. Estamos num ponto de viragem crítico na expansão da IA e acreditamos que é urgente continuar a investigar e a identificar as formas como a IA pode impactar positivamente esta população.

Há relativamente pouca investigação e adoção no setor sobre este tema hoje, e alguns prestadores que entrevistámos citaram a necessidade de estudos de maior escala para construir o tipo de evidência que poderiam usar para defender este tipo de conceção internamente. Estamos a enfrentar este desafio produzindo investigação com impacto e testes de campo no terreno que demonstram como a IA generativa pode apoiar o bem-estar financeiro dos agregados familiares que vivem em LMI e sustentam o argumento de negócio para uma conceção mais ativa direcionada a este segmento de consumidores subatendido.

Para o futuro, o impacto sistémico da conceção inclusiva de tecnologia dependerá da aplicação à escala destas perceções por parte dos grandes intervenientes nos serviços financeiros. Para nós, levar a conceção inclusiva à escala dependerá de aproveitar a nossa investigação para estabelecer parcerias com organizações maiores que procuram capitalizar os avanços em IA para apoiar a saúde financeira dos seus clientes e trabalhadores.

12.  Que conselho daria a instituições financeiras que procuram alavancar IA, mantendo a confiança e a transparência com os seus clientes?

As famílias LMI estão mais interessadas em fazer banca diretamente com uma pessoa, mas têm o menor acesso a agências presenciais. Esta lacuna destaca uma oportunidade-chave para a IA fornecer o tipo de apoio personalizado que as famílias que vivem em LMI procuram, sem necessidade de aumentar o número de agências ou de pessoal de apoio ao cliente.

No entanto, para promover uma adoção mais ampla, as instituições financeiras têm de conquistar e construir mais confiança nos chatbots por parte de pessoas com rendimentos LMI — parte disso é específica da experiência do chatbot, enquanto parte é transversal à indústria, à medida que a tecnologia de IA ganha mais aceitação e melhora a segurança e a qualidade em geral.

As principais preocupações para quem interage com chatbots são a segurança e a privacidade.  Em geral, as pessoas têm expressado falta de confiança na IA conversacional para ser útil, proteger os seus dados ou agir no seu melhor interesse. Embora muitos no mundo dos negócios estejam entusiasmados com o potencial da IA, as pessoas que vivem em LMI provavelmente olham para ela com mais ceticismo como uma nova tecnologia que ainda não demonstrou o seu valor direto para elas.

Políticas de dados transparentes, uma marca e mensagens tranquilizadoras e manter a ligação a um agente humano como opção de recurso ajudarão a construir e a conquistar confiança. Desenvolver interações úteis e personalizadas através de IA generativa que vão além de fornecer a informação básica oferecida pelos chatbots hoje, como saldos de conta e transações recentes, também ajudará a demonstrar o valor da tecnologia.

Também é importante sublinhar o conceito de confiança conquistada. O objetivo não é apenas convencer as pessoas a confiar nos chatbots, mas sim desenhar chatbots de forma que essa confiança seja efetivamente justificada.