IA, Confiança e os Desatendidos - Entrevista com Paula Grieco, SVP na Commonwealth

Paula Grieco é Vice-Presidente Sénior da Commonwealth.

Descubra as principais notícias e eventos de fintech!

Subscreva a newsletter da FinTech Weekly

Lida por executivos da JP Morgan, Coinbase, Blackrock, Klarna e mais

A IA financeira tem um longo caminho a percorrer — não apenas em termos de velocidade, precisão ou até mesmo de regulamentação, mas na forma como conquista confiança. Sobretudo junto de pessoas que, tradicionalmente, não têm estado na primeira linha quando surge uma nova tecnologia.

Na FinTech Weekly, temos acompanhado o trabalho de Commonwealth, uma organização sem fins lucrativos centrada em construir segurança financeira para agregados familiares de baixos e moderados rendimentos (LMI). O seu trabalho de campo, explorado no nosso recente editorial, revelou uma tensão clara: enquanto os utilizadores LMI estão abertos a ferramentas como chatbots, continuam à espera de experiências que os sirvam de facto — não apenas de funcionalidades reempacotadas construídas para outra pessoa.

Esta semana fomos mais fundo.

Falámos com Paula Grieco, Vice-Presidente Sénior da Commonwealth, para compreender o que é realmente necessário para tornar a IA eficaz — e segura — para comunidades desatendidas. Dos princípios de conceção à confiança conquistada, dos “co-pilots” à fadiga com chatbots, ela explica por que é que a intenção importa mais do que a inovação por si só.

É uma visão assente na realidade e refletida sobre como — e como deveria — ser a tecnologia financeira inclusiva.

Leia a entrevista completa abaixo.

2.  A colaboração recente da Commonwealth com JPMorganChase forneceu informações-chave sobre o papel da IA na melhoria da segurança financeira dos agregados familiares LMI. Quais foram os achados mais surpreendentes ou impactantes desta investigação?

A nossa investigação ilumina o enorme potencial da IA, em particular dos chatbots, para fornecer orientação e apoio personalizados a comunidades que vivem com rendimentos mais baixos —  desde que os chatbots sejam concebidos com cuidado, tendo em mente as necessidades e as perspetivas deste grupo.

Dois principais achados:

*   Os clientes veem, em grande medida, os chatbots como ferramentas positivas para melhorar o seu bem-estar financeiro. Os nossos dados mostraram que 57% dos inquiridos disseram que a utilização de chatbots melhorou a sua situação financeira. A investigação também demonstrou que as pessoas com rendimentos baixos a moderados (LMI) querem funcionalidades de construção de crédito, orçamento e gestão de dívida.

*   Os inquiridos valorizaram o espaço sem juízo de um chatbot para colocarem perguntas financeiras sensíveis, sem terem de se preocupar com a vergonha ou com a autoconsciência que poderia acompanhar a mesma conversa quando ocorre frente a frente com um representante humano.

3.  Como vê a evolução da IA conversacional no setor dos serviços financeiros, particularmente para comunidades desatendidas?

Idealmente, a próxima geração de chatbots alimentados por IA generativa serão assistentes financeiros de IA que apoiam melhor as atividades financeiras destes agregados familiares e conquistam confiança junto de populações que, muitas vezes, desconfiam do envolvimento com o sistema financeiro e do partilhar dados online. Existe uma grande oportunidade para os prestadores de serviços financeiros oferecerem capacidades mais complexas, mais refinadas e orientadas para a ação nos seus chatbots.

Quando os clientes usam chatbots financeiros atualmente, procuram sobretudo informação sobre contas ou tentam resolver um problema. Menos de 20% dos inquiridos do nosso inquérito nacional tinham usado chatbots para aconselhamento e educação financeiros, recomendações de produtos, candidatura a crédito ou empréstimos, e para abrir ou fechar contas. No entanto, a nossa investigação identifica uma procura por chatbots que possam ajudar com este tipo de ações bancárias. Concentrar-se nestes tipos de funcionalidades ao desenvolver chatbots pode aumentar a sua utilização e utilidade junto destes clientes.

Para bancos e instituições financeiras que ainda não estão prontos para lançar diretamente aos consumidores “co-pilots” financeiros de IA generativa, esta tecnologia pode apoiar os trabalhadores do banco, como representantes de clientes, para fornecer respostas melhores, mais precisas e mais atempadas durante as interações com os clientes.

4.  Quais são alguns dos maiores desafios em garantir que as ferramentas financeiras com IA sejam equitativas e eficazes para agregados familiares liderados por pessoas negras, latinas e mulheres?

Com todas as tecnologias emergentes, é necessário um esforço intencional para garantir que as necessidades das pessoas com rendimentos baixos a moderados são incluídas no processo de desenvolvimento e nas decisões de conceção. Constatámos que uma parceria privada/filantrópica com instituições financeiras desde cedo ajuda a criar dinâmica para estes esforços. Ao expandir uma base de evidências, ajudamos também a construir o argumento de negócio.

Vimos um potencial significativo para orientar a conceção em aspetos como o aumento da confiança conquistada, o que pode permitir que a IA conversacional apoie a saúde financeira sem aumentos substanciais de custos.

5.  Com base na sua investigação, quais são os princípios de conceção fundamentais que os prestadores de serviços financeiros devem considerar ao integrar IA para apoiar utilizadores LMI?

A Commonwealth criou um recurso, o Financial AI for Good Guide, para fornecer orientação de conceção acionável a prestadores de serviços financeiros que servem populações LMI. Desenvolvemos estas recomendações com base numa investigação abrangente com instituições financeiras, fornecedores de chatbots e pessoas a viver em condições LMI.

O guia está organizado em torno de quatro objetivos primários de conceção. Vou dar-lhe um exemplo ou dois para cada um:

2.  Ganhar confiança: A principal preocupação para a maioria dos nossos inquiridos quando utilizavam um chatbot era a segurança. É aqui que as instituições financeiras podem enfatizar a segurança dos dados através de mensagens iniciais sobre as medidas que o banco está a tomar e também dar aos utilizadores controlo sobre que dados são armazenados.
4.  Promover o envolvimento: Crie uma experiência na qual os utilizadores saibam o que estas ferramentas podem fazer por eles e quando, ao estabelecer clareza sobre as suas funções. Além disso, procure “proatividade inteligente”. Por exemplo, integrar chatbots que surjam quando podem ser mais úteis, sem serem demasiado insistentes ou agressivos, o que pode soar a spammy.
6.  Aumentar o valor: Antecipe as necessidades do seu cliente. O acesso limitado a agências físicas cria uma oportunidade para que os chatbots executem pequenas ações que os clientes talvez tivessem de fazer na agência. Equilibre automação e controlo permitindo que os utilizadores liguem e desliguem as funcionalidades financeiras automatizadas e inclua funcionalidades de “rede de segurança” que interrompam o movimento automatizado do dinheiro se um saldo cair abaixo de um determinado limiar.
8.  Melhorar a acessibilidade: Ofereça suporte multilingue e orientação adaptada à sua base de clientes e foque-se em funcionalidades compatíveis com dispositivos móveis. A nossa investigação mostrou que mais de metade de todos os inquiridos preferiu aceder ao seu banco através dos seus telemóveis.

6.  Pode partilhar quaisquer histórias de sucesso ou estudos de caso em que a IA conversacional tenha melhorado significativamente o bem-estar financeiro de indivíduos LMI?

O que sabemos é que 57% dos utilizadores no nosso estudo de teste de campo indicaram que a utilização de um chatbot financeiro teve um impacto positivo na sua situação financeira. Embora estes resultados iniciais sejam promissores, as ferramentas de IA generativa ainda estão numa fase inicial, e a nossa investigação contínua irá continuar a construir uma base de evidências sobre a sua eficácia na melhoria do bem-estar financeiro de indivíduos LMI.

7.  Quais são os riscos ou consequências não intencionais de que as instituições financeiras devem estar cientes ao implementar ferramentas financeiras baseadas em IA?

O que é importante é que as pessoas com rendimentos LMI não sejam deixadas de fora da equação. Quando as instituições financeiras desenvolvem ferramentas, é importante que compreendam as oportunidades inerentes e as formas de servir a base de clientes LMI.

Existem muitas entidades focadas especificamente nos riscos inerentes e nas consequências das ferramentas baseadas em IA, e na parcialidade e precisão dos modelos de linguagem de grande dimensão. Para além disso, queremos garantir que uma preocupação principal seja abordada: a relevância das recomendações financeiras para a situação financeira individual dos utilizadores. As instituições financeiras podem aumentar o envolvimento dos clientes e conquistar a confiança dos seus clientes assegurando que a informação que fornecem é exata e que existe uma transparência real.

A IA apresenta uma oportunidade sem precedentes para as pessoas com rendimentos LMI acederem a conselhos e ferramentas que tradicionalmente não lhes estavam disponíveis, seja em ferramentas de investimento ou na gestão de finanças pessoais. Estas ferramentas podem ser personalizadas e adaptadas às pessoas com rendimentos LMI e às suas situações únicas. Esta é uma oportunidade enorme para os prestadores de serviços financeiros expandirem a sua base de clientes.

8.  Como é que as instituições financeiras podem medir o impacto real das ferramentas orientadas por IA na segurança e bem-estar financeiros dos utilizadores?

Os fundamentos do bem-estar financeiro:  Há um aumento da poupança, uma redução da dívida, uma melhoria nas classificações de crédito ao usar estas ferramentas?

Também podemos inquirir sobre a experiência de interagir com o chatbot — a confiança aumentou? Há um interesse acrescido em produtos que seriam úteis para melhorar o bem-estar financeiro? Quando se trata de aconselhar, foram tomadas ações após receber aconselhamento?

Os bancos também podem fazer testes A/B entre grupos diferentes de consumidores que interagem com chatbots vs. aqueles que não interagem, para ver se existe uma diferença mensurável entre eles.

9.  Que papel tem a supervisão humana na implementação de ferramentas de IA para serviços financeiros, e como podem os fornecedores encontrar o equilíbrio certo entre automação e apoio humano?

Uma das formas de aumentar a confiança conquistada em torno da IA é garantir que existe um humano disponível nos momentos certos durante a interação.  É aqui que o uso de “co-pilots” por parte de colaboradores bancários virados para o cliente pode ser benéfico. O acesso a um humano em direto quando necessário aumenta a confiança e a experiência com a ferramenta de IA.

Ao usar IA conversacional, os representantes do serviço ao cliente podem servir melhor e com mais rapidez as necessidades complexas dos seus clientes e dos membros, mantendo o toque humano em pontos-chave da interação quando um agente em direto é desejável.

A transparência é também crítica para criar confiança em qualquer interação. Deve saber, por exemplo, se está a falar com um chatbot ou com uma pessoa real.

10.  Olhando para o futuro, quais são as oportunidades mais estimulantes para a IA na inclusão financeira nos próximos cinco anos?

A IA generativa representa a próxima evolução no apoio por IA conversacional, oferecendo envolvimento personalizado e sensível ao contexto num nível que se aproxima muito mais do apoio humano do que a estrutura em árvore de decisão da maioria dos chatbots financeiros atuais. As aplicações iniciais de IA generativa na área financeira têm-se focado sobretudo em aplicações de back-office, onde existe oportunidade para apoiar os agentes de atendimento ao cliente. Identificar como a IA generativa pode fornecer apoio personalizado em escala num contexto financeiro é uma oportunidade-chave para impulsionar o desenvolvimento neste setor.

Construir confiança será especialmente crítico para a adoção mais ampla de IA generativa, algo que os participantes nos nossos testes de campo e grupos de foco continuam a ver com mais ceticismo do que os chatbots tradicionais. Ainda assim, o potencial de benefícios de fornecer um nível mais avançado de apoio em aplicações de serviços financeiros torna a IA generativa a tecnologia mais empolgante a observar no setor financeiro. Aqueles que conseguirem desenvolver apoio de IA generativa fiável e em que se pode confiar estarão na linha da frente desta nova era de construção de relações com clientes em escala.

Algumas outras oportunidades específicas que vemos são “co-pilots” e assistentes pessoais que podem fornecer orientação financeira abrangente adaptada às necessidades individuais, como um coach financeiro pessoal. Também esperamos avanços na IA conversacional a desempenharem um papel valioso na promoção da saúde financeira dos trabalhadores, fornecendo informação e orientação para navegar em sistemas complexos de benefícios para trabalhadores.

11.  Como vê o papel de organizações sem fins lucrativos como a Commonwealth a evoluir na promoção do uso responsável de IA nos serviços financeiros?

Historicamente, o design de novas tecnologias tem-se focado na adoção por consumidores de rendimentos mais altos, enquanto ignora as necessidades dos agregados familiares LMI. Através da nossa iniciativa Emerging Tech for All (ETA), estamos empenhados em garantir que as necessidades das pessoas financeiramente vulneráveis são compreendidas, visíveis, introduzidas nas conversas relevantes e integradas nas soluções. Estamos num ponto de viragem crítico na escala da IA e acreditamos que é urgente continuar a investigar e identificar as formas como a IA pode impactar positivamente esta população.

Existe relativamente pouca investigação e adoção no setor atualmente sobre este tema, e alguns fornecedores que entrevistámos referiram a necessidade de estudos em maior escala para criar o tipo de evidência que poderiam usar para defender internamente este tipo de conceção. Estamos a assumir este desafio produzindo investigação com impacto e testes de campo no terreno que demonstram como a IA generativa pode apoiar o bem-estar financeiro dos agregados familiares que vivem em contextos LMI e que sustentam o argumento de negócio para uma conceção mais ativa voltada para este segmento de consumidores desatendido.

Para o futuro, o impacto sistémico do design de tecnologia inclusiva dependerá da aplicação em escala destas perspetivas por parte de grandes intervenientes nos serviços financeiros. Para nós, levar o design inclusivo à escala dependerá de aproveitar a nossa investigação para estabelecer parcerias com organizações maiores que procuram capitalizar os avanços em IA para apoiar a saúde financeira dos seus clientes e trabalhadores.

12.  Que conselho daria às instituições financeiras que procuram tirar partido da IA, mantendo a confiança e a transparência com os seus clientes?

Os agregados familiares LMI estão mais interessados em fazer banca diretamente com uma pessoa, mas têm o menor acesso a agências presenciais. Esta lacuna destaca uma oportunidade-chave para a IA fornecer o tipo de apoio personalizado que os agregados familiares LMI procuram, sem ser necessário aumentar o número de agências ou de colaboradores de apoio ao cliente.

No entanto, para promover uma adoção mais ampla, as instituições financeiras têm de conquistar e construir mais confiança nos chatbots por parte de pessoas com rendimentos LMI — parte disso é específico da experiência do chatbot, enquanto parte é transversal à indústria, à medida que a tecnologia de IA ganha mais aceitação e melhora a segurança e a qualidade em geral.

As principais preocupações das pessoas ao interagir com chatbots são a segurança e a privacidade.  De um modo geral, as pessoas disseram sentir falta de confiança na IA conversacional para ser útil, proteger os seus dados ou agir de acordo com os seus interesses. Embora muitas pessoas no mundo dos negócios estejam entusiasmadas com o potencial da IA, as pessoas que vivem em contextos LMI provavelmente encaram-na com mais ceticismo como uma tecnologia nova que ainda não demonstrou o seu valor direto para elas.

Políticas transparentes de dados, uma marca e comunicação tranquilizadoras, e manter a ligação a um agente humano como opção de reserva ajudarão tudo isso na construção e conquista de confiança. Desenvolver interações úteis e personalizadas através de IA generativa que vão além de fornecer a informação básica disponibilizada pelos chatbots hoje, como saldos de conta e transações recentes, também ajudará a demonstrar o valor da tecnologia.

É também importante enfatizar o conceito de confiança conquistada. O objetivo não é apenas convencer as pessoas a confiarem nos chatbots, mas sim conceber chatbots de forma a que essa confiança seja efetivamente justificada.