IA, Confiança e os Desassistidos - Entrevista com Paula Grieco, SVP na Commonwealth

_Paula Grieco é Vice-Presidente Sênior na Commonwealth.**

Descubra as principais notícias e eventos de fintech!

Inscreva-se na newsletter do FinTech Weekly

Lida por executivos do JP Morgan, Coinbase, Blackrock, Klarna e outros

A IA financeira ainda tem um longo caminho a percorrer — não apenas em termos de velocidade, precisão ou mesmo regulamentação, mas na forma como conquista confiança. Especialmente daqueles que tradicionalmente não são os primeiros na fila quando novas tecnologias surgem.

No FinTech Weekly, estamos acompanhando o trabalho da Commonwealth, uma organização sem fins lucrativos focada em construir segurança financeira para famílias de baixa e moderada renda (LMI). O trabalho de campo deles, explorado em nosso editorial recente, revelou uma tensão clara: enquanto os usuários LMI estão abertos a ferramentas como chatbots, ainda esperam por experiências que realmente os atendam — não apenas funcionalidades reembaladas construídas para outros.

Esta semana, fomos mais a fundo.

Conversamos com Paula Grieco, Vice-Presidente Sênior da Commonwealth, para entender o que é realmente necessário para tornar a IA eficaz — e segura — para comunidades carentes. Desde princípios de design até confiança conquistada, de copilotos até fadiga de chatbot, ela compartilha por que a intenção importa mais do que a inovação isolada.

É uma visão fundamentada e ponderada do que a tecnologia financeira inclusiva poderia — e deveria — ser.

Leia a entrevista completa abaixo.

2.  A colaboração recente da Commonwealth com o JPMorganChase forneceu insights importantes sobre o papel da IA na melhoria da segurança financeira para famílias LMI. Quais foram as descobertas mais surpreendentes ou impactantes desta pesquisa?

Nossa pesquisa ilumina o imenso potencial da IA, especificamente chatbots, para fornecer orientação personalizada e suporte a comunidades que vivem com rendas mais baixas — se os chatbots forem projetados de forma cuidadosa, considerando as necessidades e perspectivas desse grupo.

Duas descobertas principais:

*   Os clientes veem os chatbots em grande parte como ferramentas positivas para melhorar seu bem-estar financeiro. Nossos dados mostraram que 57% dos entrevistados disseram que usar chatbots melhorou sua situação financeira. A pesquisa também mostrou que pessoas com renda baixa a moderada (LMI) desejam recursos de construção de crédito, orçamento e gerenciamento de dívidas.

*   Os entrevistados valorizaram o espaço sem julgamento de um chatbot para fazer perguntas financeiras sensíveis, sem se preocupar com a vergonha ou autoconsciência que poderiam acompanhar essa mesma conversa cara a cara com um representante humano.

3.  Como você vê a evolução da IA conversacional no setor de serviços financeiros, particularmente para comunidades carentes?

Idealmente, a próxima geração de chatbots alimentados por IA generativa serão assistentes financeiros de IA que apoiam melhor as atividades financeiras dessas famílias e conquistam a confiança de populações que muitas vezes são cautelosas em relação ao envolvimento com o sistema financeiro e ao compartilhamento de dados online. Há uma grande oportunidade para provedores de serviços financeiros oferecerem capacidades mais complexas, matizadas e orientadas à ação para seus chatbots.

Quando os clientes usam chatbots financeiros atualmente, eles estão principalmente buscando informações de conta ou tentando resolver um problema. Menos de 20% dos entrevistados da nossa pesquisa nacional usaram chatbots para aconselhamento e educação financeira, recomendações de produtos, solicitação de crédito ou empréstimos e abertura ou fechamento de contas. No entanto, nossa pesquisa constata que há uma demanda por chatbots que possam auxiliar nesses tipos de ações bancárias. Focar nesses tipos de recursos ao desenvolver chatbots pode aumentar seu uso e utilidade entre esses clientes.

Para bancos e instituições financeiras que não estão prontos para lançar copilotos financeiros de IA generativa diretamente para os consumidores, essa tecnologia pode apoiar funcionários do banco, como representantes de atendimento ao cliente, a fornecer respostas melhores, mais precisas e mais rápidas aos clientes durante as interações.

4.  Quais são alguns dos maiores desafios para garantir que ferramentas financeiras baseadas em IA sejam equitativas e eficazes para famílias negras, latinas e lideradas por mulheres?

Com todas as tecnologias emergentes, é necessário um esforço intencional para garantir que as necessidades daqueles com renda baixa a moderada sejam incluídas no processo de desenvolvimento e nas decisões de design. Descobrimos que uma parceria privada/filantrópica com instituições financeiras no início ajuda a construir impulso para esses esforços. Ao expandir uma base de evidências, também ajudamos a construir o caso de negócios.

Vimos um potencial significativo para orientação de design em torno de coisas como aumentar a confiança conquistada, que pode permitir que a IA conversacional apoie a saúde financeira sem grandes aumentos de custo.

5.  Com base em sua pesquisa, quais são os principais princípios de design que os provedores de serviços financeiros devem considerar ao integrar IA para apoiar usuários LMI?

A Commonwealth criou um recurso, o Guia Financeiro de IA para o Bem, para fornecer orientações de design acionáveis para provedores de serviços financeiros que atendem populações LMI. Desenvolvemos essas recomendações com base em pesquisas abrangentes com instituições financeiras, provedores de chatbots e pessoas que vivem com LMI.

O guia está organizado em torno de quatro objetivos principais de design. Darei um ou dois exemplos para cada:

2.  Conquistar confiança: A principal preocupação entre a maioria dos entrevistados da nossa pesquisa ao usar um chatbot foi a segurança. É aí que as instituições financeiras podem enfatizar a segurança dos dados por meio de mensagens iniciais sobre as medidas que o banco está tomando, bem como dar aos usuários controle sobre quais dados são armazenados.
4.  Impulsionar o engajamento: Torne a experiência aquela em que os usuários saibam o que essas ferramentas podem fazer por eles e quando, criando clareza em torno de suas funções. Além disso, busque a "proatividade inteligente". Por exemplo, integre chatbots que aparecem quando podem ser mais úteis, sem serem muito insistentes ou agressivos, o que pode parecer spam.
6.  Aumentar o valor: Antecipe as necessidades do seu cliente. O acesso limitado a agências físicas cria uma oportunidade para os chatbots concluírem pequenas ações que os clientes poderiam ter que ir ao banco para fazer. Equilibre automação e controle, permitindo que os usuários ativem e desativem os recursos financeiros automatizados, e inclua recursos de "rede de segurança" que pausam o movimento automatizado de dinheiro se um saldo cair abaixo de um certo limite.
8.  Melhorar a acessibilidade: Ofereça suporte multilíngue e orientação adequada à sua base de clientes e concentre-se em recursos compatíveis com dispositivos móveis. Nossa pesquisa mostrou que mais da metade de todos os entrevistados preferiu acessar seus bancos por meio de seus celulares.

6.  Você pode compartilhar algumas histórias de sucesso ou estudos de caso em que a IA conversacional melhorou significativamente o bem-estar financeiro de indivíduos LMI?

O que sabemos é que 57% dos usuários em nosso estudo de teste de campo indicaram que usar um chatbot financeiro teve um impacto positivo em sua situação financeira. Embora esses primeiros resultados sejam promissores, as ferramentas de IA generativa ainda estão em sua infância, e nossa pesquisa em andamento continuará a construir uma base de evidências sobre sua eficácia em melhorar o bem-estar financeiro de indivíduos LMI.

7.  Que riscos ou consequências não intencionais as instituições financeiras devem estar atentas ao implementar ferramentas financeiras baseadas em IA?

O importante é que as pessoas com renda LMI não sejam deixadas de fora da equação. Quando as instituições financeiras estão desenvolvendo ferramentas, é importante que entendam as oportunidades inerentes e as formas de atender a base de clientes LMI.

Há muitos órgãos focados especificamente nos riscos e consequências inerentes das ferramentas baseadas em IA, e no viés e precisão dos grandes modelos de linguagem. Além disso, queremos garantir que uma preocupação primária seja abordada: a relevância das recomendações financeiras para as situações financeiras individuais dos usuários. As instituições financeiras podem aumentar o engajamento do cliente e conquistar sua confiança, garantindo que as informações que estão fornecendo sejam precisas e que haja transparência real.

A IA apresenta uma oportunidade sem precedentes para pessoas com renda LMI acessarem conselhos e ferramentas que tradicionalmente não estavam disponíveis para elas, sejam ferramentas de investimento ou gestão de finanças pessoais. Essas ferramentas podem ser personalizadas e adaptadas para pessoas com renda LMI e suas situações únicas. Esta é uma tremenda oportunidade para provedores financeiros expandirem sua base de clientes.

8.  Como as instituições financeiras podem medir o impacto real das ferramentas baseadas em IA na segurança financeira e no bem-estar dos usuários?

Os fundamentos do bem-estar financeiro: há um aumento na poupança, uma redução na dívida, uma melhoria na pontuação de crédito ao usar essas ferramentas?

Também podemos pesquisar a experiência em torno da interação com o chatbot — a confiança aumentou? Há um interesse maior em produtos que seriam úteis para melhorar o bem-estar financeiro? Quando se trata de aconselhamento, houve ações tomadas após receber o conselho?

Os bancos também podem fazer testes A/B entre diferentes grupos de consumidores que interagem com chatbots versus aqueles que não interagem, para ver se há uma diferença mensurável entre eles.

9.  Qual é o papel da supervisão humana na implantação de ferramentas de IA para serviços financeiros, e como os provedores podem encontrar o equilíbrio certo entre automação e suporte humano?

Uma das maneiras de aumentar a confiança conquistada em torno da IA é garantir que haja um humano acessível nos momentos certos durante a interação. É aí que o uso de copilotos por funcionários do banco que lidam com o cliente pode ser benéfico. O acesso a um humano ao vivo quando necessário aumenta a confiança e a experiência com a ferramenta de IA.

Usar IA conversacional permitirá que os representantes de atendimento ao cliente sirvam melhor e mais rapidamente às necessidades complexas de seus clientes e membros, ao mesmo tempo que fornecem o toque humano em pontos-chave da interação quando um agente ao vivo é desejável.

A transparência também é fundamental para construir confiança em qualquer interação. Você deve saber, por exemplo, se está falando com um chatbot ou com uma pessoa real.

10.  Olhando para o futuro, quais são as oportunidades mais empolgantes para a IA na inclusão financeira nos próximos cinco anos?

A IA generativa representa a próxima evolução no suporte de IA conversacional, oferecendo engajamento personalizado e sensível ao contexto em um nível que se aproxima muito mais do suporte humano do que a estrutura de árvore de decisão da maioria dos chatbots financeiros atuais. As aplicações iniciais da IA generativa em finanças focaram principalmente em aplicações de back-office, onde há oportunidade de apoiar agentes de atendimento ao cliente. Identificar como a IA generativa pode fornecer suporte personalizado em escala em um contexto financeiro é uma oportunidade chave para impulsionar o desenvolvimento neste setor.

A construção de confiança conquistada será particularmente crítica para a adoção mais ampla da IA generativa, da qual os participantes em nossos testes de campo e grupos focais permanecem mais céticos do que dos chatbots tradicionais. Ainda assim, os benefícios potenciais de fornecer um nível mais avançado de suporte em várias aplicações de serviços financeiros tornam a IA generativa a tecnologia mais empolgante de se observar no setor financeiro. Aqueles que conseguirem desenvolver suporte de IA generativa confiável e confiável estarão na fronteira desta nova era de construção de relacionamento com o cliente em escala.

Algumas outras oportunidades específicas que vemos são copilotos e assistentes pessoais que podem fornecer orientação financeira abrangente adaptada às necessidades individuais, um coach financeiro pessoal, se preferir. Também esperamos que os avanços na IA conversacional desempenhem um papel valioso na promoção da saúde financeira dos trabalhadores, fornecendo informações e orientações para navegar em sistemas complexos de benefícios para funcionários.

11.  Como você vê o papel de organizações sem fins lucrativos como a Commonwealth evoluindo na formação do uso responsável da IA em serviços financeiros?

Historicamente, o design de novas tecnologias tem se concentrado na adoção por consumidores de alta renda, enquanto negligencia as necessidades das famílias LMI. Por meio de nossa iniciativa Tecnologias Emergentes para Todos (ETA), estamos focados em garantir que as necessidades das pessoas financeiramente vulneráveis sejam compreendidas, visíveis, introduzidas em conversas relevantes e integradas em soluções. Estamos em um ponto de inflexão crítico na escala da IA e acreditamos que é urgente continuar pesquisando e identificando as maneiras pelas quais a IA pode impactar positivamente essa população.

Relativamente pouca pesquisa e adoção no campo existem sobre este tópico hoje, e alguns provedores que entrevistamos citaram a necessidade de estudos em maior escala para construir o tipo de evidência que poderiam usar para justificar esse tipo de design internamente. Estamos nos elevando a este desafio produzindo pesquisas impactantes e testes de campo no terreno que demonstram como a IA generativa pode apoiar o bem-estar financeiro de famílias que vivem com LMI e constroem o caso de negócios para projetar mais ativamente para este segmento de consumidores carente.

Olhando para o futuro, o impacto sistêmico do design de tecnologia inclusiva dependerá de aplicações em escala desses insights por grandes atores do setor de serviços financeiros. Para nós, levar o design inclusivo à escala dependerá de alavancar nossa pesquisa para fazer parcerias com organizações maiores que buscam capitalizar os avanços da IA para apoiar a saúde financeira de seus clientes e trabalhadores.

12.  Que conselho você daria às instituições financeiras que buscam alavancar a IA enquanto mantêm a confiança e a transparência com seus clientes?

As famílias LMI estão mais interessadas em fazer operações bancárias diretamente com uma pessoa, mas têm o menor acesso a agências presenciais. Essa lacuna destaca uma oportunidade chave para a IA fornecer o tipo de suporte personalizado que as famílias que vivem com LMI buscam, sem precisar aumentar o número de agências ou funcionários de suporte ao cliente.

No entanto, para impulsionar uma adoção mais ampla, as instituições financeiras devem conquistar e construir mais confiança em chatbots por parte das pessoas com renda LMI — parte disso é específico da experiência do chatbot, enquanto outra parte é de todo o setor, à medida que a tecnologia de IA ganha mais aceitação e melhora em segurança e qualidade geral.

As principais preocupações das pessoas ao interagir com chatbots são segurança e privacidade. Em geral, as pessoas expressaram falta de confiança na IA conversacional para ser útil, proteger seus dados ou agir em seu melhor interesse. Embora muitos no mundo dos negócios estejam entusiasmados com o potencial da IA, as pessoas que vivem com LMI provavelmente a veem com mais ceticismo como uma nova tecnologia que ainda não demonstrou seu valor direto para elas.

Políticas de dados transparentes, branding e mensagens tranquilizadoras, e manter a conexão com um agente humano como opção de backup ajudarão a construir e conquistar confiança. Desenvolver interações úteis e personalizadas por meio da IA generativa que vão além de fornecer informações básicas oferecidas pelos chatbots de hoje, como saldos de contas e transações recentes, também ajudará a demonstrar o valor da tecnologia.

Também é importante enfatizar o conceito de confiança conquistada. O objetivo não é meramente convencer as pessoas a confiar em chatbots, mas sim projetar chatbots de tal forma que essa confiança seja justificada.