IA, Confiance et les sous-desservis - Entretien avec Paula Grieco, SVP chez Commonwealth

Paula Grieco est vice-présidente senior chez Commonwealth.

Découvrez les principales actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des dirigeants de JP Morgan, Coinbase, Blackrock, Klarna et d’autres

L’IA financière a encore beaucoup de chemin à parcourir — pas seulement en termes de rapidité, de précision ou même de réglementation, mais aussi dans la manière dont elle gagne la confiance. Surtout auprès de ceux qui n’ont pas traditionnellement été les premiers à adopter les nouvelles technologies.

Chez FinTech Weekly, nous suivons le travail de Commonwealth, une organisation à but non lucratif axée sur la sécurité financière des ménages à revenu faible ou modéré (LMI). Leur travail de terrain, exploré dans notre récent éditorial, a révélé une tension claire : alors que les utilisateurs LMI sont ouverts à des outils comme les chatbots, ils attendent encore des expériences qui leur soient réellement utiles — pas seulement des fonctionnalités reconditionnées conçues pour quelqu’un d’autre.

Cette semaine, nous sommes allés plus en profondeur.

Nous avons interviewé Paula Grieco, vice-présidente senior chez Commonwealth, pour comprendre ce qui est réellement nécessaire pour rendre l’IA efficace — et sûre — pour les communautés mal desservies. Des principes de conception à la confiance acquise, des copilotes à la fatigue liée aux chatbots, elle partage pourquoi l’intention compte plus que l’innovation seule.

C’est une vision réaliste et réfléchie de ce à quoi pourrait — et devrait — ressembler une technologie financière inclusive.

Lisez l’intégralité de l’interview ci-dessous.

2. La récente collaboration de Commonwealth avec JPMorganChase a fourni des insights clés sur le rôle de l’IA dans l’amélioration de la sécurité financière des ménages LMI. Quelles ont été les découvertes les plus surprenantes ou impactantes de cette recherche ?

Notre étude met en lumière le potentiel immense de l’IA, notamment des chatbots, pour offrir des conseils et un soutien personnalisés aux communautés à faibles revenus — à condition que ces chatbots soient conçus de manière réfléchie en tenant compte des besoins et des perspectives de ce groupe.

Deux résultats clés :

*   Les clients voient majoritairement les chatbots comme des outils positifs pour améliorer leur bien-être financier. Nos données montrent que 57 % des répondants ont déclaré que l’utilisation de chatbots avait amélioré leur situation financière. La recherche a également révélé que les personnes à revenu faible ou modéré (LMI) souhaitent des fonctionnalités de construction de crédit, de gestion de budget et de gestion de dettes.

*   Les répondants apprécient un espace sans jugement avec un chatbot pour poser des questions financières sensibles, sans craindre la honte ou la gêne que pourrait entraîner une conversation face à face avec un représentant humain.

3. Comment voyez-vous l’évolution de l’IA conversationnelle dans le secteur des services financiers, notamment pour les communautés mal desservies ?

Idéalement, la prochaine génération de chatbots alimentés par l’IA générative sera des assistants financiers IA qui soutiennent mieux les activités financières de ces ménages, et gagnent la confiance des populations souvent méfiantes vis-à-vis du système financier et du partage de données en ligne. Il existe une grande opportunité pour les prestataires de services financiers d’offrir des capacités plus complexes, nuancées et orientées vers l’action pour leurs chatbots.

Lorsque les clients utilisent actuellement des chatbots financiers, ils recherchent principalement des informations sur leur compte ou essaient de résoudre un problème. Moins de 20 % de nos répondants à l’enquête nationale ont utilisé des chatbots pour des conseils financiers, de l’éducation, des recommandations de produits, la demande de crédit ou de prêts, ou l’ouverture/fermeture de comptes. Cependant, notre recherche montre qu’il existe une demande pour des chatbots pouvant aider dans ces types d’actions bancaires. Se concentrer sur ces fonctionnalités lors du développement de chatbots pourrait augmenter leur utilisation et leur utilité auprès de ces clients.

Pour les banques et institutions financières qui ne sont pas encore prêtes à lancer directement des copilotes financiers IA génératifs aux consommateurs, cette technologie peut soutenir les employés bancaires, comme les conseillers clientèle, pour fournir des réponses plus précises, plus rapides et plus pertinentes lors des interactions.

4. Quels sont les principaux défis pour garantir que les outils financiers pilotés par l’IA soient équitables et efficaces pour les ménages dirigés par des personnes noires, latinas ou des femmes ?

Avec toutes les technologies émergentes, il faut faire un effort délibéré pour que les besoins des personnes à revenu faible ou modéré soient intégrés dans le processus de développement et dans les décisions de conception. Nous avons constaté qu’un partenariat privé/philanthropique avec des institutions financières dès le début aide à créer une dynamique pour ces efforts. En développant une base de preuves, nous contribuons aussi à renforcer l’argumentaire commercial.

Nous avons identifié un potentiel significatif pour des recommandations de conception autour de l’augmentation de la confiance acquise, ce qui peut permettre à l’IA conversationnelle de soutenir la santé financière sans coûts majeurs supplémentaires.

5. Sur la base de vos recherches, quels sont les principes de conception clés que les prestataires de services financiers devraient considérer lors de l’intégration de l’IA pour soutenir les utilisateurs LMI ?

Commonwealth a créé une ressource, le Guide de l’IA financière pour le bien, pour fournir des recommandations concrètes de conception aux prestataires de services financiers qui servent les populations LMI. Ces recommandations sont basées sur une recherche approfondie avec des institutions financières, des fournisseurs de chatbots et des personnes vivant avec un revenu faible ou modéré.

Le guide s’articule autour de quatre objectifs principaux de conception. Voici un ou deux exemples pour chacun :

*   Gagner la confiance : La principale préoccupation de nos répondants lors de l’utilisation d’un chatbot était la sécurité. Les institutions financières peuvent insister sur la sécurité des données en communiquant clairement dès le départ les mesures prises par la banque, tout en donnant aux utilisateurs le contrôle sur les données stockées.
*   Favoriser l’engagement : Créer une expérience où les utilisateurs savent ce que ces outils peuvent faire pour eux et quand, en clarifiant leurs fonctions. Poursuivre une « proactivité intelligente » en intégrant des chatbots qui apparaissent au moment le plus utile, sans être trop insistants ou agressifs, ce qui pourrait donner une impression de spam.
*   Augmenter la valeur : Anticiper les besoins de vos clients. La limitation de l’accès aux agences physiques offre une opportunité pour les chatbots d’effectuer de petites actions que les clients auraient autrement dû faire en agence. Équilibrer automatisation et contrôle en permettant aux utilisateurs d’activer ou désactiver les fonctionnalités financières automatisées, et inclure des « filets de sécurité » qui suspendent le mouvement automatique d’argent si un solde tombe en dessous d’un certain seuil.
*   Améliorer l’accessibilité : Offrir un support multilingue et des conseils adaptés à votre clientèle, en mettant l’accent sur des fonctionnalités mobiles conviviales. Notre étude a montré que plus de la moitié des répondants préfèrent accéder à leur banque via leur téléphone mobile.

6. Pouvez-vous partager des histoires de réussite ou des études de cas où l’IA conversationnelle a significativement amélioré le bien-être financier des personnes LMI ?

Ce que nous savons, c’est que 57 % des utilisateurs de notre étude sur le terrain ont indiqué que l’utilisation d’un chatbot financier avait eu un impact positif sur leur situation financière. Bien que ces premiers résultats soient prometteurs, les outils d’IA générative en sont encore à leurs débuts, et nos recherches en cours continueront à enrichir la base de preuves sur leur efficacité pour améliorer le bien-être financier des personnes LMI.

7. Quels risques ou conséquences inattendues les institutions financières doivent-elles surveiller lors de la mise en œuvre d’outils financiers pilotés par l’IA ?

Ce qui est crucial, c’est que les personnes à revenu faible ou modéré ne soient pas exclues. Lors du développement d’outils, il est essentiel que les institutions comprennent les opportunités inhérentes et les moyens de servir cette clientèle LMI.

De nombreux organismes se concentrent spécifiquement sur les risques et conséquences liés à l’IA, ainsi que sur les biais et la précision des grands modèles linguistiques. Au-delà, il faut s’assurer que la recommandation financière reste pertinente pour la situation financière individuelle de chaque utilisateur. Les institutions peuvent augmenter l’engagement client et gagner leur confiance en garantissant que les informations fournies sont exactes et transparentes.

L’IA offre une opportunité sans précédent pour permettre aux personnes à revenu faible ou modéré d’accéder à des conseils et outils traditionnellement inaccessibles, qu’il s’agisse d’outils d’investissement ou de gestion financière personnelle. Ces outils peuvent être personnalisés pour répondre aux situations spécifiques de ces individus, ce qui représente une énorme opportunité pour les prestataires financiers d’élargir leur clientèle.

8. Comment les institutions financières peuvent-elles mesurer l’impact réel des outils pilotés par l’IA sur la sécurité et le bien-être financiers des utilisateurs ?

Les fondamentaux du bien-être financier : y a-t-il une augmentation de l’épargne, une réduction de la dette, une amélioration des scores de crédit après utilisation de ces outils ?

On peut aussi évaluer l’expérience d’interaction avec le chatbot — la confiance a-t-elle augmenté ? L’intérêt pour des produits susceptibles d’améliorer le bien-être financier a-t-il augmenté ? Après avoir reçu des conseils, des actions ont-elles été entreprises ?

Les banques peuvent également réaliser des tests A/B auprès de différents groupes de consommateurs, certains utilisant des chatbots, d’autres non, pour voir s’il existe une différence mesurable.

9. Quel rôle joue la supervision humaine dans le déploiement des outils d’IA pour les services financiers, et comment les prestataires peuvent-ils trouver le bon équilibre entre automatisation et support humain ?

L’un des moyens d’accroître la confiance acquise autour de l’IA est de garantir qu’une présence humaine soit accessible au bon moment lors de l’interaction. L’utilisation de copilotes par les employés en contact avec la clientèle peut être bénéfique. Avoir accès à un humain en direct quand c’est nécessaire augmente la confiance et la qualité de l’expérience avec l’outil IA.

L’utilisation de l’IA conversationnelle permet aux représentants du service client de mieux et plus rapidement répondre aux besoins complexes de leurs clients, tout en conservant une touche humaine lors des moments clés de l’échange, quand un agent en chair et en os est souhaitable.

La transparence est également essentielle pour instaurer la confiance dans toute interaction. Par exemple, il faut que l’utilisateur sache s’il parle à un chatbot ou à une personne réelle.

10. En regardant vers l’avenir, quelles sont les opportunités les plus excitantes pour l’IA dans l’inclusion financière au cours des cinq prochaines années ?

L’IA générative représente la prochaine étape de l’évolution de l’assistance conversationnelle, offrant un engagement personnalisé et contextuel à un niveau qui se rapproche beaucoup plus du support humain que la structure en arbre de décision de la plupart des chatbots financiers actuels. Les premières applications de l’IA générative dans la finance ont principalement concerné le back-office, où il existe une opportunité de soutenir les agents du service client. Identifier comment l’IA générative peut fournir un support personnalisé à grande échelle dans un contexte financier constitue une opportunité clé pour faire progresser ce secteur.

La construction de la confiance acquise sera particulièrement cruciale pour une adoption plus large de l’IA générative, que nos tests et groupes de discussion montrent encore plus sceptiques que les chatbots traditionnels. Néanmoins, les bénéfices potentiels d’un support plus avancé dans les services financiers font de l’IA générative la technologie la plus prometteuse à suivre dans le secteur.

Parmi d’autres opportunités, on voit des copilotes et assistants personnels capables d’offrir une orientation financière complète, adaptée aux besoins individuels, comme un coach financier personnel. Nous anticipons aussi que les avancées en IA conversationnelle joueront un rôle précieux dans la promotion de la santé financière des travailleurs, en fournissant des informations et des conseils pour naviguer dans des systèmes complexes d’avantages sociaux.

11. Comment voyez-vous l’évolution du rôle des ONG comme Commonwealth dans la promotion d’une utilisation responsable de l’IA dans les services financiers ?

Historiquement, la conception des nouvelles technologies s’est concentrée sur leur adoption par les consommateurs à revenu élevé, en négligeant les besoins des ménages à revenu faible ou modéré. À travers notre initiative Emerging Tech for All (ETA), nous veillons à ce que les besoins des personnes vulnérables financièrement soient compris, visibles, intégrés dans les discussions pertinentes et intégrés dans des solutions. Nous sommes à un point critique pour faire évoluer l’IA, et il est urgent de continuer à rechercher et à identifier comment l’IA peut avoir un impact positif sur cette population.

Actuellement, peu de recherches et d’adoptions concrètes existent dans ce domaine, et certains prestataires que nous avons interviewés ont souligné la nécessité d’études à plus grande échelle pour constituer des preuves solides afin de défendre en interne ce type de conception. Nous relevons ce défi en produisant des recherches impactantes et des tests sur le terrain qui démontrent comment l’IA générative peut soutenir le bien-être financier des ménages LMI et renforcer l’argumentaire pour une conception plus active en faveur de ce segment de consommateurs sous-desservi.

Pour l’avenir, l’impact systémique d’une conception technologique inclusive dépendra de la mise à l’échelle de ces insights par les grands acteurs des services financiers. Pour nous, faire évoluer la conception inclusive à grande échelle passera par l’utilisation de nos recherches pour collaborer avec de plus grandes organisations cherchant à exploiter les avancées de l’IA afin de soutenir la santé financière de leurs clients et de leurs employés.

12. Quel conseil donneriez-vous aux institutions financières souhaitant exploiter l’IA tout en maintenant la confiance et la transparence avec leurs clients ?

Les ménages à revenu faible ou modéré préfèrent souvent faire affaire directement avec une personne, mais ont le moins accès aux agences physiques. Cet écart représente une opportunité clé pour l’IA de fournir un soutien personnalisé recherché par ces ménages, sans nécessiter l’augmentation du nombre d’agences ou de personnel de support.

Cependant, pour favoriser une adoption plus large, les institutions financières doivent gagner et renforcer la confiance dans les chatbots auprès des personnes à revenu faible ou modéré — une partie de cette confiance dépend de l’expérience avec le chatbot, l’autre partie de l’ensemble de l’industrie, à mesure que la technologie IA gagne en acceptation et en sécurité.

Les principales préoccupations des utilisateurs de chatbots sont la sécurité et la confidentialité. En général, ils expriment un manque de confiance dans l’IA conversationnelle pour être utile, protéger leurs données ou agir dans leur meilleur intérêt. Bien que beaucoup dans le secteur soient enthousiasmés par le potentiel de l’IA, les personnes à revenu faible ou modéré la perçoivent souvent avec plus de scepticisme, comme une technologie encore à ses débuts, dont la valeur directe pour eux n’a pas encore été démontrée.

Des politiques de données transparentes, un branding rassurant, des messages clairs, et la possibilité de revenir à un agent humain en cas de besoin contribueront à instaurer et renforcer la confiance. Développer des interactions utiles et personnalisées via l’IA générative, allant au-delà des simples informations de base comme le solde ou les transactions récentes, aidera aussi à démontrer la valeur de la technologie.

Il est également essentiel de mettre en avant le concept de confiance acquise. L’objectif n’est pas seulement de faire en sorte que les gens aient confiance dans les chatbots, mais de concevoir ces outils de manière à ce que cette confiance soit justifiée.