IA, Confiance et les sous-desservis - Entretien avec Paula Grieco, SVP chez Commonwealth

Paula Grieco est vice-présidente principale (Senior Vice President) au sein de Commonwealth.

Découvrez les meilleures actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des dirigeants chez JP Morgan, Coinbase, Blackrock, Klarna et plus

L’IA financière a encore un long chemin à parcourir — non seulement en termes de rapidité, de précision ou même de réglementation, mais aussi dans la façon dont elle gagne la confiance. En particulier auprès de ceux qui n’ont pas traditionnellement été les premiers sur la ligne quand une nouvelle technologie est déployée.

Chez FinTech Weekly, nous suivons le travail de Commonwealth, une organisation à but non lucratif axée sur la construction de la sécurité financière pour les ménages à revenus faibles et modérés (LMI). Leur travail de terrain, exploré dans notre récent éditorial, a mis en évidence une tension claire : alors que les utilisateurs LMI sont ouverts à des outils comme les chatbots, ils attendent encore des expériences qui les servent réellement — pas seulement des fonctionnalités reconditionnées conçues pour quelqu’un d’autre.

Cette semaine, nous sommes allés plus loin.

Nous nous sommes entretenus avec Paula Grieco, vice-présidente principale au sein de Commonwealth, pour comprendre ce qui est vraiment nécessaire pour rendre l’IA efficace — et sûre — pour les communautés mal desservies. Des principes de conception à la confiance acquise, des copilotes à la fatigue liée aux chatbots, elle explique pourquoi l’intention compte plus que l’innovation seule.

Voici un point de vue ancré et réfléchi sur à quoi — et à quoi devrait — ressembler la technologie financière inclusive.

Lisez l’entretien complet ci-dessous.

2.  La récente collaboration de Commonwealth avec JPMorganChase a fourni des enseignements clés sur le rôle de l’IA dans l’amélioration de la sécurité financière des ménages LMI. Quels ont été les résultats les plus surprenants ou les plus marquants issus de cette recherche ?

Notre recherche met en lumière l’immense potentiel de l’IA, en particulier des chatbots, pour offrir des conseils et un accompagnement personnalisés aux communautés vivant avec des revenus plus faibles — à condition que les chatbots soient conçus avec soin, en tenant compte des besoins et des perspectives de ce groupe.

Deux constats clés :

*   Les clients perçoivent largement les chatbots comme des outils positifs pour améliorer leur bien-être financier. Nos données ont montré que 57% des répondants ont déclaré que l’utilisation de chatbots avait amélioré leur situation financière. La recherche a aussi montré que les personnes gagnant des revenus faibles à modérés (LMI) veulent des fonctionnalités de renforcement du crédit, de budgétisation et de gestion de la dette.

*   Les répondants ont apprécié l’espace sans jugement avec un chatbot pour poser des questions financières sensibles, sans avoir à craindre la honte ou le malaise qui pourraient accompagner la même conversation tenue en face à face avec un représentant humain.

3.  Comment voyez-vous l’évolution de l’IA conversationnelle dans le secteur des services financiers, en particulier pour les communautés mal desservies ?

Idéalement, la prochaine génération de chatbots alimentés par l’IA générative sera constituée d’assistants financiers IA capables de mieux soutenir les activités financières de ces ménages, et de gagner la confiance des populations qui se méfient souvent de l’engagement avec le système financier et du partage de données en ligne. Il existe une grande opportunité pour les prestataires de services financiers de fournir à leurs chatbots des capacités plus complexes, plus nuancées et davantage orientées vers l’action.

Lorsque les clients utilisent aujourd’hui des chatbots financiers, ils cherchent principalement des informations sur leurs comptes ou tentent de résoudre un problème. Moins de 20% de nos répondants à l’enquête nationale avaient utilisé des chatbots pour des conseils et une éducation financiers, des recommandations de produits, des demandes de crédit ou de prêts, et pour ouvrir ou fermer des comptes. Cependant, notre recherche met en évidence l’existence d’une demande pour des chatbots capables d’aider dans ce type d’actions bancaires. Cibler ces types de fonctionnalités lors du développement des chatbots pourrait accroître leur utilisation et leur utilité auprès de ces clients.

Pour les banques et les institutions financières qui ne sont pas prêtes à lancer directement auprès des consommateurs des copilotes financiers basés sur l’IA générative, cette technologie peut aider les employés bancaires, tels que les représentants clients, à fournir des réponses meilleures, plus précises et plus rapides aux clients lors des interactions.

4.  Quelles sont quelques-unes des plus grandes difficultés pour s’assurer que les outils financiers pilotés par l’IA sont équitables et efficaces pour les ménages dirigés par des personnes noires, latino-américaines et des femmes ?

Comme pour toutes les technologies émergentes, il faut déployer un effort intentionnel pour s’assurer que les besoins des personnes qui gagnent des revenus faibles à modérés soient inclus dans le processus de développement et dans les décisions de conception. Nous avons constaté qu’un partenariat privé/philanthropique avec des institutions financières, dès le départ, aide à créer une dynamique pour ces efforts. En renforçant une base de preuves, nous contribuons aussi à construire l’argumentaire business.

Nous avons observé un potentiel significatif pour des orientations de conception concernant des éléments comme l’augmentation de la confiance acquise, pouvant permettre à l’IA conversationnelle de soutenir la santé financière sans hausse majeure des coûts.

5.  D’après votre recherche, quels sont les principaux principes de conception que les prestataires de services financiers devraient prendre en compte lorsqu’ils intègrent l’IA pour soutenir les utilisateurs LMI ?

Commonwealth a créé une ressource, le Financial AI for Good Guide, afin de fournir des recommandations de conception actionnables aux prestataires de services financiers qui servent des populations LMI. Nous avons élaboré ces recommandations à partir de recherches approfondies menées auprès d’institutions financières, de fournisseurs de chatbots et de personnes vivant en LMI.

Le guide est organisé autour de quatre objectifs de conception principaux. Je vais vous donner un ou deux exemples pour chacun :

2.  Gagner la confiance : La principale préoccupation parmi la majorité des répondants à notre recherche lors de l’utilisation d’un chatbot était la sécurité. C’est là que les institutions financières peuvent mettre en avant la sécurité des données grâce à des messages initiaux sur les mesures que la banque met en place, tout en donnant aux utilisateurs le contrôle sur les données qui sont stockées.
4.  Favoriser l’engagement : Faites en sorte que l’expérience soit telle que les utilisateurs sachent ce que ces outils peuvent faire pour eux, et quand, en clarifiant leurs fonctions. Cherchez aussi à faire preuve de “proactivité intelligente”. Par exemple, intégrez des chatbots qui apparaissent lorsqu’ils peuvent être les plus utiles, sans être trop insistants ni agressifs, ce qui peut donner une impression de spam.
6.  Accroître la valeur : Anticipez les besoins de votre client. Un accès limité aux agences physiques crée une opportunité pour que les chatbots accomplissent de petites actions que les clients auraient autrement dû faire en se rendant à la banque. Équilibrez l’automatisation et le contrôle en permettant aux utilisateurs d’activer ou de désactiver les fonctionnalités financières automatisées, et incluez des fonctionnalités de “filet de sécurité” qui interrompent le mouvement automatisé de l’argent si un solde passe sous un certain seuil.
8.  Améliorer l’accessibilité : Proposez un support multilingue et des conseils adaptés à votre base de clients, en mettant l’accent sur des fonctionnalités adaptées au mobile. Notre recherche a montré que plus de la moitié de tous les répondants préféraient accéder à leur banque via leurs téléphones mobiles.

6.  Pouvez-vous partager des histoires de réussite ou des études de cas où l’IA conversationnelle a amélioré de manière significative le bien-être financier des personnes LMI ?

Ce que nous savons, c’est que 57% des utilisateurs dans notre étude d’essai terrain ont indiqué que l’utilisation d’un chatbot financier avait eu un impact positif sur leur situation financière. Bien que ces résultats initiaux soient encourageants, les outils d’IA générative en sont encore à leurs débuts, et nos recherches en cours continueront à construire une base de preuves sur leur efficacité pour améliorer le bien-être financier des personnes LMI.

7.  Quels risques ou conséquences involontaires les institutions financières doivent-elles prendre en compte lors de la mise en œuvre d’outils financiers pilotés par l’IA ?

Ce qui est important, c’est que les personnes gagnant des revenus LMI ne soient pas laissées de côté. Lorsqu’une institution financière développe des outils, il est essentiel qu’elle comprenne les opportunités inhérentes et les façons de servir la base de clients LMI.

Il existe de nombreux organismes qui se concentrent spécifiquement sur les risques inhérents et les conséquences des outils liés à l’IA, ainsi que sur les biais et la précision des grands modèles de langage. Au-delà de cela, nous voulons nous assurer qu’une préoccupation principale est traitée : la pertinence des recommandations financières par rapport à la situation financière individuelle des utilisateurs. Les institutions financières peuvent accroître l’engagement des clients et gagner leur confiance en s’assurant que les informations qu’elles fournissent sont exactes et qu’il existe une transparence réelle.

L’IA offre une opportunité sans précédent aux personnes gagnant des revenus LMI d’accéder à des conseils et à des outils qui ne leur étaient traditionnellement pas accessibles, que ce soit pour investir ou pour gérer ses finances personnelles. Ces outils peuvent être personnalisés et adaptés aux personnes LMI et à leurs situations uniques. Il s’agit d’une formidable opportunité pour les prestataires financiers d’élargir leur base de clients.

8.  Comment les institutions financières peuvent-elles mesurer l’impact réel des outils pilotés par l’IA sur la sécurité financière et le bien-être des utilisateurs ?

Les fondamentaux du bien-être financier :  y a-t-il une hausse de l’épargne, une réduction de la dette, une amélioration des scores de crédit lors de l’utilisation de ces outils ?

Nous pouvons aussi sonder l’expérience liée aux interactions avec le chatbot : la confiance a-t-elle augmenté ? Y a-t-il eu un intérêt accru pour des produits susceptibles d’améliorer le bien-être financier ? En matière de conseils, des actions ont-elles été entreprises après avoir reçu des conseils ?

Les banques peuvent aussi mener des tests A/B entre différents groupes de consommateurs qui interagissent avec des chatbots et ceux qui n’en interagissent pas, pour voir s’il existe une différence mesurable entre les deux.

9.  Quel rôle joue la supervision humaine dans le déploiement d’outils d’IA pour les services financiers, et comment les fournisseurs peuvent-ils trouver le bon équilibre entre automatisation et soutien humain ?

L’une des façons d’accroître la confiance acquise autour de l’IA est de s’assurer qu’il y ait un humain accessible aux bons moments pendant l’interaction.  C’est là que l’utilisation de copilotes par les employés bancaires en contact avec les clients peut être bénéfique. L’accès à un humain en direct lorsque c’est nécessaire augmente la confiance et l’expérience avec l’outil IA.

L’utilisation de l’IA conversationnelle permettra aux représentants du service client de mieux et plus rapidement répondre aux besoins complexes de leurs clients et des membres, tout en apportant la touche humaine aux points clés de l’interaction lorsque la présence d’un agent en direct est souhaitable.

La transparence est aussi essentielle pour instaurer la confiance dans toute interaction. Vous devez, par exemple, savoir si vous parlez à un chatbot ou à une personne réelle.

10.  Pour la suite, quelles sont les opportunités les plus enthousiasmantes pour l’IA en matière d’inclusion financière au cours des cinq prochaines années ?

L’IA générative représente la prochaine évolution du soutien par IA conversationnelle, offrant des engagements personnalisés et sensibles au contexte à un niveau qui se rapproche bien davantage du soutien humain que la structure en arbre de décision de la plupart des chatbots financiers aujourd’hui. Les premières applications de l’IA générative dans la finance se sont principalement concentrées sur les applications back-office, où il existe une opportunité de soutenir les agents du service client. Identifier comment l’IA générative peut fournir un accompagnement personnalisé à grande échelle dans un contexte financier constitue une opportunité clé pour stimuler le développement dans ce secteur.

Le renforcement de la confiance acquise sera particulièrement critique pour une adoption plus large de l’IA générative, car les participants à nos tests terrain et groupes de discussion restent plus sceptiques à son égard que pour les chatbots traditionnels. Cela dit, le potentiel des bénéfices liés à un niveau de support plus avancé à travers les applications de services financiers fait de l’IA générative la technologie la plus excitante à surveiller dans le secteur financier. Ceux qui pourront développer un support d’IA générative fiable et digne de confiance seront à la pointe de cette nouvelle ère de construction de relations clients à grande échelle.

Parmi d’autres opportunités spécifiques que nous voyons, citons les copilotes et les assistants personnels capables de fournir des conseils financiers complets adaptés aux besoins individuels, en quelque sorte un coach financier personnel. Nous anticipons également que les avancées en IA conversationnelle joueront un rôle précieux dans la promotion de la santé financière des travailleurs en fournissant des informations et des conseils pour naviguer dans des systèmes complexes d’avantages aux employés.

11.  Comment voyez-vous le rôle d’organisations à but non lucratif comme Commonwealth évoluer dans la façon de façonner l’usage responsable de l’IA dans les services financiers ?

Historiquement, la conception de nouvelles technologies a surtout visé l’adoption par des consommateurs aux revenus plus élevés, tout en négligeant les besoins des ménages LMI. Grâce à notre initiative Emerging Tech for All (ETA), nous nous concentrons sur le fait de veiller à ce que les besoins des personnes financièrement vulnérables soient compris, visibles, introduits dans les conversations pertinentes et intégrés dans des solutions. Nous sommes à un moment charnière critique dans le passage à l’échelle de l’IA, et nous pensons qu’il est urgent de continuer à rechercher et à identifier les façons dont l’IA peut avoir un impact positif sur cette population.

Il existe aujourd’hui relativement peu de recherches et d’adoption sur ce sujet dans le secteur, et certains fournisseurs que nous avons interrogés ont cité le besoin d’études à plus grande échelle pour constituer le type de preuves qu’ils pourraient utiliser pour défendre ce genre de conception en interne. Nous relevons ce défi en produisant des recherches à fort impact et des essais terrain concrets qui démontrent comment l’IA générative peut soutenir le bien-être financier des ménages vivant en LMI, et qui permettent de construire l’argumentaire business en faveur d’une conception plus active pour ce segment de consommateurs mal desservi.

À l’avenir, l’impact systémique de la conception technologique inclusive dépendra des applications à grande échelle de ces enseignements par de grands acteurs des services financiers. Pour nous, faire passer une conception inclusive à l’échelle dépendra de l’exploitation de nos recherches afin de nous associer à des organisations plus vastes qui cherchent à tirer parti des avancées en IA pour soutenir la santé financière de leurs clients et de leurs travailleurs.

12.  Quel conseil donneriez-vous aux institutions financières qui cherchent à tirer parti de l’IA tout en maintenant la confiance et la transparence auprès de leurs clients ?

Les ménages LMI sont davantage intéressés par une banque traitée directement avec une personne, mais ils ont le moins d’accès aux agences en personne. Cet écart met en évidence une opportunité majeure : pour l’IA, fournir le type de soutien personnalisé que recherchent les ménages vivant en LMI, sans avoir à augmenter le nombre d’agences ou le personnel de support client.

Cependant, pour favoriser une adoption plus large, les institutions financières doivent gagner et renforcer davantage la confiance dans les chatbots auprès des personnes gagnant des revenus LMI — une partie de cela est spécifique à l’expérience du chatbot, tandis qu’une autre partie relève de l’ensemble de l’industrie, à mesure que la technologie IA gagne en acceptation et améliore la sécurité et la qualité globales.

Les principales préoccupations des personnes qui interagissent avec des chatbots sont la sécurité et la confidentialité.  De manière générale, les gens ont exprimé un manque de confiance dans l’IA conversationnelle : elle pourrait être utile, protéger leurs données, ou agir dans leur intérêt. Bien que beaucoup dans le monde des affaires soient enthousiastes quant au potentiel de l’IA, les personnes vivant en LMI la voient probablement avec davantage de scepticisme, comme une nouvelle technologie qui n’a pas encore démontré sa valeur directe pour elles.

Des politiques de données transparentes, une image de marque et une communication rassurantes, ainsi que le maintien du lien avec un agent humain comme option de secours aideront à construire et à gagner la confiance. Développer des interactions utiles et personnalisées grâce à l’IA générative qui vont au-delà du fait de fournir l’information de base offerte par les chatbots aujourd’hui, comme les soldes de compte et les transactions récentes, contribuera aussi à démontrer la valeur de la technologie.

Il est également important de mettre l’accent sur le concept de confiance acquise. L’objectif n’est pas seulement de convaincre les gens de faire confiance aux chatbots, mais de concevoir ces chatbots de façon à ce que cette confiance soit justifiée.