IA, Confiance et les sous-desservis - Entretien avec Paula Grieco, SVP chez Commonwealth

Paula Grieco est vice-présidente principale au sein de Commonwealth.

Découvrez les meilleures actualités et les meilleurs événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des dirigeants chez JP Morgan, Coinbase, Blackrock, Klarna et plus encore

L’IA financière a encore un long chemin à parcourir — non seulement en termes de vitesse, de précision ou même de réglementation, mais aussi dans la manière dont elle gagne la confiance. Et surtout auprès de ceux qui n’ont pas traditionnellement été en première ligne lorsque de nouvelles technologies sont déployées.

Chez FinTech Weekly, nous suivons le travail de Commonwealth, une organisation à but non lucratif axée sur la construction de la sécurité financière pour les ménages à revenus faibles et modérés (LMI). Leur travail de terrain, exploré dans notre récent éditorial, a révélé une tension claire : bien que les utilisateurs LMI soient ouverts à des outils comme les chatbots, ils attendent encore des expériences qui les servent réellement — pas seulement des fonctionnalités reconditionnées conçues pour quelqu’un d’autre.

Cette semaine, nous sommes allés plus loin.

Nous nous sommes entretenus avec Paula Grieco, vice-présidente principale chez Commonwealth, pour comprendre ce dont l’IA a vraiment besoin pour être efficace — et sûre — pour les communautés mal desservies. Des principes de conception à la confiance acquise, des copilotes à la fatigue liée aux chatbots, elle explique pourquoi l’intention compte plus que l’innovation à elle seule.

C’est une vision ancrée et réfléchie de ce que la technologie financière inclusive pourrait — et devrait — être.

Lisez l’entretien complet ci-dessous.

2.  La collaboration récente de Commonwealth avec JPMorganChase a fourni des enseignements clés sur le rôle de l’IA dans l’amélioration de la sécurité financière des ménages LMI. Quelles ont été les constatations les plus surprenantes ou les plus marquantes issues de cette recherche ?

Notre recherche met en lumière le potentiel immense de l’IA, en particulier des chatbots, pour fournir des conseils et un accompagnement personnalisés aux communautés vivant avec des revenus plus modestes —  à condition que les chatbots soient conçus de manière réfléchie, en tenant compte des besoins et du point de vue de ce groupe.

Deux résultats clés :

*   Les clients considèrent largement les chatbots comme des outils positifs pour améliorer leur bien-être financier. Nos données ont montré que 57% des répondants ont déclaré que l’utilisation de chatbots avait amélioré leur situation financière. La recherche a aussi montré que les personnes ayant des revenus faibles à modérés (LMI) veulent des fonctionnalités de renforcement du crédit, de budgétisation et de gestion de la dette.

*   Les répondants ont apprécié l’espace sans jugement avec un chatbot pour poser des questions financières sensibles sans craindre la honte ou le malaise que pourrait impliquer la même conversation en face à face avec un représentant humain.

3.  Comment voyez-vous l’évolution de l’IA conversationnelle dans le secteur des services financiers, en particulier pour les communautés mal desservies ?

Idéalement, la prochaine génération de chatbots alimentés par l’IA générative sera composée d’assistants financiers capables de mieux soutenir les activités financières de ces ménages et de gagner la confiance de populations souvent méfiantes quant à l’engagement avec le système financier et au partage des données en ligne. Il existe une opportunité majeure pour les prestataires de services financiers de fournir des capacités plus complexes, plus nuancées et axées sur l’action pour leurs chatbots.

Lorsque les clients utilisent aujourd’hui des chatbots financiers, ils cherchent principalement des informations sur leurs comptes ou tentent de résoudre un problème. Moins de 20% des répondants à notre enquête nationale avaient utilisé des chatbots pour des conseils et de l’éducation financières, des recommandations de produits, pour faire une demande de crédit ou de prêts, et pour ouvrir ou clôturer des comptes. Cependant, notre recherche montre qu’il existe une demande pour des chatbots capables d’assister ce type d’actions bancaires. Se concentrer sur ces types de fonctionnalités lors du développement des chatbots peut accroître leur utilisation et leur utilité auprès de ces clients.

Pour les banques et les institutions financières qui ne sont pas encore prêtes à lancer directement auprès des consommateurs des copilotes financiers basés sur l’IA générative, cette technologie peut aider les employés de la banque, tels que les représentants clients, à fournir des réponses meilleures, plus précises et plus rapides aux clients pendant leurs interactions.

4.  Quelles sont certaines des plus grandes difficultés pour garantir que les outils financiers pilotés par l’IA soient à la fois équitables et efficaces pour les ménages dirigés par des personnes noires, latino-américaines (Latinx) et des femmes ?

Avec toutes les technologies émergentes, il faut faire un effort intentionnel pour s’assurer que les besoins des personnes gagnant un revenu faible à modéré sont inclus dans le processus de développement et dans les décisions de conception. Nous avons constaté qu’un partenariat privé/philanthropique avec des institutions financières dès le début aide à créer une dynamique pour ces efforts. En développant une base de preuves, nous contribuons également à construire l’argumentaire commercial.

Nous avons vu un potentiel significatif pour des recommandations de conception autour, par exemple, de l’augmentation de la confiance acquise, qui peuvent permettre à l’IA conversationnelle de soutenir la santé financière sans augmenter fortement les coûts.

5.  D’après votre recherche, quels sont les principes clés de conception que les prestataires de services financiers devraient envisager lorsqu’ils intègrent l’IA pour soutenir les utilisateurs LMI ?

Commonwealth a créé une ressource, le Financial AI for Good Guide, afin de fournir des recommandations de conception actionnables aux prestataires de services financiers qui servent des populations LMI. Nous avons élaboré ces recommandations à partir d’une recherche approfondie menée avec des institutions financières, des fournisseurs de chatbots et des personnes vivant avec des revenus LMI.

Le guide est structuré autour de quatre objectifs de conception principaux. Je vais vous donner un exemple ou deux pour chacun :

2.  Gagner la confiance : La principale préoccupation parmi la majorité des répondants à notre recherche lors de l’utilisation d’un chatbot était la sécurité. C’est ici que les institutions financières peuvent mettre l’accent sur la sécurité des données grâce à des messages initiaux expliquant les mesures que la banque met en place, tout en donnant aux utilisateurs le contrôle sur les données qui sont stockées.
4.  Susciter l’engagement : Faites en sorte que l’expérience soit telle que les utilisateurs sachent ce que ces outils peuvent faire pour eux, et quand, en clarifiant leurs fonctions. Cherchez aussi à mettre en œuvre une « proactivité intelligente ». Par exemple, intégrez des chatbots qui apparaissent lorsqu’ils peuvent être les plus utiles, sans être trop insistants ni agressifs, ce qui peut être perçu comme du spammy.
6.  Accroître la valeur : Anticipez les besoins de votre client. Un accès limité aux agences physiques crée une opportunité pour que les chatbots réalisent de petites actions que les clients auraient dû effectuer à la banque. Équilibrez l’automatisation et le contrôle en permettant aux utilisateurs d’activer et de désactiver les fonctionnalités financières automatisées, et en incluant des fonctionnalités de « filet de sécurité » qui interrompent le mouvement automatisé de l’argent si un solde tombe sous un certain seuil.
8.  Améliorer l’accessibilité : Proposez un support multilingue et des conseils adaptés à votre base de clients, et mettez l’accent sur des fonctionnalités adaptées au mobile. Notre recherche a montré que plus de la moitié de l’ensemble des répondants préféraient accéder à leurs services bancaires via leurs téléphones mobiles.

6.  Pouvez-vous partager des histoires de réussite ou des études de cas où l’IA conversationnelle a amélioré de manière significative le bien-être financier des personnes LMI ?

Ce que nous savons, c’est que 57% des utilisateurs dans notre étude d’essai terrain ont indiqué que l’utilisation d’un chatbot financier avait un impact positif sur leur situation financière. Bien que ces résultats initiaux soient encourageants, les outils d’IA générative en sont encore à leurs débuts, et notre recherche en cours continuera à constituer une base de preuves sur leur efficacité à améliorer le bien-être financier des personnes LMI.

7.  Quels risques ou conséquences imprévues les institutions financières devraient-elles garder à l’esprit lorsqu’elles mettent en œuvre des outils financiers pilotés par l’IA ?

Ce qui compte, c’est que les personnes gagnant un revenu LMI ne soient pas laissées de côté. Lorsque les institutions financières développent des outils, il est important qu’elles comprennent les opportunités inhérentes et les manières de servir la base de clients LMI.

De nombreuses entités se concentrent spécifiquement sur les risques inhérents et les conséquences des outils pilotés par l’IA, ainsi que sur les biais et l’exactitude des grands modèles de langage. Au-delà de cela, nous voulons nous assurer qu’une préoccupation principale est traitée : la pertinence des recommandations financières pour la situation financière individuelle des utilisateurs. Les institutions financières peuvent accroître l’engagement des clients et gagner la confiance de leurs clients en s’assurant que les informations qu’elles fournissent sont exactes et qu’il existe une transparence réelle.

L’IA offre une opportunité sans précédent aux personnes gagnant un revenu LMI d’accéder à des conseils et à des outils qui n’étaient traditionnellement pas disponibles pour elles, que ce soit des outils d’investissement ou la gestion de la finance personnelle. Ces outils peuvent être personnalisés et adaptés aux personnes gagnant un revenu LMI et à leurs situations uniques. Il s’agit d’une formidable opportunité pour les prestataires financiers d’élargir leur base de clients.

8.  Comment les institutions financières peuvent-elles mesurer l’impact réel des outils pilotés par l’IA sur la sécurité et le bien-être financiers des utilisateurs ?

Les fondamentaux du bien-être financier :  Y a-t-il une augmentation de l’épargne, une réduction de la dette, une amélioration des cotes de crédit lors de l’utilisation de ces outils ?

Nous pouvons aussi interroger sur l’expérience liée à l’interaction avec le chatbot — la confiance a-t-elle augmenté ? Y a-t-il un intérêt accru pour des produits qui seraient utiles pour améliorer le bien-être financier ? En matière de conseil, des actions ont-elles été prises après avoir reçu ces recommandations ?

Les banques peuvent également effectuer des tests A/B auprès de différents groupes de consommateurs qui interagissent avec des chatbots par rapport à ceux qui n’en utilisent pas, afin de vérifier s’il existe une différence mesurable entre eux.

9.  Quel rôle la supervision humaine joue-t-elle dans le déploiement d’outils d’IA pour les services financiers, et comment les prestataires peuvent-ils trouver le bon équilibre entre automatisation et soutien humain ?

L’une des façons d’augmenter la confiance acquise autour de l’IA est de s’assurer qu’il y a un humain accessible aux bons moments au cours de l’interaction.  C’est là que l’utilisation de copilotes par des employés de banque en contact avec les clients peut être bénéfique. Avoir accès à un humain en direct lorsque c’est nécessaire augmente la confiance et l’expérience avec l’outil d’IA.

L’utilisation de l’IA conversationnelle permettra aux représentants du service client de mieux et plus rapidement répondre aux besoins complexes de leurs clients et membres, tout en fournissant le contact humain aux points clés de l’interaction lorsqu’un agent en direct est souhaitable.

La transparence est également essentielle pour instaurer la confiance dans toute interaction. Vous devez savoir, par exemple, si vous parlez à un chatbot ou à une personne réelle.

10.  En perspective, quelles sont les opportunités les plus passionnantes pour l’IA en matière d’inclusion financière au cours des cinq prochaines années ?

L’IA générative représente l’évolution suivante de l’assistance par IA conversationnelle : elle offre un engagement personnalisé et sensible au contexte à un niveau qui se rapproche davantage du soutien humain que la structure à base d’arbre de décision de la plupart des chatbots financiers aujourd’hui. Les premières applications de l’IA générative en finance se sont principalement concentrées sur des applications back-office, là où il existe une opportunité de soutenir les agents du service client. Identifier comment l’IA générative peut fournir un accompagnement personnalisé à grande échelle dans un contexte financier est une opportunité clé pour stimuler le développement dans ce secteur.

L’établissement de la confiance sera particulièrement critique pour l’adoption plus large de l’IA générative : les participants à nos tests terrain et à nos groupes de discussion restent plus sceptiques que pour les chatbots traditionnels. Malgré tout, les bénéfices potentiels d’un niveau de soutien plus avancé dans l’ensemble des applications de services financiers font de l’IA générative la technologie la plus excitante à surveiller dans le secteur financier. Ceux qui pourront développer un soutien par IA générative fiable et de confiance seront à la pointe de cette nouvelle ère de construction des relations clients à grande échelle.

Parmi d’autres opportunités spécifiques que nous voyons, il y a les copilotes et les assistants personnels capables de fournir des conseils financiers complets adaptés aux besoins individuels — comme un coach financier personnel, si vous voulez. Nous nous attendons aussi à ce que les progrès de l’IA conversationnelle jouent un rôle précieux pour promouvoir la santé financière des travailleurs en fournissant des informations et des conseils pour naviguer dans des systèmes complexes d’avantages aux employés.

11.  Comment voyez-vous le rôle d’organisations à but non lucratif comme Commonwealth évoluer dans la définition de l’utilisation responsable de l’IA dans les services financiers ?

Historiquement, la conception de nouvelles technologies s’est concentrée sur l’adoption par les consommateurs à revenus élevés, tout en ignorant les besoins des ménages LMI. Grâce à notre initiative Emerging Tech for All (ETA), nous visons à nous assurer que les besoins des personnes financièrement vulnérables sont compris, visibles, introduits dans les conversations pertinentes et intégrés dans les solutions. Nous sommes à un moment charnière critique dans la mise à l’échelle de l’IA, et nous pensons qu’il est urgent de continuer à rechercher et à identifier les façons dont l’IA peut avoir un impact positif sur cette population.

À ce jour, il existe relativement peu de recherches et d’adoption sur ce sujet dans le domaine, et certains prestataires que nous avons interrogés ont cité le besoin d’études à plus grande échelle pour construire le type de base de preuves qu’ils pourraient utiliser pour étayer cette démarche en interne. Nous relevons ce défi en produisant des recherches qui ont un réel impact et des tests terrain concrets qui démontrent comment l’IA générative peut soutenir le bien-être financier des ménages vivant sur des revenus LMI, et qui permettent également de construire l’argumentaire commercial en faveur d’une conception plus active pour ce segment de consommateurs mal desservis.

À l’avenir, l’impact systémique d’une conception inclusive des technologies dépendra de l’adoption à grande échelle de ces enseignements par les grands acteurs des services financiers. Pour nous, passer à l’échelle d’une conception inclusive dépendra de l’exploitation de notre recherche pour nous associer à de plus grandes organisations qui cherchent à tirer parti des progrès en IA afin de soutenir la santé financière de leurs clients et de leurs travailleurs.

12.  Quels conseils donneriez-vous aux institutions financières qui cherchent à tirer parti de l’IA tout en maintenant la confiance et la transparence avec leurs clients ?

Les ménages LMI sont plus intéressés par la banque directement avec une personne, mais ils ont le moins d’accès aux agences en personne. Cet écart met en évidence une opportunité clé pour que l’IA fournisse le type d’accompagnement personnalisé que recherchent les ménages vivant avec des revenus LMI, sans avoir à augmenter le nombre d’agences ou de personnel de support client.

Cependant, pour encourager une adoption plus large, les institutions financières doivent gagner et renforcer davantage la confiance dans les chatbots auprès des personnes gagnant des revenus LMI — une partie de cela est propre à l’expérience avec le chatbot, tandis qu’une autre partie est un enjeu sectoriel, car la technologie IA gagne davantage en acceptation et s’améliore en matière de sécurité et de qualité globales.

Les principales préoccupations des personnes qui interagissent avec des chatbots sont la sécurité et la confidentialité.  En général, les gens ont exprimé un manque de confiance envers l’IA conversationnelle pour être utile, protéger leurs données ou agir dans leur intérêt. Même si beaucoup de personnes dans le monde des affaires sont enthousiastes à l’idée du potentiel de l’IA, les personnes vivant avec des revenus LMI la considèrent probablement avec davantage de scepticisme en tant que nouvelle technologie qui n’a pas encore démontré sa valeur directe pour elles.

Des politiques de données transparentes, une communication et une image de marque rassurantes, et le maintien du lien avec un agent humain comme option de secours contribueront tous à instaurer et à gagner la confiance. Développer des interactions utiles et personnalisées grâce à l’IA générative, qui vont au-delà de la simple fourniture des informations de base proposées par les chatbots aujourd’hui, comme les soldes de compte et les transactions récentes, aidera également à démontrer la valeur de la technologie.

Il est aussi important de mettre l’accent sur le concept de confiance acquise. L’objectif n’est pas seulement de convaincre les gens de faire confiance aux chatbots, mais de concevoir les chatbots de manière à ce que cette confiance soit justifiée.