IA, Confiance et les sous-desservis - Entretien avec Paula Grieco, SVP chez Commonwealth

Paula Grieco est vice-présidente principale chez Commonwealth.

Découvrez les principales actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des cadres chez JP Morgan, Coinbase, Blackrock, Klarna et d’autres

L’IA financière a encore beaucoup de chemin à parcourir — pas seulement en termes de rapidité, de précision, ou même de régulation, mais aussi dans la manière dont elle gagne la confiance. Surtout de la part de ceux qui n’ont pas traditionnellement été les premiers à adopter les nouvelles technologies.

Chez FinTech Weekly, nous suivons le travail de Commonwealth, une organisation à but non lucratif axée sur la construction de la sécurité financière pour les ménages à revenu faible ou modéré (LMI). Leur travail sur le terrain, exploré dans notre éditorial récent, a révélé une tension claire : alors que les utilisateurs à revenu faible ou modéré sont ouverts à des outils comme les chatbots, ils attendent encore des expériences qui leur servent réellement — et non simplement des fonctionnalités reconditionnées conçues pour quelqu’un d’autre.

Cette semaine, nous sommes allés plus en profondeur.

Nous avons parlé avec Paula Grieco, vice-présidente principale chez Commonwealth, pour comprendre ce qui est réellement nécessaire pour rendre l’IA efficace — et sûre — pour les communautés mal desservies. Des principes de conception à la confiance acquise, des copilotes à la fatigue liée aux chatbots, elle partage pourquoi l’intention compte plus que l’innovation seule.

C’est une vision réaliste et réfléchie de ce à quoi pourrait — et devrait — ressembler une technologie financière inclusive.

Lisez l’interview complète ci-dessous.

2.  La récente collaboration de Commonwealth avec JPMorganChase a fourni des insights clés sur le rôle de l’IA dans l’amélioration de la sécurité financière des ménages à revenu faible ou modéré. Quelles ont été les découvertes les plus surprenantes ou impactantes de cette recherche ?

Notre recherche met en lumière le potentiel immense de l’IA, notamment des chatbots, pour fournir des conseils et un soutien personnalisés aux communautés à faibles revenus — si les chatbots sont conçus de manière réfléchie en tenant compte des besoins et des perspectives de ce groupe.

Deux découvertes clés :

*   Les clients voient majoritairement les chatbots comme des outils positifs pour améliorer leur bien-être financier. Nos données montrent que 57 % des répondants ont dit que l’utilisation de chatbots améliorait leur situation financière. La recherche a aussi révélé que les personnes à revenu faible ou modéré (LMI) souhaitent des fonctionnalités de construction de crédit, de budgétisation et de gestion de dettes.

*   Les répondants ont valorisé l’espace sans jugement avec un chatbot pour poser des questions financières sensibles sans craindre la honte ou la gêne que pourrait entraîner une conversation face à face avec un représentant humain.

3.  Comment voyez-vous l’évolution de l’IA conversationnelle dans le secteur des services financiers, en particulier pour les communautés mal desservies ?

Idéalement, la prochaine génération de chatbots alimentés par l’IA générative sera des assistants financiers IA qui soutiennent mieux les activités financières de ces ménages, et gagnent la confiance des populations souvent méfiantes vis-à-vis de leur engagement avec le système financier et du partage de données en ligne. Il existe une opportunité majeure pour les fournisseurs de services financiers d’offrir des capacités plus complexes, nuancées et orientées vers l’action pour leurs chatbots.

Lorsque les clients utilisent actuellement des chatbots financiers, ils recherchent principalement des informations sur leur compte ou essaient de résoudre un problème. Moins de 20 % de nos répondants à l’enquête nationale ont utilisé des chatbots pour des conseils financiers, de l’éducation, des recommandations de produits, la demande de crédit ou de prêts, ou l’ouverture/fermeture de comptes. Cependant, notre recherche montre qu’il existe une demande pour des chatbots pouvant aider dans ces types d’actions bancaires. Se concentrer sur ces fonctionnalités lors du développement de chatbots pourrait augmenter leur utilisation et leur utilité auprès de ces clients.

Pour les banques et institutions financières qui ne sont pas encore prêtes à lancer directement des copilotes financiers alimentés par l’IA générative aux consommateurs, cette technologie peut soutenir les employés bancaires, comme les représentants clients, pour fournir des réponses meilleures, plus précises et plus rapides lors des interactions.

4.  Quels sont les plus grands défis pour garantir que les outils financiers pilotés par l’IA soient équitables et efficaces pour les ménages dirigés par des Noirs, Latinx, et des femmes ?

Avec toutes les technologies émergentes, il faut faire un effort intentionnel pour s’assurer que les besoins de ceux qui ont un revenu faible ou modéré soient intégrés dans le processus de développement et dans les décisions de conception. Nous avons constaté qu’un partenariat privé/philanthropique avec des institutions financières dès le début aide à créer un élan pour ces efforts. En développant une base de preuves, nous contribuons aussi à renforcer l’argumentaire commercial.

Nous avons vu un potentiel significatif pour des orientations de conception autour de choses comme l’augmentation de la confiance acquise, ce qui peut permettre à l’IA conversationnelle de soutenir la santé financière sans coûts majeurs supplémentaires.

5.  D’après votre recherche, quels sont les principes de conception clés que les prestataires de services financiers devraient considérer lors de l’intégration de l’IA pour soutenir les utilisateurs à revenu faible ou modéré ?

Commonwealth a créé une ressource, le Guide de l’IA financière pour le bien, pour fournir des orientations concrètes de conception aux prestataires de services financiers qui servent des populations à revenu faible ou modéré. Nous avons élaboré ces recommandations à partir de recherches approfondies avec des institutions financières, des fournisseurs de chatbots, et des personnes vivant avec un revenu faible ou modéré.

Le guide s’articule autour de quatre objectifs principaux de conception. Je vais vous donner un ou deux exemples pour chacun :

2.  Gagner la confiance : La principale préoccupation de la majorité de nos répondants lors de l’utilisation d’un chatbot était la sécurité. C’est là que les institutions financières peuvent insister sur la sécurité des données via des messages initiaux sur les mesures prises par la banque, tout en donnant aux utilisateurs le contrôle sur les données stockées.
4.  Stimuler l’engagement : Créer une expérience où les utilisateurs savent ce que ces outils peuvent faire pour eux et quand, en clarifiant leurs fonctions. De plus, poursuivre une “proactivité intelligente”. Par exemple, intégrer des chatbots qui apparaissent au moment le plus utile, sans être trop insistants ou agressifs, ce qui pourrait donner une impression de spam.
6.  Augmenter la valeur : Anticiper les besoins de votre client. La limitation de l’accès aux agences physiques crée une opportunité pour les chatbots d’effectuer de petites actions que les clients auraient dû faire en agence. Équilibrer automatisation et contrôle en permettant aux utilisateurs d’activer ou désactiver les fonctionnalités financières automatisées, et inclure des “filets de sécurité” qui suspendent le mouvement automatique d’argent si un solde tombe en dessous d’un certain seuil.
8.  Améliorer l’accessibilité : Offrir un support multilingue et des conseils adaptés à votre clientèle, en mettant l’accent sur des fonctionnalités mobiles. Notre recherche a montré que plus de la moitié des répondants préfèrent accéder à leur banque via leur téléphone mobile.

6.  Pouvez-vous partager des histoires de réussite ou des études de cas où l’IA conversationnelle a significativement amélioré le bien-être financier des personnes à revenu faible ou modéré ?

Ce que nous savons, c’est que 57 % des utilisateurs de notre étude sur le terrain ont indiqué que l’utilisation d’un chatbot financier avait eu un impact positif sur leur situation financière. Bien que ces premiers résultats soient prometteurs, les outils d’IA générative en sont encore à leurs débuts, et nos recherches en cours continueront à construire une base de preuves sur leur efficacité pour améliorer le bien-être financier des personnes à revenu faible ou modéré.

7.  Quels risques ou conséquences inattendues les institutions financières doivent-elles surveiller lors de la mise en œuvre d’outils financiers pilotés par l’IA ?

Ce qui est important, c’est que les personnes à revenu faible ou modéré ne soient pas laissées de côté. Lors du développement d’outils, il faut comprendre les opportunités inhérentes et les moyens de servir cette clientèle LMI.

Il existe de nombreux organismes spécialisés dans les risques et conséquences inhérents à l’IA, ainsi que dans les biais et la précision des grands modèles de langage. Au-delà, nous voulons nous assurer que la principale préoccupation soit traitée : la pertinence des recommandations financières pour la situation financière individuelle de chaque utilisateur. Les institutions financières peuvent augmenter l’engagement client et gagner leur confiance en s’assurant que les informations qu’elles fournissent sont exactes et transparentes.

L’IA offre une opportunité sans précédent pour que les personnes à revenu faible ou modéré accèdent à des conseils et outils qui leur étaient traditionnellement inaccessibles, que ce soit pour des outils d’investissement ou de gestion financière personnelle. Ces outils peuvent être personnalisés et adaptés aux situations spécifiques de ces personnes. C’est une opportunité énorme pour les prestataires financiers d’élargir leur base de clients.

8.  Comment les institutions financières peuvent-elles mesurer l’impact réel des outils pilotés par l’IA sur la sécurité et le bien-être financiers des utilisateurs ?

Les fondamentaux du bien-être financier : y a-t-il une augmentation de l’épargne, une réduction de la dette, une amélioration des scores de crédit lors de l’utilisation de ces outils ?

Nous pouvons aussi évaluer l’expérience d’interaction avec le chatbot — la confiance a-t-elle augmenté ? L’intérêt pour des produits susceptibles d’améliorer le bien-être financier a-t-il augmenté ? Après avoir reçu des conseils, des actions ont-elles été entreprises ?

Les banques peuvent également réaliser des tests A/B auprès de différents groupes de consommateurs interagissant avec des chatbots versus ceux qui n’y ont pas recours, pour voir s’il existe une différence mesurable.

9.  Quel rôle joue la supervision humaine dans le déploiement des outils d’IA pour les services financiers, et comment les prestataires peuvent-ils trouver le bon équilibre entre automatisation et support humain ?

Une des façons d’accroître la confiance acquise autour de l’IA est de s’assurer qu’une présence humaine soit accessible aux moments clés de l’interaction.  C’est là que l’utilisation de copilotes par des employés en contact avec la clientèle peut être bénéfique. L’accès à un humain en direct quand c’est nécessaire augmente la confiance et la qualité de l’expérience avec l’outil IA.

L’utilisation de l’IA conversationnelle permettra aux représentants du service client de mieux et plus rapidement répondre aux besoins complexes de leurs clients tout en apportant la touche humaine aux moments clés de l’échange, lorsque la présence d’un agent en direct est souhaitée.

La transparence est également essentielle pour instaurer la confiance dans toute interaction. Vous devriez savoir, par exemple, si vous parlez à un chatbot ou à une personne réelle.

10.  En regardant vers l’avenir, quelles sont les opportunités les plus excitantes pour l’IA dans l’inclusion financière au cours des cinq prochaines années ?

L’IA générative représente la prochaine étape de l’évolution de l’assistance conversationnelle, offrant un engagement personnalisé et contextuel à un niveau qui se rapproche beaucoup plus du support humain que la structure en arbre de décision de la plupart des chatbots financiers actuels. Les premières applications de l’IA générative dans la finance ont principalement concerné les tâches back-office, où il y a une opportunité de soutenir les agents du service client. Identifier comment l’IA générative peut fournir un soutien personnalisé à grande échelle dans un contexte financier constitue une opportunité clé pour stimuler le développement dans ce secteur.

La construction de la confiance acquise sera particulièrement cruciale pour une adoption plus large de l’IA générative, que les participants à nos tests et groupes de discussion restent plus sceptiques que pour les chatbots traditionnels. Néanmoins, les bénéfices potentiels d’un support plus avancé dans les applications de services financiers font de l’IA générative la technologie la plus prometteuse à suivre dans le secteur financier. Ceux qui sauront développer un support génératif fiable et digne de confiance seront à la pointe de cette nouvelle ère de relation client à grande échelle.

Parmi d’autres opportunités spécifiques, nous voyons des copilotes et assistants personnels capables de fournir une orientation financière complète adaptée aux besoins individuels, un peu comme un coach financier personnel. Nous anticipons également que les avancées en IA conversationnelle joueront un rôle précieux dans la promotion de la santé financière des travailleurs en fournissant des informations et des conseils pour naviguer dans des systèmes complexes d’avantages sociaux.

11.  Comment voyez-vous l’évolution du rôle des organisations à but non lucratif comme Commonwealth dans la promotion d’une utilisation responsable de l’IA dans les services financiers ?

Historiquement, la conception des nouvelles technologies s’est concentrée sur leur adoption par les consommateurs à revenu élevé, en négligeant les besoins des ménages à revenu faible ou modéré. À travers notre initiative Tech émergente pour tous (ETA), nous nous concentrons sur la compréhension, la visibilité, l’introduction dans les conversations pertinentes, et l’intégration des besoins des personnes financièrement vulnérables. Nous sommes à un point d’inflexion critique dans la montée en puissance de l’IA, et il est urgent de continuer à rechercher et à identifier comment l’IA peut avoir un impact positif sur cette population.

Il existe peu de recherches et d’adoptions dans le domaine à ce jour, et certains prestataires que nous avons interviewés ont souligné le besoin d’études à plus grande échelle pour constituer des preuves solides qu’ils pourraient utiliser pour défendre en interne ce type de conception. Nous relevons ce défi en produisant des recherches impactantes et des tests sur le terrain qui démontrent comment l’IA générative peut soutenir le bien-être financier des ménages à revenu faible ou modéré, tout en renforçant l’argumentaire commercial pour une conception plus active en faveur de ce segment de consommateurs sous-desservi.

Pour l’avenir, l’impact systémique d’une conception technologique inclusive dépendra de la mise à l’échelle de ces insights par les grands acteurs des services financiers. Pour nous, faire évoluer la conception inclusive à grande échelle dépendra de la capacité à utiliser nos recherches pour collaborer avec de plus grandes organisations cherchant à exploiter les avancées de l’IA afin de soutenir la santé financière de leurs clients et de leurs travailleurs.

12.  Quel conseil donneriez-vous aux institutions financières souhaitant exploiter l’IA tout en maintenant la confiance et la transparence avec leurs clients ?

Les ménages à revenu faible ou modéré préfèrent souvent faire affaire directement avec une personne, mais ont le moins accès aux agences physiques. Cet écart représente une opportunité clé pour l’IA de fournir le type de soutien personnalisé que recherchent ces ménages, sans avoir besoin d’augmenter le nombre d’agences ou de personnel de support client.

Cependant, pour favoriser une adoption plus large, les institutions financières doivent gagner et renforcer la confiance dans les chatbots auprès des personnes à revenu faible ou modéré — une partie de cette confiance est spécifique à l’expérience du chatbot, tandis qu’une autre dépend de l’industrie dans son ensemble, à mesure que la technologie IA gagne en acceptation et en sécurité globale.

Les principales préoccupations des utilisateurs de chatbots sont la sécurité et la confidentialité. En général, ils expriment un manque de confiance dans l’IA conversationnelle pour être utile, protéger leurs données, ou agir dans leur intérêt. Bien que beaucoup dans le monde des affaires soient enthousiastes face au potentiel de l’IA, les personnes à revenu faible ou modéré la perçoivent probablement avec plus de scepticisme, comme une technologie encore à ses débuts, qui doit encore prouver sa valeur directe pour eux.

Des politiques de données transparentes, un branding rassurant, des messages de reassurance, et le maintien d’un lien avec un agent humain en backup contribueront tous à renforcer la confiance. Développer des interactions utiles et personnalisées via l’IA générative, allant au-delà des simples informations de base comme les soldes de compte ou les transactions récentes, aidera également à démontrer la valeur de la technologie.

Il est aussi essentiel de mettre en avant le concept de confiance acquise. L’objectif n’est pas seulement de convaincre les gens de faire confiance aux chatbots, mais de concevoir ces derniers de manière à ce que cette confiance soit justifiée.