IA, confiance et les mal desservis - Entretien avec Paula Grieco, SVP chez Commonwealth

Paula Grieco est Vice-présidente principale chez Commonwealth.

Découvrez les meilleures actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des cadres de JP Morgan, Coinbase, Blackrock, Klarna et plus encore

L’IA financière a encore un long chemin à parcourir — non seulement en termes de rapidité, de précision, ou même de réglementation, mais dans la manière dont elle gagne la confiance. Surtout de la part de ceux qui n’ont traditionnellement pas été les premiers à adopter les nouvelles technologies.

Chez FinTech Weekly, nous suivons le travail de Commonwealth, une organisation à but non lucratif axée sur la construction de la sécurité financière pour les ménages à revenu faible et modéré (LMI). Leur travail sur le terrain, exploré dans notre récent éditorial, a révélé une tension claire : si les utilisateurs LMI sont ouverts aux outils comme les chatbots, ils attendent encore des expériences qui les servent réellement — et non pas des fonctionnalités reconditionnées conçues pour quelqu’un d’autre.

Cette semaine, nous sommes allés plus loin.

Nous avons discuté avec Paula Grieco, Vice-présidente principale chez Commonwealth, pour comprendre ce qui est vraiment nécessaire pour rendre l’IA efficace — et sûre — pour les communautés mal desservies. Des principes de conception à la confiance méritée, des copilotes à la lassitude des chatbots, elle partage pourquoi l’intention compte plus que l’innovation seule.

C’est une vision ancrée et réfléchie de ce à quoi la technologie financière inclusive pourrait — et devrait — ressembler.

Lisez l’interview complète ci-dessous.

2.  La récente collaboration de Commonwealth avec JPMorganChase a fourni des informations clés sur le rôle de l’IA dans l’amélioration de la sécurité financière des ménages LMI. Quels ont été les résultats les plus surprenants ou impactants de cette recherche ?

Notre recherche met en lumière l’immense potentiel de l’IA, en particulier des chatbots, à fournir des conseils et un soutien personnalisés aux communautés vivant avec des revenus plus faibles — à condition que les chatbots soient conçus de manière réfléchie en tenant compte des besoins et des perspectives de ce groupe.

Deux conclusions clés :

*   Les clients considèrent en grande partie les chatbots comme des outils positifs pour améliorer leur bien-être financier. Nos données ont montré que 57 % des répondants ont déclaré que l’utilisation de chatbots améliorait leur situation financière. La recherche a également montré que les personnes à revenu faible ou modéré (LMI) souhaitent des fonctionnalités de construction de crédit, de budgétisation et de gestion de la dette.

*   Les répondants ont apprécié l’espace sans jugement d’un chatbot pour poser des questions financières sensibles sans craindre la honte ou la gêne qui pourrait accompagner la même conversation en face à face avec un représentant humain.

3. Comment voyez-vous l’évolution de l’IA conversationnelle dans le secteur des services financiers, en particulier pour les communautés mal desservies ?

Idéalement, la prochaine génération de chatbots alimentée par l’IA générative sera des assistants financiers IA qui soutiendront mieux les activités financières de ces ménages et gagneront la confiance des populations souvent méfiantes à l’égard de l’engagement avec le système financier et du partage de données en ligne. Il existe une opportunité majeure pour les fournisseurs de services financiers d’offrir des capacités plus complexes, nuancées et orientées vers l’action pour leurs chatbots.

Lorsque les clients utilisent des chatbots financiers aujourd’hui, ils cherchent principalement des informations sur leur compte ou tentent de résoudre un problème. Moins de 20 % des répondants à notre enquête nationale avaient utilisé des chatbots pour des conseils et de l’éducation financière, des recommandations de produits, une demande de crédit ou de prêt, et l’ouverture ou la fermeture de comptes. Cependant, notre recherche montre qu’il existe une demande pour des chatbots capables d’aider avec ce type d’actions bancaires. Se concentrer sur ces types de fonctionnalités lors du développement de chatbots peut augmenter leur utilisation et leur utilité parmi ces clients.

Pour les banques et les institutions financières qui ne sont pas prêtes à lancer des copilotes financiers d’IA générative directement aux consommateurs, cette technologie peut soutenir les employés de banque, comme les représentants du service client, pour fournir des réponses meilleures, plus précises et plus rapides aux clients lors des interactions.

4.  Quels sont certains des plus grands défis pour garantir que les outils financiers basés sur l’IA soient équitables et efficaces pour les ménages dirigés par des Noirs, des Latinx et des femmes ?

Avec toutes les technologies émergentes, un effort intentionnel doit être fait pour s’assurer que les besoins de ceux qui gagnent un revenu faible à modéré sont inclus dans le processus de développement et les décisions de conception. Nous avons constaté qu’un partenariat privé/philanthropique avec les institutions financières dès le début aide à créer un élan pour ces efforts. En développant une base de preuves, nous contribuons également à construire le dossier commercial.

Nous avons vu un potentiel significatif pour des conseils de conception autour de choses comme l’augmentation de la confiance méritée, ce qui peut permettre à l’IA conversationnelle de soutenir la santé financière sans augmentations majeures des coûts.

5.  Sur la base de vos recherches, quels sont les principes de conception clés que les fournisseurs de services financiers devraient prendre en compte lors de l’intégration de l’IA pour soutenir les utilisateurs LMI ?

Commonwealth a créé une ressource, le Guide pour une IA Financière Bénéfique, pour fournir des conseils de conception exploitables aux fournisseurs de services financiers qui servent les populations LMI. Nous avons développé ces recommandations sur la base de recherches approfondies avec des institutions financières, des fournisseurs de chatbots et des personnes vivant avec des revenus LMI.

Le guide est organisé autour de quatre objectifs de conception principaux. Je vais vous donner un ou deux exemples pour chacun :

2.  Gagner la confiance : La principale préoccupation de la majorité des répondants à notre recherche lors de l’utilisation d’un chatbot était la sécurité. C’est là que les institutions financières peuvent mettre l’accent sur la sécurité des données grâce à des messages préalables sur les mesures prises par la banque, ainsi que donner aux utilisateurs le contrôle sur les données stockées.
4.  Stimuler l’engagement : Faire en sorte que les utilisateurs sachent ce que ces outils peuvent faire pour eux et quand, en créant de la clarté autour de leurs fonctions. Poursuivre également la « proactivité intelligente ». Par exemple, intégrer des chatbots qui apparaissent lorsqu’ils peuvent être les plus utiles, sans être trop insistants ou agressifs, ce qui pourrait sembler être du spam.
6.  Augmenter la valeur : Anticiper les besoins de votre client. L’accès limité aux agences physiques crée une opportunité pour les chatbots d’effectuer de petites actions que les clients auraient dû faire à la banque. Équilibrer l’automatisation et le contrôle en permettant aux utilisateurs d’activer et de désactiver les fonctionnalités financières automatisées, et inclure des fonctionnalités de « filet de sécurité » qui mettent en pause le mouvement automatisé de l’argent si le solde tombe en dessous d’un certain seuil.
8.  Améliorer l’accessibilité : Proposer un support multilingue et des conseils adaptés à votre base de clients et se concentrer sur des fonctionnalités adaptées aux mobiles. Notre recherche a montré que plus de la moitié des répondants préféraient accéder à leurs services bancaires via leur téléphone mobile.

6. Pouvez-vous partager des histoires de réussite ou des études de cas où l’IA conversationnelle a considérablement amélioré le bien-être financier des individus LMI ?

Ce que nous savons, c’est que 57 % des utilisateurs de notre étude de terrain ont indiqué que l’utilisation d’un chatbot financier avait un impact positif sur leur situation financière. Bien que ces premiers résultats soient prometteurs, les outils d’IA générative en sont encore à leurs balbutiements, et nos recherches en cours continueront à constituer une base de preuves sur leur efficacité à améliorer le bien-être financier des individus LMI.

7. Quels risques ou conséquences imprévues les institutions financières devraient-elles garder à l’esprit lors de la mise en œuvre d’outils financiers basés sur l’IA ?

Ce qui est important, c’est que les personnes à revenu LMI ne soient pas laissées de côté dans l’équation. Lorsque les institutions financières développent des outils, il est important qu’elles comprennent les opportunités inhérentes et les façons de servir la clientèle LMI.

De nombreux organismes se concentrent spécifiquement sur les risques et conséquences inhérents aux outils basés sur l’IA, et sur les biais et la précision des grands modèles de langage. Au-delà de cela, nous voulons nous assurer qu’une préoccupation principale est abordée : la pertinence des recommandations financières pour la situation financière individuelle des utilisateurs. Les institutions financières peuvent augmenter l’engagement des clients et gagner leur confiance en veillant à ce que les informations qu’elles fournissent soient exactes et qu’il y ait une réelle transparence.

L’IA présente une opportunité sans précédent pour les personnes à revenu LMI d’accéder à des conseils et des outils qui ne leur étaient traditionnellement pas accessibles, qu’il s’agisse d’outils d’investissement ou de gestion des finances personnelles. Ces outils peuvent être personnalisés et adaptés aux personnes à revenu LMI et à leurs situations uniques. C’est une opportunité formidable pour les fournisseurs financiers de développer leur clientèle.

8. Comment les institutions financières peuvent-elles mesurer l’impact réel des outils basés sur l’IA sur la sécurité financière et le bien-être des utilisateurs ?

Les fondamentaux du bien-être financier : Y a-t-il une augmentation de l’épargne, une réduction de la dette, une amélioration des scores de crédit lors de l’utilisation de ces outils ?

Nous pouvons également enquêter sur l’expérience autour de l’interaction avec le chatbot — la confiance a-t-elle augmenté ? Y a-t-il un intérêt accru pour les produits qui seraient utiles pour améliorer le bien-être financier ? En ce qui concerne les conseils, des actions ont-elles été entreprises après avoir reçu des conseils ?

Les banques peuvent également effectuer des tests A/B entre différents groupes de consommateurs qui interagissent avec les chatbots par rapport à ceux qui ne le font pas, pour voir s’il existe une différence mesurable entre eux.

9. Quel rôle joue la supervision humaine dans le déploiement des outils d’IA pour les services financiers, et comment les fournisseurs peuvent-ils trouver le bon équilibre entre automatisation et soutien humain ?

L’un des moyens d’augmenter la confiance méritée autour de l’IA est de garantir qu’un humain est accessible aux moments opportuns autour de l’interaction. C’est là que l’utilisation de copilotes par les employés de banque en contact avec la clientèle peut être bénéfique. L’accès à un humain en direct lorsque nécessaire augmente la confiance et l’expérience avec l’outil d’IA.

L’utilisation de l’IA conversationnelle permettra aux représentants du service client de mieux et plus rapidement répondre aux besoins complexes de leurs clients et membres, tout en apportant la touche humaine aux moments clés de l’interaction lorsqu’un agent en direct est souhaitable.

La transparence est également essentielle pour instaurer la confiance dans toute interaction. Vous devez savoir, par exemple, si vous parlez à un chatbot ou à une personne réelle.

10. À l’avenir, quelles sont les opportunités les plus excitantes pour l’IA dans l’inclusion financière au cours des cinq prochaines années ?

L’IA générative représente la prochaine évolution du support de l’IA conversationnelle, offrant un engagement personnalisé et sensible au contexte à un niveau qui se rapproche beaucoup plus du soutien humain que la structure en arbre de décision de la plupart des chatbots financiers actuels. Les premières applications de l’IA générative dans la finance se sont principalement concentrées sur les applications back-office, où il y a une opportunité de soutenir les agents du service client. Identifier comment l’IA générative peut fournir un soutien personnalisé à grande échelle dans un contexte financier est une opportunité clé pour stimuler le développement dans ce secteur.

La construction de la confiance méritée sera particulièrement critique pour une adoption plus large de l’IA générative, dont les participants à nos tests de terrain et groupes de discussion restent plus sceptiques que des chatbots traditionnels. Néanmoins, les avantages potentiels de fournir un niveau de soutien plus avancé dans les applications de services financiers font de l’IA générative la technologie la plus excitante à suivre dans le secteur financier. Ceux qui pourront développer un support d’IA générative fiable et digne de confiance seront à la frontière de cette nouvelle ère de construction de relations clients à grande échelle.

Certaines autres opportunités spécifiques que nous voyons sont les copilotes et les assistants personnels qui peuvent fournir des conseils financiers complets adaptés aux besoins individuels, un coach financier personnel si vous voulez. Nous attendons également des avancées dans l’IA conversationnelle qu’elles jouent un rôle précieux dans la promotion de la santé financière des travailleurs en fournissant des informations et des conseils pour naviguer dans des systèmes d’avantages sociaux complexes.

11. Comment voyez-vous l’évolution du rôle des organisations à but non lucratif comme Commonwealth dans la définition d’une utilisation responsable de l’IA dans les services financiers ?

Historiquement, la conception des nouvelles technologies s’est concentrée sur l’adoption par les consommateurs à revenu élevé tout en négligeant les besoins des ménages LMI. Grâce à notre initiative Technologie Émergente pour Tous (ETA), nous nous concentrons sur la garantie que les besoins des personnes financièrement vulnérables sont compris, visibles, introduits dans les conversations pertinentes et intégrés dans les solutions. Nous sommes à un point d’inflexion critique dans la mise à l’échelle de l’IA, et pensons qu’il est urgent de continuer à rechercher et à identifier les façons dont l’IA peut avoir un impact positif sur cette population.

Relativement peu de recherches et d’adoptions existent sur ce sujet aujourd’hui, et certains fournisseurs que nous avons interrogés ont cité le besoin d’études à plus grande échelle pour construire le type de preuves qu’ils pourraient utiliser pour défendre ce type de conception en interne. Nous relevons ce défi en produisant des recherches impactantes et des tests de terrain concrets qui démontrent comment l’IA générative peut soutenir le bien-être financier des ménages vivant avec des revenus LMI et construire le dossier commercial pour une conception plus active pour ce segment de consommateurs mal desservi.

En regardant vers l’avenir, l’impact systémique de la conception technologique inclusive dépendra de l’application à grande échelle de ces idées par les grands acteurs des services financiers. Pour nous, passer à l’échelle inclusive dépendra de l’exploitation de nos recherches pour nous associer à des organisations plus grandes cherchant à capitaliser sur les avancées de l’IA pour soutenir la santé financière de leurs clients et de leurs travailleurs.

12. Quels conseils donneriez-vous aux institutions financières qui cherchent à tirer parti de l’IA tout en maintenant la confiance et la transparence avec leurs clients ?

Les ménages LMI sont plus intéressés par les services bancaires directs avec une personne, mais ont le moins accès aux agences physiques. Cet écart met en évidence une opportunité clé pour l’IA de fournir le type de soutien personnalisé que les ménages vivant avec des revenus LMI recherchent sans avoir besoin d’augmenter le nombre d’agences ou de personnel de support client.

Cependant, pour stimuler une adoption plus large, les institutions financières doivent gagner et construire davantage de confiance dans les chatbots auprès des personnes à revenu LMI — une partie de cela est spécifique à l’expérience des chatbots, tandis qu’une autre est à l’échelle de l’industrie à mesure que la technologie de l’IA gagne en acceptation et s’améliore en termes de sécurité et de qualité globales.

Les principales préoccupations des personnes qui interagissent avec les chatbots sont la sécurité et la vie privée. En général, les gens ont exprimé un manque de confiance dans l’IA conversationnelle pour être utile, protéger leurs données ou agir dans leur meilleur intérêt. Alors que beaucoup dans le monde des affaires sont enthousiastes à propos du potentiel de l’IA, les personnes vivant avec des revenus LMI la considèrent probablement avec plus de scepticisme en tant que nouvelle technologie qui n’a pas encore démontré sa valeur directe pour eux.

Des politiques de données transparentes, une image de marque et des messages rassurants, et le maintien du lien avec un agent humain comme option de secours contribueront tous à construire et gagner la confiance. Développer des interactions utiles et personnalisées grâce à l’IA générative qui vont au-delà des informations de base offertes par les chatbots aujourd’hui, comme les soldes de comptes et les transactions récentes, aidera également à démontrer la valeur de la technologie.

Il est également important de souligner le concept de confiance méritée. Le but n’est pas simplement de convaincre les gens de faire confiance aux chatbots, mais de concevoir les chatbots de manière à ce que cette confiance soit justifiée.