AI、信頼、そして十分なサービスを受けられない人々 - Commonwealthの上級副社長Paula Griecoへのインタビュー

_ポーラ・グリエコはコモンウェルスで上級副社長を務めています。

最高のフィンテックニュースとイベントを発見！

FinTech Weeklyのニュースレターを購読

JPモルガン、コインベース、ブラックロック、クラーナなどの経営陣が読んでいます

金融AIにはまだ長い道のりがあります。スピード、正確性、規制の面だけでなく、信頼を獲得する方法においてもです。特に、新しいテクノロジーが登場したときに従来は最初に並ぶことがなかった人々からの信頼です。

FinTech Weeklyでは、低所得から中所得（LMI）世帯向けの金融セキュリティ構築に焦点を当てた非営利団体コモンウェルスの活動を追跡してきました。最近の編集記事で探求した彼らのフィールドワークは、明確な緊張関係を明らかにしました：LMIユーザーはチャットボットのようなツールに対して開放的な一方で、実際に自分たちに役立つ体験をまだ待っている——それは誰か他の人のために作られた機能の単なる再パッケージではありません。

今週はさらに深掘りしました。

私たちはコモンウェルスの上級副社長ポーラ・グリエコに話を聞き、十分なサービスを受けていないコミュニティにとってAIを効果的かつ安全にするために本当に必要なことを理解しました。デザイン原則から獲得された信頼、コパイロットからチャットボット疲れまで、彼女はイノベーションだけではなく意図が重要である理由を語っています。

これは、包括的な金融テクノロジーがあり得る姿、そしてあるべき姿についての地に足のついた思慮深い見解です。

以下の完全なインタビューをお読みください。

2.  コモンウェルスが最近JPMorganChaseと協力したことで、LMI世帯の金融セキュリティ向上におけるAIの役割について重要な洞察が得られました。この研究で最も驚くべき、または影響力のあった発見は何ですか？

私たちの研究は、AI、特にチャットボットが、低所得で生活するコミュニティにパーソナライズされたガイダンスとサポートを提供する計り知れない可能性を明らかにしています——ただし、チャットボットがこのグループのニーズと視点を念頭に置いて思慮深く設計されている場合に限ります。

2つの重要な発見：

*   顧客は概して、チャットボットを金融ウェルビーイング向上のためのポジティブなツールと見なしています。私たちのデータでは、回答者の57%がチャットボットの使用が自分の財務状況を改善したと答えました。また、研究では低所得から中所得（LMI）の人々がクレジット構築、予算管理、債務管理の機能を望んでいることも示されました。

*   回答者は、チャットボットとの判断のない空間で、人間の担当者との対面での会話に伴う恥ずかしさや自意識を心配せずに、敏感な金融質問をできることを評価しました。

3.  会話型AIは、特に十分なサービスを受けていないコミュニティのために、金融サービス分野でどのように進化していくとお考えですか？

理想的には、生成AIを搭載した次世代のチャットボットは、これらの世帯の金融活動をより良くサポートし、金融システムとの関わりやオンラインでのデータ共有にしばしば警戒する人々の信頼を得るAI金融アシスタントになるでしょう。金融サービスプロバイダーには、自社のチャットボットに、より複雑でニュアンスに富み、行動指向の機能を提供する大きな機会があります。

現在、顧客が金融チャットボットを利用するとき、主に口座情報を求めたり、問題を解決しようとしています。全国調査の回答者の20%未満しか、金融アドバイスや教育、商品推奨、クレジットやローンの申し込み、口座開設や閉鎖にチャットボットを使用したことがありませんでした。しかし、私たちの研究では、これらのタイプの銀行業務を支援できるチャットボットに対する需要があることがわかっています。チャットボットを開発する際にこれらのタイプの機能に焦点を当てることで、これらの顧客の間での使用と有用性が高まる可能性があります。

生成AIの金融コパイロットを直接消費者に提供する準備ができていない銀行や金融機関にとって、このテクノロジーは、カスタマー担当者などの銀行従業員が、顧客とのやり取りの際により良く、より正確で、よりタイムリーな応答を提供することを支援できます。

4.  ブラック、ラテン系、女性主導の世帯に対して、AI駆動の金融ツールが公平で効果的であることを確実にする上での最大の課題は何ですか？

すべての新興テクノロジーにおいて、低所得から中所得の人々のニーズが開発プロセスと設計決定に含まれるようにする意図的な努力が必要です。私たちは、金融機関との民間/慈善パートナーシップを早期に結ぶことで、これらの取り組みの勢いを築くことができることを発見しました。エビデンスベースを拡大することで、ビジネスケースの構築にも役立てています。

獲得される信頼を高めることなどに関する設計ガイダンスには、大きなコスト増加なしに会話型AIが金融の健全性をサポートできるようにする大きな可能性があると私たちは見ています。

5.  あなたの研究に基づいて、LMIユーザーをサポートするためにAIを統合する際に、金融サービスプロバイダーが考慮すべき主要な設計原則は何ですか？

コモンウェルスは、LMI人口にサービスを提供する金融サービスプロバイダーに対して実用的な設計ガイダンスを提供するためのリソース「Financial AI for Good Guide」を作成しました。これらの推奨事項は、金融機関、チャットボットプロバイダー、LMIで生活する人々との包括的な研究に基づいて開発されました。

このガイドは、4つの主要な設計目標を中心に整理されています。それぞれについて1つか2つの例を挙げます。

2.  信頼を獲得する：研究の回答者の大多数がチャットボット利用時に最も懸念したのはセキュリティでした。ここで金融機関は、銀行が講じている対策について事前にメッセージを発信することでデータセキュリティを強調し、またユーザーに保存するデータの管理権限を与えることができます。

4.  エンゲージメントを促進する：ユーザーがこれらのツールで何ができ、いつできるかを明確にすることで、機能を明確にした体験を提供します。また、「インテリジェントなプロアクティブ性」を追求します。例えば、最も役立つタイミングでポップアップ表示されるチャットボットを統合しますが、押し付けがましくなく、スパムのように見えないようにします。

6.  価値を高める：顧客のニーズを予測します。物理的な支店へのアクセスが限られていることは、顧客が以前は銀行に行かなければならなかった小さなアクションをチャットボットが完了する機会を生み出します。自動化された金融機能のオン/オフをユーザーが切り替えられるようにして、自動化と制御のバランスをとり、残高が一定のしきい値を下回った場合に自動的な資金移動を一時停止する「セーフティネット」機能を含めます。

8.  アクセシビリティを向上させる：顧客ベースに合わせた多言語サポートとガイダンスを提供し、モバイルフレンドリーな機能に焦点を当てます。私たちの研究では、回答者の半数以上がスマートフォンを介して銀行業務にアクセスすることを好むことが示されました。

6.  会話型AIがLMI個人の金融ウェルビーイングを大幅に改善した成功事例やケーススタディを教えていただけますか？

私たちが知っているのは、フィールドテスト調査のユーザーの57%が、金融チャットボットの使用が自分の財務状況にポジティブな影響を与えたと答えたことです。これらの初期の結果は有望ですが、生成AIツールはまだ初期段階にあり、私たちの進行中の研究は、LMI個人の金融ウェルビーイング改善におけるその有効性に関するエビデンスベースを引き続き構築していきます。

7.  AI駆動の金融ツールを導入する際に、金融機関が注意すべきリスクや意図しない結果は何ですか？

重要なのは、LMIの人々が方程式から取り残されないことです。金融機関がツールを開発する際には、LMI顧客ベースにサービスを提供する固有の機会と方法を理解することが重要です。

AI駆動のツールに固有のリスクと結果、および大規模言語モデルの偏りと正確性に特に焦点を当てている多くの団体があります。それ以上に、私たちは主要な懸念事項に対処することを確実にしたいと考えています：ユーザーの個々の財務状況に対する金融推奨の関連性です。金融機関は、提供する情報が正確であり、真の透明性があることを保証することで、顧客エンゲージメントを高め、顧客の信頼を得ることができます。

AIは、投資ツールや個人財務管理など、従来は利用できなかったアドバイスやツールにLMIの人々がアクセスする前例のない機会を提供します。これらのツールは、LMIの人々とその独自の状況に合わせてパーソナライズおよびカスタマイズできます。これは金融プロバイダーにとって顧客ベースを拡大する絶好の機会です。

8.  金融機関は、AI駆動のツールがユーザーの金融セキュリティとウェルビーイングに与える真の影響をどのように測定できますか？

金融ウェルネスの基本：これらのツールを使用することで、貯蓄の増加、負債の減少、信用スコアの改善はあるか？

また、チャットボットとのやり取りの経験を調査することもできます。信頼は高まったか？金融ウェルビーイングの改善に役立つ製品への関心は高まったか？アドバイスに関して、アドバイスを受け取った後に行動が起こされたか？

銀行は、チャットボットとやり取りしている消費者のグループとそうでないグループの間でA/Bテストを行い、測定可能な差があるかどうかを確認することもできます。

9.  金融サービス向けAIツールの展開において、人間の監視はどのような役割を果たし、プロバイダーは自動化と人間のサポートの適切なバランスをどのように取るべきですか？

AIに対する獲得される信頼を高める方法の1つは、やり取りの周囲で適切なタイミングで人間がアクセス可能であることを確実にすることです。ここで、顧客対応の銀行従業員によるコパイロットの使用が有益となり得ます。必要なときにライブの人間にアクセスできることで、AIツールへの信頼と体験が向上します。

会話型AIを使用することで、カスタマーサービス担当者は、ライブエージェントが望ましいやり取りの重要な時点で人間味を提供しながら、顧客や会員の複雑なニーズに、より良く、より迅速に対応できるようになります。

透明性も、あらゆるやり取りにおいて信頼を構築するために重要です。例えば、自分がチャットボットと話しているのか、実際の人間と話しているのかを知るべきです。

10.  今後5年間で、金融包摂におけるAIの最もエキサイティングな機会は何ですか？

生成AIは、会話型AIサポートの次の進化を表し、今日のほとんどの金融チャットボットの決定木構造よりもはるかに人間のサポートに近いレベルで、パーソナライズされ、状況に応じたエンゲージメントを提供します。金融における生成AIの初期の応用は、主にバックオフィスアプリケーションに焦点を当てており、カスタマーサービスエージェントをサポートする機会があります。金融の文脈で生成AIがどのようにパーソナライズされたサポートを大規模に提供できるかを特定することが、このセクターの開発を推進する重要な機会です。

獲得される信頼構築は、生成AIのより広範な採用にとって特に重要になるでしょう。フィールドテストやフォーカスグループの参加者は、従来のチャットボットよりも生成AIに懐疑的であり続けています。それでも、金融サービスアプリケーション全体でより高度なレベルのサポートを提供する潜在的な利点により、生成AIは金融セクターで最もエキサイティングな注目すべきテクノロジーとなっています。信頼され、信頼性の高い生成AIサポートを開発できる企業は、大規模な顧客関係構築の新時代の最前線に立つでしょう。

私たちが見ている他の具体的な機会としては、個人のニーズに合わせた包括的な金融ガイダンスを提供できるコパイロットやパーソナルアシスタント、いわばパーソナルファイナンシャルコーチがあります。また、会話型AIの進歩は、複雑な従業員福利厚生システムをナビゲートするための情報とガイダンスを提供することで、労働者の金融健全性を促進する上で貴重な役割を果たすと期待しています。

11.  金融サービスにおけるAIの責任ある使用を形成する上で、コモンウェルスのような非営利団体の役割はどのように進化していくとお考えですか？

歴史的に、新しいテクノロジーの設計は、高所得の消費者の採用に焦点を当て、LMI世帯のニーズを見落としてきました。私たちのEmerging Tech for All（ETA）イニシアチブを通じて、経済的に脆弱な人々のニーズが理解され、可視化され、関連する議論に導入され、ソリューションに統合されることを確実にすることに焦点を当てています。AIを拡大する重要な転換点にあり、AIがこの人口にポジティブな影響を与える方法を研究し、特定し続けることが緊急であると考えています。

このトピックに関する分野での研究と採用は今日では比較的少なく、私たちがインタビューした一部のプロバイダーは、社内でこの種の設計を主張するために使用できるエビデンスを構築するための大規模な研究の必要性を挙げました。私たちは、生成AIがLMIで生活する世帯の金融ウェルネスをどのようにサポートできるかを示し、この十分なサービスを受けていない消費者セグメントに対してより積極的に設計するためのビジネスケースを作成する、影響力のある研究と現場でのフィールドテストを生み出すことで、この課題に立ち向かっています。

将来的には、包括的なテクノロジー設計のシステム全体への影響は、金融サービスにおける主要なアクターによるこれらの洞察の大規模な適用に依存するでしょう。私たちにとって、包括的な設計を大規模に展開するには、顧客と労働者の金融健全性をサポートするためにAIの進歩を活用しようとしている大規模組織と提携するために、私たちの研究を活用することに依存します。

12.  信頼と透明性を維持しながらAIを活用しようとしている金融機関にどのようなアドバイスをされますか？

LMI世帯は、直接人と銀行取引をすることにより関心がある一方で、対面の支店へのアクセスは最も少ないです。このギャップは、支店やカスタマーサポートスタッフの数を増やすことなく、LMIで生活する世帯が求める種類のパーソナライズされたサポートをAIが提供する重要な機会を浮き彫りにしています。

しかし、より広範な採用を促進するために、金融機関はLMIの人々からチャットボットに対するより多くの信頼を獲得し、構築する必要があります。この一部はチャットボット体験に固有のものであり、一部は業界全体としてAIテクノロジーがより受け入れられ、全体的なセキュリティと品質が向上するにつれてのものです。

人々がチャットボットに関わる際の最大の懸念はセキュリティとプライバシーです。一般的に、人々は会話型AIが役立つこと、データを保護すること、または自分の最善の利益のために行動することに対して信頼の欠如を表明しています。ビジネス界の多くの人々がAIの可能性に興奮している一方で、LMIで生活する人々は、まだその直接的な価値を実証していない新しいテクノロジーとして、より懐疑的に見る可能性が高いです。

透明なデータポリシー、安心感を与えるブランディングとメッセージング、およびバックアップオプションとしての人間のエージェントへの接続を維持することは、すべて信頼の構築と獲得に役立ちます。今日のチャットボットが提供する口座残高や最近の取引などの基本情報を超えた、生成AIを通じた有用でパーソナライズされたインタラクションを開発することも、テクノロジーの価値を実証するのに役立ちます。

また、獲得される信頼の概念を強調することも重要です。目標は単に人々にチャットボットを信頼させることではなく、この信頼が正当化されるような方法で実際にチャットボットを設計することです。