AI、信頼、そして十分にサービスを受けられていない人々 - CommonwealthのSVP、Paula Griecoへのインタビュー

パウラ・グレイコはコモンウェルスのシニア・バイス・プレジデントです。

トップのフィンテックニュースとイベントを発見！

FinTech Weeklyのニュースレターを購読する

JPモルガン、コインベース、ブラックロック、クラルナなどのエグゼクティブに読まれています

金融AIには、まだ長い道のりがあります——速度や精度、あるいは規制といった面だけでなく、信頼を獲得するという観点でもです。とりわけ、新しいテクノロジーが導入される際に、従来は最先頭に立っているわけではない人々から信頼を得るという点で。

FinTech Weeklyでは、**低〜中所得（LMI）世帯の金融的安全を築くことに注力する非営利団体、**Commonwealth****の取り組みを追ってきました。私たちの最近の編集記事で取り上げた彼らの現場調査では、明確な緊張関係が浮かび上がりました。一方でLMIの利用者はチャットボットのようなツールに前向きですが、それでも、実際に彼らの役に立つ体験をまだ待っている——他の誰かのために作り直された（言い換えれば再パッケージされた）機能ではなく。

今週は、さらに深掘りしました。

私たちはCommonwealthのシニア・バイス・プレジデントであるパウラ・グレイコに話を伺い、十分に行き届いていないコミュニティにとってAIを「効果的」かつ「安全」にするために本当に必要なことは何かを理解しようとしました。設計の原則から「獲得される信頼」まで、コ・パイロットからチャットボット疲れまで——彼女は、なぜ意図がイノベーションだけよりも重要なのかを語ります。

インクルーシブな金融テクノロジーがどのように——そしてどうあるべきか——を映す、現実に根ざしていて思慮深い見解です。

インタビュー全文は以下をご覧ください。

2.  CommonwealthがJPMorganChaseと行った最近の協業では、LMI世帯の金融的安全を高めるうえでAIが担える役割について重要な示唆が得られました。この調査から、最も意外であった、または最もインパクトの大きかった発見は何でしたか？

私たちの調査は、特にチャットボットにおいて、低所得で暮らすコミュニティに対して個別化されたガイダンスとサポートを提供できるAIの計り知れない可能性を明らかにしました——ただし、そのチャットボットが、このグループのニーズや視点を踏まえたうえで丁寧に設計されている場合に限ります。

重要な発見は2つあります：

*   顧客の多くは、チャットボットを、金融面の健全性を高めるための前向きなツールだと捉えています。私たちのデータでは、回答者の57%が、チャットボットを使うことで自分の金融状況が改善したと述べました。また、低〜中所得（LMI）の人々は、信用づくり、家計管理、債務管理の機能を求めていることも示されました。

*   回答者は、チャットボットと一緒に、判断されない安心な空間があることを評価していました。人間の担当者と対面で同じ会話をする場合に伴い得る、恥ずかしさや気まずさを心配せずに、センシティブな金融の質問をできるからです。

3.  金融サービスの分野で、会話型AIはどのように進化していくとお考えですか。特に、十分に行き届いていないコミュニティにとっては？

理想的には、生成AIによって後押しされる次世代のチャットボットは、これらの世帯の金融活動をよりよく支えるAIファイナンシャルアシスタントとなり、さらに、金融システムとの関わりやオンラインでのデータ共有に対して警戒心を持ちがちな人々から信頼を獲得するでしょう。金融サービス提供者が、チャットボットにより複雑で、よりきめ細かく、そして行動につながる機能を提供できるという大きな機会があります。

現時点で、顧客が金融チャットボットを使うのは主に、口座情報を探す場合か、問題を解決しようとする場合です。私たちの全国調査の回答者のうち、20%未満しか、金融アドバイスや教育、商品推薦、信用やローンの申請、口座の開設または閉鎖にチャットボットを使ったことがありませんでした。とはいえ、私たちの調査では、こうしたタイプの銀行業務を支援できるチャットボットへの需要があることが分かっています。チャットボット開発においてこれらの機能に焦点を当てることで、こうした顧客層での利用や有用性を高められる可能性があります。

生成AIの金融コ・パイロットを消費者に直接提供する準備がまだできていない銀行や金融機関にとって、この技術は、顧客対応担当者などの銀行従業員が、顧客とのやり取りの際により良く、より正確で、よりタイムリーな回答を提供することを支援できます。

4.  ブラック、ラテン系、そして女性がリードする世帯に向けて、AI主導の金融ツールを「公平で効果的」にするうえで、どのような大きな課題があると思いますか？

新しい技術が出てくるたびに、低〜中所得で稼いでいる人々のニーズが、開発プロセスや設計上の意思決定に含まれるよう、意図的に取り組む必要があります。私たちは、初期段階で金融機関との民間／フィランソロピックなパートナーシップを築くことが、こうした取り組みの勢いを作るのに役立つことを見てきました。さらに、エビデンスの基盤を育てることで、ビジネスケースの構築にもつながります。

私たちは、獲得される信頼を高めるといった領域における設計上の指針には、大幅なコスト増を伴わずに会話型AIが金融面の健全性を支えることを可能にする潜在力があることを見出しています。

5.  ご自身の調査を踏まえて、LMIの利用者を支援するためにAIを統合する際、金融サービス提供者が考慮すべき主要な設計原則は何でしょうか？

Commonwealthは、LMIの人々にサービスを提供する金融サービス提供者向けに、実行可能な設計ガイダンスを提供するリソース「Financial AI for Good Guide」を作成しました。私たちは、金融機関、チャットボット提供者、そしてLMIで暮らす人々との包括的な調査に基づいて、これらの推奨事項を作り上げました。

ガイドは、4つの主要な設計目標に整理されています。各目標について、例を1つか2つ挙げます：

2.  信頼を獲得する：チャットボットを使う際に、私たちの調査回答者の大多数が最も強く気にしていたのはセキュリティでした。ここで金融機関は、銀行が講じている対策についての事前のメッセージでデータセキュリティを強調し、さらにユーザーが保存されるデータについてコントロールできるようにすることで対応できます。
4.  エンゲージメントを促進する：ユーザーが、これらのツールで自分に何ができるのか、またそれがいつ可能なのかを理解できるように、機能の内容を明確にして体験の見通しを立てます。加えて、「インテリジェントな先回り（intelligent proactivity）」を追求してください。たとえば、最も役立つタイミングでポップアップ表示されるチャットボットを組み込みつつ、押しつけがましくも攻撃的でもない形にすることで、スパムっぽく受け取られないようにします。
6.  価値を高める：顧客のニーズを見越してください。物理的な支店へのアクセスが限られていることは、顧客が本来は銀行へ出向いて行う必要があった小さな手続きを、チャットボットが完了できる機会につながります。自動化とコントロールのバランスは、ユーザーが自動化された金融機能をオン／オフできるようにすることで取ります。また、残高が一定のしきい値を下回った場合に自動でのお金の移動を一時停止する「セーフティネット（安全網）」機能も含めます。
8.  アクセシビリティを改善する：多言語対応と、顧客層に合ったガイダンスを提供し、モバイルに適した機能に重点を置いてください。私たちの調査では、全回答者の半数以上が、携帯電話を通じて銀行取引にアクセスすることを好んでいました。

6.  会話型AIがLMIの個人の金融面の健全性を大きく改善したという成功事例やケーススタディは、いくつか共有してもらえますか？

私たちが分かっているのは、フィールドテストの調査研究において、57%のユーザーが金融チャットボットを使うことで自分の金融状況に前向きな影響があったと回答していることです。こうした初期結果は有望ですが、生成AIツールはまだ発展途上であり、私たちの進行中の調査では、LMIの個人の金融面の健全性を改善するうえでの有効性についてのエビデンス基盤を引き続き構築していきます。

7.  AI主導の金融ツールを導入する際、金融機関が注意すべきリスクや意図しない結果には、どのようなものがありますか？

重要なのは、LMIで稼いでいる人々がこの議論から置き去りにされないことです。金融機関がツールを開発する際には、LMIの顧客ベースに対してどのような固有の機会があり、どのようにサービスを提供し得るのかを理解することが大切です。

AI主導ツールに内在するリスクやその結果、そして大規模言語モデルのバイアスや精度に焦点を当てる組織はたくさんあります。それに加えて、私たちが確認したい主要な懸念があります。ユーザーの個別の金融状況に対して、金融上の推奨が「関連性」を持っているかどうかです。金融機関は、提供している情報が正確であること、そして本当の意味で透明性があることを担保することで、顧客のエンゲージメントを高め、顧客の信頼を獲得できます。

AIは、LMIで稼いでいる人々が、従来は利用できなかった助言やツールにアクセスできる、前例のない機会を提示しています。たとえば投資ツールであれ、個人のファイナンス管理であれです。これらのツールは、LMIで稼いでいる人々と彼らの固有の状況に合わせてパーソナライズされ、カスタマイズできます。これは、金融提供者が顧客基盤を拡大するうえでの素晴らしい機会です。

8.  金融機関は、AI主導ツールがユーザーの金融的安全やウェルビーイングに与える「実際の影響」を、どのように測定できますか？

金融ウェルネスの基本項目は：これらのツールを使うことで、貯蓄は増えるのか、債務は減るのか、クレジットスコアは改善するのか？

また、チャットボットとのやり取りに関する体験についても調べられます——信頼は増えましたか？金融面の健全性の改善に役立つ商品への関心は高まっていますか？助言を受けた後に、実際にどのような行動が取られましたか？

銀行は、チャットボットとやり取りしているさまざまな消費者グループと、そうでないグループの間でA/Bテストも実施できます。両者の間に測定可能な差があるかどうかを確認するためです。

9.  金融サービスにおけるAIツールの導入で、人間の監督はどんな役割を果たしますか。また提供者は、自動化と人間によるサポートの適切なバランスをどのように取れるでしょうか？

AIをめぐる「獲得される信頼」を高める方法の1つは、やり取りの適切なタイミングで、人間がアクセスできる状態を担保することです。ここで有益になり得るのが、顧客と接する銀行の従業員によるコ・パイロットの活用です。必要になったときにライブの人間にアクセスできることは、AIツールへの信頼と体験を高めます。

会話型AIを使うことで、顧客サービスの担当者は、顧客やメンバーの複雑なニーズに対して、より良く、より迅速に対応できるようになります。また、ライブエージェントが望ましい重要なポイントでは、人間味を提供しながら対応できます。

透明性も、あらゆるやり取りで信頼を築くために不可欠です。たとえば、あなたがチャットボットと話しているのか、それとも実在の人間と話しているのかを把握できるべきです。

10.  今後を見据えて、今後5年間の金融包摂においてAIがもたらす、最もわくわくする機会は何だと思いますか？

生成AIは、会話型AIサポートにおける次の進化を示しています。つまり、パーソナライズされ、状況に応じたエンゲージメントを提供できるという点で、これまでのほとんどの金融チャットボットが採用している決定木構造よりも、人間によるサポートにずっと近い形で提供できるのです。金融分野での生成AIの初期の活用は、主にバックオフィス領域に焦点が当てられてきました。そこには、顧客サービス対応の担当者を支援できる機会があります。金融文脈で、生成AIがどのように大規模な場面で個別化されたサポートを提供できるかを見出すことは、この分野の開発を後押しするうえでの重要な機会です。

生成AIのより広範な普及には、「獲得される信頼」の構築が特に重要になります。私たちがフィールドテストやフォーカスグループで関わった参加者は、従来型のチャットボットよりも生成AIに対してなお懐疑的だからです。それでも、金融サービスのさまざまなアプリケーションにおいて、より高度なレベルのサポートを提供できる可能性があるため、生成AIは金融分野で最も注目すべき技術だと言えます。信頼でき、信頼性の高い生成AIサポートを開発できる人々が、この新しい時代の「顧客との関係構築」を規模をもって実現する最前線に立つでしょう。

私たちが見ている、もう少し具体的な機会としては、コ・パイロットやパーソナルアシスタントがあります。これは、個々のニーズに合わせた包括的な金融ガイダンスを提供できるものです。いわば、個人の金融コーチです。また、会話型AIの進歩は、複雑な従業員向けベネフィット制度を理解し、乗りこなすための情報とガイダンスを提供することで、働く人々の金融的健康を促進するうえでも価値ある役割を果たすことが期待されます。

11.  Commonwealthのような非営利団体は、金融サービスにおけるAIの責任ある利用を形作るうえで、今後どのように役割が変わっていくとお考えですか？

歴史的には、新しいテクノロジーの設計は、高所得の消費者による導入に焦点が当たり、LMI世帯のニーズが見落とされてきました。私たちは、Emerging Tech for All（ETA）イニシアチブを通じて、財政的に脆弱な人々のニーズを理解し、可視化し、関連する議論に持ち込み、そして解決策に組み込むことに注力しています。私たちはAIをスケールするうえで重要な転換点にあると考えており、この人口に対してAIが前向きな影響を与え得る方法を、研究し続け、特定していくことが緊急だと考えています。

この分野では、現時点で相対的に研究も導入もほとんど進んでいません。そして私たちがインタビューした一部の提供者は、この種の設計を社内で後押しするために使えるような「より大規模な研究」が必要だと挙げていました。私たちは、インパクトのある研究や、現場でのフィールドテストを生み出すことで、この課題に立ち向かっています。生成AIがLMIで暮らす世帯の金融的ウェルネスをどのように支援できるのかを示すとともに、この行き届きにくい消費者セグメントを、より積極的に設計の対象として取り込むことのビジネスケースを提示します。

将来を見据えると、インクルーシブなテック設計が社会全体に与える影響は、金融サービス分野の主要プレーヤーが、これらの示唆を規模をもって応用していけるかに左右されます。私たちにとって、インクルーシブな設計をスケールへ広げることは、顧客や従業員の金融面の健全性を支えるためにAIの進歩を活用しようとしている、より大きな組織と提携するために、私たちの研究を活かすことにかかっています。

12.  顧客との間で信頼と透明性を維持しながら、AIを活用しようとする金融機関には、どのような助言をしますか？

LMI世帯は、人と直接銀行取引をすることにより関心がある一方で、対面の支店へのアクセスは最も少ないのです。このギャップは、支店の数や顧客サポート担当者の人数を増やすことなく、LMIで暮らす世帯が求めるような個別化されたサポートをAIが提供できる、という重要な機会を示しています。

ただし、より広範な普及を進めるには、金融機関は、LMIで稼いでいる人々がチャットボットに対して持つ信頼を「獲得し、より積み上げていく」必要があります。そこには、チャットボット体験に特有の要素もありますが、業界全体としてAI技術の受け入れが広がり、全体としてセキュリティと品質が向上していくにつれて生まれる、業界共通の信頼形成の要素も含まれます。

チャットボットに関わる人々の主要な懸念は、セキュリティとプライバシーです。一般に、人々は、会話型AIが役に立つように機能し、データを守り、自分の最善の利益に沿って行動してくれるかについて、信頼を欠いていると表明しています。ビジネスの世界ではAIの可能性に胸を躍らせる人が多い一方で、LMIで暮らす人々は、まだ自分にとっての直接的な価値を示し切れていない新しい技術として、より懐疑的に見ている可能性が高いでしょう。

透明なデータ方針、安心感のあるブランディングやメッセージ、そしてバックアップの選択肢として人間のエージェントとのつながりを維持することは、信頼を構築し、そして信頼を獲得するうえで役立ちます。さらに、生成AIによって、今日のチャットボットが提供しているのは単に口座残高や直近の取引といった基本情報にとどまっているものを超えて、有用で個別化されたやり取りを実現できれば、その技術の価値を示すことにもつながります。

また、「獲得される信頼（earned trust）」という概念を強調することも重要です。目的は単に、人々にチャットボットを信じてもらうことではありません。そうした信頼が正当なものであるように、実際にこの信頼が保証される形でチャットボットを設計することがゴールです。