AI、信頼、そして十分にサービスを受けられていない人々 - CommonwealthのSVP、Paula Griecoへのインタビュー

パウラ・グリエコはコモンウェルスの上級副社長です。

トップのフィンテックニュースとイベントをチェック！

FinTech Weeklyのニュースレターを購読する

JP Morgan、Coinbase、Blackrock、Klarnaなどの経営層が読む

金融AIには長い道のりがあります――単にスピードや精度、あるいは規制だけの話ではなく、それが信頼を獲得するまでのあり方の面でです。とりわけ、新しいテクノロジーが導入される際に「まず最初に列に並ぶ」側ではなかった人たちからの信頼についてです。

FinTech Weeklyでは、**低・中所得（LMI）世帯のための金融面のセキュリティを構築することに取り組む非営利団体、**Commonwealth****の取り組みを追ってきました。私たちの直近の編集記事で取り上げた同団体の現場調査では、明確な緊張関係が明らかになりました。LMIの利用者はチャットボットのようなツールに関して前向きである一方で、実際に彼らの役に立つ体験をまだ待っているのです――他の誰かのために作り直された、単なる“焼き直し機能”ではなく。

今週は、さらに踏み込みました。

私たちはコモンウェルスの上級副社長パウラ・グリエコに話を伺い、十分なサービスを受けられていないコミュニティにとって、AIを“本当に効果的であり、かつ安全”にするために必要なのは何かを理解しようとしました。設計原則から、獲得される信頼へ。コ・パイロットから、チャットボット疲れまで。彼女は、意図がイノベーション“それだけ”よりも重要である理由を語ります。

包括的な金融テクノロジーが、実際に目指すべき姿――そしてそう見えるべき姿――を描く、地に足のついた思慮深い見解です。

以下で、インタビュー全文をご覧ください。

2.  CommonwealthがJPMorganChaseと最近行ったコラボレーションにより、LMI世帯の金融面のセキュリティを高めるうえでAIが果たす役割について重要な示唆が得られました。今回の調査から、最も意外だった、またはインパクトが大きかった発見は何でしたか？

私たちの調査は、特にチャットボットという形でのAIには、低所得で暮らすコミュニティに対してパーソナライズされたガイダンスや支援を提供できる計り知れない可能性があることを明らかにします。――ただし、そのチャットボットが、このグループのニーズや視点を踏まえて思慮深く設計されている場合に限ります。

重要な発見は2つです：

*   顧客の多くは、チャットボットを、自分たちの金融面の健全性を改善するうえで前向きなツールだと捉えています。私たちのデータでは、回答者の57%が、チャットボットを使うことで自分の金融状況が改善したと答えました。また、研究では、低〜中所得（LMI）の収入の人々が、クレジット形成（credit-building）、家計管理（budgeting）、債務管理（debt management）の機能を求めていることも示されました。

*   回答者は、チャットボットを通じて「判断されない空間」を評価していました。つまり、人間の担当者と対面で同じ会話をすることになった場合に伴い得る恥ずかしさや、気まずさ／自己意識の高まりを心配せずに、デリケートな金融上の質問をできるからです。

3.  金融サービスの分野で、対話型AIはどのように進化していくと見ていますか。特に十分なサービスを受けられていないコミュニティにとっては、どうでしょうか？

理想的には、生成AIによって動く次世代のチャットボットは、これらの世帯の金融活動をよりよく支えるAIの金融アシスタントとなり、金融システムとの関わりや、オンラインでのデータ共有に対して警戒心を抱きがちな人々から信頼を獲得できるものになるでしょう。金融サービス提供者には、より複雑で、よりきめ細かく、行動につながる能力を自社のチャットボットに提供できる大きな機会があります。

いま顧客が金融チャットボットを使うとき、主に求めているのは口座情報です。または問題を解決しようとしていることが多いです。全国調査の回答者のうち、20%未満が、金融アドバイスや教育、商品レコメンド、信用やローンの申請、口座の開設または解約のためにチャットボットを使ったことがありました。ですが、私たちの調査では、こうした種類の銀行取引を支援できるチャットボットへの需要があることが分かりました。チャットボットを開発する際に、こうした機能に焦点を当てれば、これらの顧客における利用と有用性が高まる可能性があります。

生成AIによる金融コ・パイロットを、直接消費者に向けてローンチする準備ができていない銀行や金融機関にとっては、この技術は、顧客担当者のような銀行の従業員が、顧客とのやり取りの中で、より良く、より正確で、よりタイムリーな回答を提供するための支えになります。

4.  ブラック系、ラティンクス系、そして女性が主導する世帯にとって、AI主導の金融ツールを“公平で効果的”にするために、どのような課題が最大のものになりますか？

新たに登場する技術すべてに共通して、低〜中所得の収入の人々のニーズが、開発プロセスや設計上の意思決定の中に確実に含まれるように、意図的な取り組みが必要です。私たちは、早い段階で金融機関との民間／フィランソロピックなパートナーシップを結ぶことが、こうした取り組みの推進力を作るのに役立つと見ています。エビデンスの基盤を育てることで、同時にビジネス上の説得材料も強化できます。

また、獲得される信頼を高めるといった領域での設計ガイダンスには、コストを大幅に増やさずに対話型AIが金融面の健全性を支えられるようにする可能性があることも見てきました。

5.  あなたの調査に基づき、LMIユーザーを支援するためにAIを統合する際、金融サービス提供者が考慮すべき主要な設計原則は何でしょうか？

Commonwealthは、LMIの人々にサービスを提供する金融サービス提供者向けに、実行可能な設計ガイダンスを提供するリソースとして「Financial AI for Good Guide」を作成しました。私たちは、金融機関、チャットボット提供者、そしてLMIで暮らす人々との包括的な調査に基づいて、これらの提言を開発しました。

このガイドは、4つの主要な設計目標を軸に構成されています。それぞれについて、例を1つか2つ挙げます：

2.  獲得される信頼：チャットボットを使う際に、私たちの調査回答者の大多数が抱いていた最も大きな懸念はセキュリティでした。ここでは金融機関が、銀行が講じている対策についての事前のメッセージを通じてデータセキュリティを強調し、さらにユーザーが、どのデータが保存されるのかをコントロールできるようにすることができます。
4.  エンゲージメントを促進：ユーザーが、これらのツールで何ができるのか、そしていつ使えるのかを理解できる体験にしてください。これは、ツールの機能についての明確さを作ることで実現できます。さらに、「インテリジェントな先回り（intelligent proactivity）」を追求しましょう。たとえば、押しつけがましくも攻撃的でもなく――スパムのように見えない形で――最も役立つタイミングでポップアップ表示されるチャットボットを統合します。
6.  価値を高める：顧客のニーズを先読みしましょう。対面の支店へのアクセスが限られていることは、顧客がこれまで銀行に行って済ませていた小さなアクションを、チャットボットが完了できる機会につながります。自動化とコントロールのバランスを取るために、ユーザーが自動化された金融機能をオン／オフできるようにし、さらに、残高が一定のしきい値を下回った場合に自動的なお金の動きを一時停止する「セーフティネット」機能も含めてください。
8.  アクセシビリティを改善：多言語対応と、顧客層に合わせたガイダンスを提供し、モバイルに配慮した機能に重点を置きましょう。私たちの調査では、回答者の半数以上が、自分の携帯電話から銀行サービスにアクセスすることを好んでいました。

6.  対話型AIがLMIの個人の金融面の健全性を大きく改善した成功事例やケーススタディがあれば、共有していただけますか？

私たちが把握しているのは、フィールドテストの調査研究において、私たちの分野での57%のユーザーが、金融チャットボットを使うことで自分の金融状況にポジティブな影響があったと示していたことです。これらの初期結果は有望ですが、生成AIツールはまだ初期段階にあり、私たちの継続的な調査は、LMIの個人の金融面の健全性を改善するうえでの有効性についてのエビデンス基盤を今後も構築していきます。

7.  AI主導の金融ツールを導入する際、金融機関が注意すべきリスク、または意図しない結果にはどのようなものがありますか？

重要なのは、LMIの収入を得ている人々がこの議論から取り残されないことです。金融機関がツールを開発するにあたっては、本来の機会や、LMIの顧客層をどのように支えられるのかという方法を理解しておくことが大切です。

AI主導ツールの内在するリスクや結果、そして大規模言語モデルのバイアスや精度に焦点を当てる団体は数多くあります。それに加えて、私たちは対処すべき主要な懸念が1つあることを確実にしたいのです。すなわち、ユーザー個々の金融状況に対して、金融上の推奨がどれだけ適切か（relevance）という点です。金融機関は、提供する情報が正確であること、そして実際の透明性があることを担保することで、顧客のエンゲージメントを高め、顧客の信頼を獲得できます。

AIは、投資ツールであれパーソナルな資金管理であれ、LMIの収入を得ている人々がこれまで伝統的には利用できなかったアドバイスやツールにアクセスできるという、前例のない機会を提示しています。これらのツールは、LMIの人々とその固有の状況に合わせてパーソナライズされ、カスタムできます。これは、金融提供者にとって顧客基盤を拡大できる大きな機会です。

8.  金融機関は、AI主導のツールがユーザーの金融面のセキュリティとウェルビーイングに与える“実際の”影響を、どのように測定できますか？

金融面のウェルネスの基礎（fundamentals）：これらのツールを使うことで、貯蓄は増えますか？債務は減りますか？クレジットスコアは改善しますか？

また、チャットボットとのやり取りに関する体験について調査することもできます――信頼は増えましたか？金融面の健全性の改善に役立つような商品への関心は高まりましたか？助言を受け取った後に、実際の行動は取られましたか？

銀行は、チャットボットを利用している異なる消費者グループと、利用していないグループの間でA/Bテストを実施し、それぞれの間に測定可能な差があるかどうかを確認することもできます。

9.  金融サービスにおけるAIツールの導入で、人間による監督はどのような役割を果たし、提供者は自動化と人によるサポートの適切なバランスをどう取るべきですか？

AIに関する獲得される信頼を高める方法の1つは、やり取りの適切なタイミングで人間がアクセス可能であることを確実にすることです。ここで、顧客と接する銀行従業員によるコ・パイロットの活用が有益になり得ます。必要なときにライブの人間にアクセスできることは、AIツールへの信頼や体験を高めます。

対話型AIを使うことで、カスタマーサービス担当者は、ライブの担当者が望ましいポイントでは人間ならではの“手触り”を提供しつつ、顧客やメンバーの複雑なニーズに対して、より良く、より迅速に対応できるようになります。

透明性もまた、あらゆるやり取りで信頼を築くうえで重要です。たとえば、自分がチャットボットと話しているのか、それとも実在の人と話しているのかを知るべきです。

10.  先を見据えると、今後5年間の金融包摂（financial inclusion）において、AIがもたらす最も刺激的な機会は何でしょうか？

生成AIは、対話型AIによるサポートの次の進化を示しています。つまり、パーソナライズされ、状況に応じた（context-sensitive）関わりを、いまの多くの金融チャットボットが採用している意思決定ツリー構造よりも、人間によるサポートにずっと近い形で提供します。金融分野における生成AIの初期の活用は、主にバックオフィスの領域に集中しており、そこには顧客サービスの担当者を支援できる機会があります。生成AIが金融の文脈で、規模をもってパーソナライズされた支援を提供できるのかを見いだすことは、このセクターの発展を後押しするうえでの重要な機会です。

獲得される信頼の構築は、生成AIのより広範な導入においてとりわけ重要になるはずです。私たちのフィールドテストやフォーカスグループの参加者は、従来型のチャットボットよりも生成AIに対して依然として懐疑的だからです。それでも、金融サービスのさまざまなアプリケーションにわたって、より高度な支援を提供できる可能性があるため、生成AIは金融分野で注目すべき最も刺激的な技術です。信頼でき、かつ確実な生成AIサポートを開発できる人々は、規模をもって行う顧客関係構築の新しい時代の最前線に立つことになるでしょう。

私たちが見ている、他の具体的な機会としては、コ・パイロットやパーソナルアシスタントがあります。これらは、個々のニーズに合わせて包括的な金融ガイダンスを提供でき、いわばパーソナルな金融コーチのような存在です。また、対話型AIの進歩は、複雑な従業員給付制度をナビゲートするための情報とガイダンスを提供することで、従業員の金融面の健全性を促進するうえでも価値ある役割を担うことになると期待しています。

11.  Commonwealthのような非営利団体は、金融サービスにおけるAIの責任ある利用を形作るうえで、どのように役割を変えていくと思いますか？

歴史的に、新しいテクノロジーの設計は、高所得の消費者による導入に焦点が当てられてきた一方で、LMI世帯のニーズは見落とされがちでした。私たちは、Emerging Tech for All（ETA）イニシアチブを通じて、経済的に脆弱な人々のニーズが理解され、可視化され、関連する議論に持ち込まれ、そしてソリューションに統合されるようにすることに注力しています。私たちはAIをスケールさせるうえでの重要な転換点にあり、この層に対してAIがプラスの影響を与えうる方法を、研究し特定し続けることが緊急に必要だと考えています。

このテーマについては、現時点で、比較的研究も導入も多く行われている状況ではありません。私たちがインタビューした一部の提供者は、この種の設計を社内で推進するために使えるようなエビデンスを作るには、より大規模な研究が必要だという趣旨の指摘をしていました。私たちは、インパクトのある研究と現場でのフィールドテストを生み出すことで、この課題に取り組んでいます。これにより、生成AIがLMIで暮らす世帯の金融面の健全性をどのように支え得るのかを示し、十分なサービスを受けていない消費者セグメントに対して、より積極的に設計するためのビジネスケースを作ることができます。

将来を見据えると、インクルーシブなテック設計が生み出す体系的なインパクトは、金融サービスの主要なプレイヤーによって、これらの示唆がスケール規模で活用されるかどうかに左右されます。私たちにとって、インクルーシブな設計をスケールに乗せるには、AIの進歩を活用して顧客や従業員の金融面の健全性を支えようとするより大きな組織と連携するために、私たちの研究を活かすことが鍵になります。

12.  顧客との信頼と透明性を維持しながら、AIを活用しようとしている金融機関に、どのような助言をしますか？

LMI世帯は、人と直接銀行取引をすることに関心が高い一方で、対面で対応してくれる支店へのアクセスは最も乏しいのが実情です。このギャップは、支店数や顧客サポートスタッフの増加を必要とせずに、LMIで暮らす世帯が求めるようなパーソナライズされた支援をAIが提供できるという、重要な機会を浮き彫りにします。

しかし、より広範な導入を進めるためには、LMIの収入を得ている人々が使うチャットボットに対して、より多くの信頼を獲得し、育てていく必要があります。これは一部、チャットボットの体験そのものに起因する課題ですが、また一部は、AI技術がより受け入れられ、全体としてセキュリティと品質が向上していくにつれて生じる業界全体の課題でもあります。

チャットボットと関わる人々の最も大きな懸念は、セキュリティとプライバシーです。一般に、人々は対話型AIが役に立つのか、データを守れるのか、あるいは自分にとって最善の利益になるように行動できるのかについて、信頼が欠けていると表明しています。ビジネス界にはAIの可能性に胸を躍らせている人が多くいる一方で、LMIで暮らす人々は、それがまだ自分にとって直接的な価値を示せていない新しいテクノロジーとして、より懐疑的に見ている可能性が高いです。

透明なデータポリシー、安心感のあるブランディングやメッセージング、そしてバックアップの選択肢として人間の担当者とのつながりを維持することが、信頼を築き、そして信頼を獲得するうえで役立ちます。さらに、生成AIによって、今日のチャットボットが提供している口座残高や直近の取引のような基本情報の提供を超えて、有用でパーソナライズされたやり取りを実現できれば、その技術の価値を示すうえでも役立ちます。

また、獲得される信頼という概念を強調することも重要です。狙いは、単に人々にチャットボットを信じてもらうことではありません。その信頼が正当なものになるように、そうした信頼が“本当に保証される”形でチャットボットを設計することが目的です。