人工智能、信任与服务不足群体——与联邦银行高级副总裁Paula Grieco的访谈

Paula Grieco 是英联邦（Commonwealth）的高级副总裁。

---

发现顶级金融科技新闻与活动！

订阅 FinTech Weekly 的通讯简报

JP摩根、Coinbase、Blackrock、Klarna 等高管阅读

---

金融 AI 还有很长的路要走——不仅在速度、准确性，甚至在监管方面，更在于它如何赢得信任。尤其是来自那些在新技术推出时，通常并不站在第一位的群体。

在 FinTech Weekly，我们一直在关注 Commonwealth 的工作，这是一家非营利组织，致力于为中低收入（LMI）家庭建立金融安全。我们在近期的社论中探讨的实地工作揭示了一种清晰的矛盾：尽管 LMI 用户愿意使用诸如聊天机器人的工具，但他们仍在等待真正能为他们服务的体验——而不仅仅是为他人重新包装出来的功能。

本周，我们更深入地研究了这一点。

我们与 Paula Grieco（英联邦（Commonwealth）高级副总裁）交谈，以了解要让 AI 对弱势社区真正发挥效用——并保持安全——究竟需要什么。从设计原则到赢得信任，从共同助理到聊天机器人疲劳，她分享了为何“意图”比单纯“创新”更重要。

这是一种脚踏实地、深思熟虑的观点，关于包容性金融科技究竟可以——也应该——是什么样子。

下面请阅读完整访谈。

---

2.  英联邦（Commonwealth）近期与 JPMorganChase 的合作为 AI 在提升 LMI 家庭金融安全方面的作用提供了关键洞见。该研究中最令人惊讶或最具影响力的发现是什么？

我们的研究揭示了 AI，尤其是聊天机器人，巨大的潜力：它们可以为居住在低收入人群中的社区提供个性化的指导与支持——前提是，这些聊天机器人在设计时充分考虑到该群体的需求与视角。

两个关键发现：

*   客户普多将聊天机器人视为改善其财务福祉的积极工具。我们的数据表明，57% 的受访者表示使用聊天机器人改善了他们的财务状况。研究也显示，收入处于低到中等水平（LMI）的人希望获得建立信用、预算规划和债务管理等功能。

*   受访者重视聊天机器人所提供的“无评判空间”，他们可以在不必担心因同样的对话发生在面对面与人类代表时可能带来的羞耻或不自在的情况下，询问敏感的财务问题。

3.  你如何看待对话式 AI 在金融服务领域的发展，特别是对弱势社区而言？

理想情况下，由生成式 AI 驱动的下一代聊天机器人将成为 AI 金融助理：更好地支持这些家庭的金融活动，并赢得那些往往对参与金融体系及在网上分享数据保持警惕人群的信任。金融服务提供方存在一个重大机遇：为他们的聊天机器人提供更复杂、更有细微差别、并且以行动为导向的能力。

当客户如今使用金融聊天机器人时，他们主要是在寻求账户信息，或试图解决某个问题。我们的全国性调查受访者中，使用聊天机器人用于金融建议与教育、产品推荐、申请信贷或贷款、以及开立或关闭账户的比例不到 20%。然而，我们的研究发现，人们对能够协助这些类型银行业务的聊天机器人存在需求。在开发聊天机器人时聚焦这些类型的功能，可能会提升这些客户对其的使用与其实际价值。

对于尚未准备直接向消费者推出生成式 AI 金融共同助理（co-pilots）的银行和金融机构，这项技术可以帮助银行员工（例如客户代表）在与客户互动时提供更好、更准确、且更及时的回应。

4.  为确保 AI 驱动的金融工具在黑人、拉丁裔（Latinx）以及女性主导的家庭中做到公平且有效，最大的挑战有哪些？

对于所有新兴技术，都需要在开发流程与设计决策中刻意纳入那些赚取低到中等收入人群的需求。我们发现，尽早与金融机构开展私人/公益伙伴关系有助于为这些工作建立势头。通过扩充证据基础，我们也能帮助建立商业论证。

我们看到了在诸如提高赢得信任（earned trust）这类方面提供设计指导的巨大潜力——它可以让对话式 AI 在不显著增加成本的情况下支持金融健康。

5.  基于你的研究，当金融服务提供方将 AI 用于支持 LMI 用户时，应考虑哪些关键设计原则？

英联邦（Commonwealth）创建了一份资源《Financial AI for Good Guide》（金融 AI 为善指南），旨在为服务 LMI 人群的金融服务提供方提供可操作的设计指导。我们基于与金融机构、聊天机器人提供方以及居住在 LMI 状况中的人群进行的全面研究，制定了这些建议。

该指南围绕四个主要设计目标展开。我会为每一项给出一两个例子：

2.  赢得信任：我们大多数研究受访者在使用聊天机器人时最关心的问题是安全。这也是金融机构可以发挥作用的地方：通过预先告知银行正在采取的措施来强调数据安全性，并让用户掌握哪些数据会被存储。
4.  促进参与：让用户明确知道这些工具能为他们做什么、在什么时机能用到它们。另一个方向是追求“智能主动性”。例如，在它们最有用的情况下集成会弹出的聊天机器人，而不是过于强推或激进，否则可能显得像垃圾信息。
6.  提升价值：预判你的客户需求。实体网点的有限可达性为聊天机器人完成一些“小动作”创造了机会——这些动作原本可能需要客户跑去银行办理。通过允许用户在开启与关闭自动化金融功能之间进行选择，在自动化与控制之间取得平衡；并加入“安全网”功能：一旦余额低于某个阈值，就暂停自动化的资金移动。
8.  改善可及性：提供多语言支持与与客户群匹配的指导，并重点关注对移动端友好的功能。我们的研究显示，超过一半的受访者更喜欢通过手机来访问他们的银行服务。

6.  你能分享一些成功故事或案例研究吗？在这些案例中，对话式 AI 是否显著改善了 LMI 个体的财务福祉？

我们所知道的是，在我们的实地测试研究中，57% 的用户表示使用金融聊天机器人对他们的财务状况产生了积极影响。尽管这些早期结果令人鼓舞，但生成式 AI 工具仍处于早期阶段，我们持续的研究将继续建立一套关于其能否改善 LMI 个体财务福祉的证据基础。

7.  当金融机构实施 AI 驱动的金融工具时，需要警惕哪些风险或意想不到的后果？

重要的是，赚取 LMI 收入的人不能被排除在外。在金融机构开发工具时，关键在于他们要理解对 LMI 客户群提供服务所蕴含的内在机会与方式。

有许多机构专门关注 AI 驱动工具的固有风险与后果，包括大型语言模型的偏差与准确性。除此之外，我们希望确保一个首要关切得到解决：这些金融建议是否与用户各自的财务情况相关。金融机构可以通过确保他们提供的信息准确无误，并做到真正透明，从而提升客户参与度并赢得客户信任。

AI 为赚取 LMI 收入的人提供了前所未有的机会：让他们能够获得传统上并不向他们开放的建议与工具，无论是投资工具还是个人理财管理工具。对于赚取 LMI 收入的人及其独特情境，这些工具都可以被个性化与定制化。这对于金融服务提供方来说，是一个极大的机会：扩大客户群。

8.  金融机构如何衡量 AI 驱动工具对用户财务安全与福祉的真实影响？

财务健康的基础要素：使用这些工具后，是否增加了储蓄、减少了债务、当信用评分时是否有所改善？

我们也可以调查围绕与聊天机器人互动的体验——信任是否增加？是否对那些有助于改善财务福祉的产品产生更高兴趣？谈到提供建议时，在收到建议之后是否采取了行动？

银行还可以在不同消费者群体之间进行 A/B 测试：与使用聊天机器人的群体相比，是否存在可衡量的差异。

9.  在金融服务领域部署 AI 工具时，人类监督扮演什么角色？提供方又如何在自动化与人类支持之间找到恰当的平衡？

围绕 AI 提升赢得信任（earned trust）的一种方式，是确保在互动的恰当时刻可以接入人工。此时，让面向客户的银行员工使用共同助理（co-pilots）会很有帮助。只要在需要时就能接触到真实的人，就能提升对 AI 工具的信任与使用体验。

使用对话式 AI 将使客服代表能够更好、更快速地满足客户及其成员的复杂需求，同时在互动的关键节点上在需要时提供“人的触感”。

透明度对任何互动中建立信任也同样至关重要。例如，你应该知道自己是在和聊天机器人对话，还是在和真实的人对话。

10.  展望未来，未来五年内金融普惠中 AI 最令人振奋的机会有哪些？

生成式 AI 代表对话式 AI 支持的下一次演进：它能在个性化且具情境敏感性的层面提供互动支持，这种体验比当今多数金融聊天机器人的决策树结构更接近人类支持。生成式 AI 在金融中的初步应用主要集中在后台应用场景，在这些场景中有机会支持客户服务代理。识别生成式 AI 如何在金融语境下实现规模化的个性化支持，是推动该领域发展的关键机会。

在更广泛采用生成式 AI 方面，赢得信任的建立尤其关键。参与我们实地测试与焦点小组的人员，对生成式 AI 的态度比对传统聊天机器人更为怀疑。尽管如此，能够在各类金融服务应用中提供更先进层级支持所带来的潜在收益，使生成式 AI 成为金融领域最值得关注、最令人兴奋的技术。能够开发值得信赖、可靠的生成式 AI 支持的人，将站在这一新阶段、实现规模化客户关系构建的前沿。

我们还看到一些更具体的机会：共同助理（co-pilots）和个人助理，它们可以提供全面的金融指导，并针对个人需求量身定制；也就是，你可以把它理解为个人财务教练（financial coach）。此外，我们也预计，对话式 AI 的进步将通过提供信息与指导，帮助员工驾驭复杂的员工福利体系，从而在促进劳动者的财务健康方面发挥有价值的作用。

11.  你如何看待像英联邦（Commonwealth）这样的非营利组织在塑造金融服务中 AI 的负责任使用方面的角色将如何演变？

从历史上看，新技术的设计重点在于让高收入消费者采用，而忽视了 LMI 家庭的需求。通过我们的“面向所有人的新兴科技（Emerging Tech for All, ETA）”倡议，我们致力于确保财务上处于脆弱状态的人们的需求被理解、被看见、被引入到相关讨论中，并被整合进解决方案中。我们正处于规模化应用 AI 的关键转折点，并且我们相信，继续研究并识别 AI 如何对这一人群产生积极影响的路径是十分迫切的。

目前在这一主题上，领域内的研究与采用相对较少；我们在访谈中也听到一些提供方提到，需要开展更大规模的研究，以建立那种能够在内部为这种设计方案提供论证所需的证据。我们正通过产出具有影响力的研究与一线实地测试来迎接这一挑战，这些工作展示了生成式 AI 如何支持居住在 LMI 状况下的家庭的财务福祉，并为更积极地面向这一弱势消费者细分群体进行设计提供商业论证。

面向未来，包容性科技设计的系统性影响将取决于金融服务领域主要参与者对这些洞见的规模化应用。对我们而言，把包容性设计推进到规模化，需要借助我们的研究与更大的组织建立合作——这些组织希望利用 AI 的进步来支持其客户与员工的财务健康。

12.  对那些希望在与客户保持信任与透明的同时利用 AI 的金融机构，你会给出什么建议？

LMI 家庭更希望能直接与真人进行银行业务往来，但他们对线下网点的接触机会却最少。这个差距凸显了一个关键机会：让 AI 提供那种 LMI 居民正在寻求的个性化支持，而无需增加网点数量或客服人员数量。

然而，要推动更广泛的采用，金融机构必须从 LMI 收入人群那里赢得并建立对聊天机器人的信任——其中一部分与聊天机器人的体验本身有关，另一部分则是行业层面的：随着 AI 技术获得更多认可，并在整体安全性与质量方面不断提升。

人们在与聊天机器人互动时最关心的问题是安全与隐私。总体来看，人们表示他们不太信任对话式 AI 能否提供帮助、能否保护他们的数据，或能否站在他们的最佳利益立场上行事。尽管商界许多人对 AI 的潜力感到兴奋，但生活在 LMI 条件下的人可能会更谨慎地看待它——因为这是一项尚未向他们证明其直接价值的新技术。

透明的数据政策、让人安心的品牌与信息传达，以及在作为备选方案时保持与人工客服的连接，都会有助于建立并赢得信任。通过生成式 AI 开发有用且个性化的互动，使其不仅仅提供聊天机器人今天就能提供的基础信息（例如账户余额与近期交易），也能帮助证明这项技术的价值。

同样重要的是强调“赢得信任（earned trust）”这一概念。目标不仅仅是说服人们信任聊天机器人，而是要在设计上确保这种信任是有依据、是站得住脚的。