人工智能、信任与服务不足群体——与联邦银行高级副总裁Paula Grieco的访谈

Paula Grieco 是英联邦（Commonwealth）的高级副总裁。

---

发现顶级金融科技新闻和活动！

订阅 FinTech Weekly 的通讯

JP Morgan、Coinbase、Blackrock、Klarna 等高管阅读

---

金融 AI 还有很长的路要走——不仅仅是在速度、准确性，甚至监管方面，更在于它如何赢得信任。尤其是对那些在新技术推出时，传统上并不总是第一个排队的人而言。

在 FinTech Weekly，我们一直在关注 Commonwealth 的工作，这是一家非营利机构，致力于为低收入和中等收入（LMI）家庭建立金融保障。根据我们近期的编辑部文章中所探讨的实地工作，出现了一种清晰的张力：虽然 LMI 用户对诸如聊天机器人之类的工具持开放态度，但他们仍在等待真正能为他们服务的体验——而不仅仅是为其他人“重新打包”的功能。

这一周，我们深入探讨了更多内容。

我们与 Paula Grieco（英联邦（Commonwealth）高级副总裁）交流，旨在理解：要让 AI 对弱势社区真正有效——并且安全——究竟还需要什么。从设计原则到赢得信任，从协作式（co-pilots）助手到聊天机器人疲劳，她分享了为何“意图”比单靠创新更重要。

这是一种脚踏实地、深思熟虑的观点：包容性金融科技应该——也必须——呈现出怎样的面貌。

请在下方阅读完整采访。

---

2.  英联邦（Commonwealth）最近与 JPMorganChase 的合作为如何通过 AI 改善 LMI 家庭金融保障提供了关键洞见。基于这项研究，哪些发现最令人惊讶或最具影响力？

我们的研究揭示了 AI（尤其是聊天机器人）的巨大潜力：当这些聊天机器人在设计时充分体察这一群体的需求与视角，就能够为居住在较低收入水平的社区提供个性化的指导与支持。

两项关键发现：

*  客户总体上将聊天机器人视为改善其金融福祉的积极工具。我们的数据表明，57% 的受访者表示使用聊天机器人改善了他们的财务状况。研究也显示，低到中等收入（LMI）人群希望具备增强信用、预算管理以及债务管理等功能。

*  受访者重视聊天机器人所提供的“无评判空间”，在这里他们可以就敏感的金融问题提问，而无需担心在同样的对话若发生在与人类代表面对面时可能伴随的羞耻感或自我意识。

3.  你如何看待对话式 AI 在金融服务领域的发展，尤其是对弱势社区而言？

理想情况下，由生成式 AI 驱动的下一代聊天机器人将成为 AI 金融助理，更好地支持这些家庭的金融活动，并赢得那些经常对与金融体系互动以及在网上分享数据抱有戒心人群的信任。对金融服务提供方而言，一个重要机会在于为其聊天机器人提供更复杂、更细致、以行动为导向的能力。

当客户目前使用金融聊天机器人时，他们主要是在寻求账户信息，或试图解决某个问题。我们全国性调查的受访者中，使用聊天机器人用于金融建议与教育、产品推荐、申请信用或贷款，以及开立或关闭账户的比例不足 20%。然而，我们的研究发现，市场对能够协助这些类型银行业务的聊天机器人存在需求。在开发聊天机器人时聚焦这些功能，可能会提升这类客户群的使用率与实用性。

对于尚未准备直接将生成式 AI 金融协作式助手（co-pilots）推向消费者的银行和金融机构，这项技术可以支持银行员工（如客户代表），在与客户互动过程中提供更好、更准确且更及时的回应。

4.  在确保 AI 驱动的金融工具在黑人员、拉丁裔群体以及由女性领导的家庭中实现公平且有效方面，最大的挑战有哪些？

在所有新兴技术中，都需要在开发流程和设计决策中，有意识地纳入那些赚取低到中等收入人群的需求。我们发现，及早与金融机构建立私营/慈善合作伙伴关系，有助于为这些工作积聚势能。通过壮大证据基础，我们也能帮助构建商业论证。

我们已经看到，在诸如提升“赢得信任”之类的方面提供设计指导，能够让对话式 AI 在不大幅增加成本的情况下支持金融健康，这具有显著潜力。

5.  根据你的研究，当金融服务提供方将 AI 集成到以支持 LMI 用户时，应考虑哪些关键设计原则？

英联邦（Commonwealth）创建了一个资源——《面向善用的金融 AI 指南（Financial AI for Good Guide）》，以为服务 LMI 人群的金融服务提供方提供可操作的设计指导。我们基于与金融机构、聊天机器人提供方以及居住在 LMI 的人群进行的全面研究，制定了这些建议。

该指南围绕四个主要设计目标来组织。我会为每个目标举一两个例子：

2.  赢得信任：在我们的研究中，绝大多数受访者在使用聊天机器人时最关切的是安全性。金融机构可以在这里通过在前置沟通中强调数据安全所采取的措施来加以强调，同时让用户掌握哪些数据会被存储的控制权。
4.  促进参与：让体验变成一种让用户清楚知道这些工具能为他们做什么、以及在何时能派上用场的体验，通过阐明它们的功能来实现。此外，还要追求“智能主动性”。例如，集成在最可能发挥作用时弹出使用的聊天机器人，而又不过分强推或激进，否则可能让人感觉像垃圾信息（spammy）。
6.  提升价值：预判你的客户需求。有限的线下网点接入，创造了一个机会：让聊天机器人完成一些小型动作，而这些动作可能原本需要客户亲自去银行办理。通过允许用户在开启与关闭之间控制自动化金融功能，在自动化与控制之间实现平衡，并加入“安全网（safety net）”功能——当余额低于某个阈值时，暂停自动化的资金流动。
8.  改善可及性：提供多语言支持和与客户群匹配的指导，并聚焦于对手机友好的功能。我们的研究表明，超过一半的受访者更愿意通过手机访问他们的银行服务。

6.  你能分享一些成功案例或案例研究吗？在哪些方面，对话式 AI 显著改善了 LMI 个体的金融福祉？

我们所知道的是：在我们的实地测试研究中，57% 的用户表示使用金融聊天机器人对他们的财务状况产生了积极影响。尽管这些早期结果令人鼓舞，但生成式 AI 工具仍处于早期阶段，而我们持续的研究将继续为其在改善 LMI 个体金融福祉方面的有效性建立证据基础。

7.  当金融机构实施 AI 驱动的金融工具时，必须留意哪些风险或非预期后果？

重要的是：赚取 LMI 的人群不能被排除在外。在金融机构开发工具时，关键在于他们要理解其中固有的机会，以及如何服务 LMI 客户群。

确实有许多机构专注于 AI 驱动工具的固有风险与后果，以及大型语言模型的偏差与准确性。除此之外，我们还希望确保解决一个首要担忧：这些金融建议是否与用户各自的财务状况相关。金融机构可以通过确保他们提供的信息准确无误，并建立真实透明度，从而提升客户参与度并赢得客户信任。

AI 为赚取 LMI 的人群提供了前所未有的机会：让他们能够获得传统上无法获得的建议与工具——无论是投资工具还是个人财务管理。对于赚取 LMI 的人群而言，这些工具可以根据他们的需求与独特情境进行个性化与定制。这对金融服务提供方而言是一个巨大的机会，可以扩大其客户基础。

8.  金融机构如何衡量 AI 驱动工具对用户金融安全与福祉的真实影响？

金融健康的基本要素：使用这些工具后，储蓄是否增加？债务是否减少？信用评分是否提升？

我们也可以对与聊天机器人互动的体验进行调查——信任是否提升？对有助于改善金融福祉的产品是否产生了更高的兴趣？在提供建议之后，是否采取了相应行动？

银行还可以在不同消费者群体之间开展 A/B 测试：一组与聊天机器人互动，另一组则不互动，以查看他们之间是否存在可衡量的差异。

9.  人类监督在金融服务中部署 AI 工具时扮演什么角色？提供方又如何在自动化与人类支持之间找到恰当的平衡？

提升围绕 AI 的“赢得信任”的方式之一，是确保在互动的恰当时刻，有一个人类可以被用户访问到。这里，“协作式助手（co-pilots）”被用于面向客户的银行员工身上就可能带来帮助。当需要时能够获得真人服务，会提升对 AI 工具的信任以及整体体验。

使用对话式 AI 将使客户服务代表能够在面对客户与会员的复杂需求时，更好、更快地提供服务，同时在互动中的关键节点（当需要真人时）保留“人情味”。

透明度同样是建立任何互动信任的关键。你应该知道，例如，你是在与聊天机器人对话，还是在与真实的人交流。

10.  展望未来，在未来五年里，AI 在金融包容方面最令人兴奋的机会是什么？

生成式 AI 代表对话式 AI 支持的下一次演进：它能在个性化且能感知语境的层面提供参与体验，其逼近人类支持的程度，远超当下多数金融聊天机器人的决策树结构。生成式 AI 在金融领域的初步应用主要集中在后台（back-office）场景，其中有机会为客户服务座席提供支持。在金融语境中识别生成式 AI 如何在规模化层面提供个性化支持，是推动本领域发展的关键机会。

在更广泛采用生成式 AI 的过程中，“赢得信任”将尤其关键，因为参与我们领域测试与焦点小组的人员，相较于传统聊天机器人，对生成式 AI 仍更为怀疑。尽管如此，能够在多种金融服务应用中提供更先进水平的支持所带来的潜在收益，使生成式 AI 成为金融领域最值得关注的激动人心技术。能够开发可信且可靠的生成式 AI 支持的人，将站在这新时代、以规模化方式构建客户关系的前沿。

我们还看见一些更具体的机会，例如协作式助手（co-pilots）与个人助理，它们能够提供全面的金融指导，并根据个人需求量身定制——你可以把它理解为个人理财教练（personal financial coach）。我们也预计，对话式 AI 的进展将通过向员工提供信息与指导，帮助他们在复杂的员工福利体系中导航，从而在促进员工金融健康方面发挥宝贵作用。

11.  你如何看待像英联邦（Commonwealth）这样的非营利组织在塑造金融服务中负责任使用 AI 方面的角色将如何演变？

从历史上看，新的技术设计往往把重点放在高收入消费者的采用上，却忽视了 LMI 家庭的需求。通过我们的“面向所有人的新兴技术（Emerging Tech for All，ETA）”倡议，我们致力于确保理解财务脆弱人群的需求、让这些需求被看见、被引入到相关讨论中，并被纳入解决方案之中。我们正处在一个扩展 AI 的关键转折点，并认为必须迫切继续研究与识别：AI 能以积极方式影响这一人群的途径。

目前在该主题上，领域内的研究与采用相对较少。我们采访的一些提供方也提到，他们需要更大规模的研究，以建立那种证据，从而在内部为这种设计方式建立论据。通过产出具有影响力的研究以及一线实地测试，我们正迎接这一挑战：展示生成式 AI 如何支持生活在 LMI 的家庭的金融福祉，并为更主动地为这一服务不足的消费者细分群体进行设计提供商业论证。

展望未来，包容性科技设计所带来的系统性影响，将取决于金融服务领域主要参与者如何基于这些洞见进行规模化应用。对我们而言，要把包容性设计推向规模化，将依赖于利用我们的研究去与更大的组织建立合作——这些组织希望借助 AI 的进展来支持其客户与员工的金融健康。

12.  在与客户保持信任和透明的同时，金融机构想要借助 AI，你会给他们什么建议？

LMI 家庭更希望能直接与真人银行互动，但他们获得线下网点的机会却最少。这个差距凸显了一个关键机会：让 AI 提供 LMI 家庭所寻求的那种个性化支持，而无需增加网点数量或客户支持人员数量。

然而，要推动更广泛的采用，金融机构必须赢得并建立来自 LMI 收入人群对聊天机器人的更多信任——其中一部分与聊天机器人的使用体验相关，另一部分则是行业层面的：当 AI 技术获得更多接受、并在整体安全性与质量上持续提升时，这种信任会逐步建立。

与聊天机器人互动的人最担心的是安全与隐私。总体而言，人们表达了对对话式 AI 的不信任：它是否真的有帮助、是否能保护他们的数据、是否会以他们的最佳利益为出发点行事。尽管商业世界中许多人对 AI 的潜力感到兴奋，但居住在 LMI 的人们可能会以更强的怀疑态度看待它——因为这是一项新技术，尚未向他们直接证明其价值。

透明的数据政策、令人安心的品牌与信息传达，以及在作为备选方案时维持与真人代理的连接，都会有助于建立并赢得信任。通过生成式 AI 开发可用且个性化的互动，并让它超越仅提供聊天机器人当下所给出的基础信息（例如账户余额和最近交易），也将有助于进一步展示该技术的价值。

同样重要的是要强调“赢得信任”的概念。目标不仅仅是说服人们去信任聊天机器人，而是要以这样的方式设计聊天机器人：让这种信任是有依据、是合理的。