人工智能、信任与被忽视群体——专访 Commonwealth 高级副总裁 Paula Grieco

Paula Grieco 是 Commonwealth 的高级副总裁。

发现顶级金融科技新闻和活动！

订阅 FinTech Weekly 的新闻通讯

由 JP Morgan、Coinbase、Blackrock、Klarna 等高管阅读

金融人工智能还有很长的路要走——不仅在速度、准确性甚至监管方面，更在于它赢得信任的方式。尤其是来自那些在新技术推出时并不总是第一批接受者的群体。

在 FinTech Weekly，我们一直关注 Commonwealth 的工作，这是一家致力于为低收入和中等收入家庭建立金融安全的非营利组织。我们在近期的社论中探讨了他们的实地工作，揭示了一个明显的矛盾：虽然低收入用户对聊天机器人等工具持开放态度，但他们仍在等待真正为他们服务的体验——而不是为他人重新包装的功能。

本周，我们深入探讨。

我们与 Paula Grieco，Commonwealth 的高级副总裁，进行了交流，了解实现人工智能对服务不足社区既有效又安全的真正需求。从设计原则到赢得信任，从协助驾驶到聊天机器人疲劳，她分享了为何意图比创新本身更重要。

这是对包容性金融科技可能——也应该——呈现的样貌的务实而深思熟虑的看法。

阅读全文请看下方访谈。

2.  Commonwealth 最近与 JPMorgan Chase 的合作为 AI 在改善低收入家庭金融安全方面提供了关键洞察。这项研究中最令人惊讶或最具影响力的发现是什么？

我们的研究揭示了人工智能，特别是聊天机器人，在为低收入社区提供个性化指导和支持方面的巨大潜力——前提是这些聊天机器人经过深思熟虑的设计，充分考虑了该群体的需求和视角。

两个关键发现：

*   客户普遍认为聊天机器人是改善财务状况的积极工具。我们的数据显示，57%的受访者表示使用聊天机器人改善了他们的财务状况。研究还显示，低到中等收入（LMI）人群希望拥有信用建设、预算管理和债务管理等功能。

*   受访者重视无评判空间的聊天机器人，能让他们在提问敏感财务问题时无需担心羞耻或自我意识，这在面对面与人类代表交流时可能会出现。

3.  你如何看待对话式人工智能在金融服务领域，特别是对服务不足社区的未来发展？

理想情况下，由生成式人工智能驱动的下一代聊天机器人将成为更好支持这些家庭财务活动的金融助手，并赢得那些对金融系统持警惕态度、担心数据在线共享的群体的信任。金融服务提供商有巨大机会为他们的聊天机器人提供更复杂、更细腻、以行动为导向的功能。

目前，客户使用金融聊天机器人主要是为了获取账户信息或解决问题。我们国家调查中，少于20%的受访者曾用聊天机器人获取财务建议、教育、产品推荐、申请信用或贷款、开设或关闭账户。然而，我们的研究发现，市场对能协助完成这些银行操作的聊天机器人存在需求。在开发聊天机器人时专注于这些功能，可能会增加其使用率和实用性。

对于尚未准备好直接向消费者推出生成式AI金融协助工具的银行和金融机构，这项技术可以支持银行员工（如客户代表）在互动中提供更好、更准确、更及时的回应。

4.  在确保AI驱动的金融工具对黑人、拉丁裔和女性主导家庭公平有效方面，面临哪些最大挑战？

随着所有新兴技术的出现，必须有意识地努力确保低到中等收入群体的需求在开发过程中被纳入和考虑。我们发现，与金融机构早期建立私营/慈善合作关系，有助于推动这些努力。通过积累证据基础，也有助于建立商业案例。

我们看到在增加赢得信任等设计指导方面具有巨大潜力，这可以让对话式AI在支持财务健康方面发挥作用，而无需大幅增加成本。

5.  根据你的研究，金融服务提供商在整合AI以支持低收入用户时，应考虑哪些关键设计原则？

Commonwealth 创建了“金融AI善用指南”，为服务低收入群体的金融机构提供可操作的设计指导。我们基于与金融机构、聊天机器人供应商及低收入人群的全面研究制定了这些建议。

该指南围绕四个主要设计目标组织。每个目标我举一两个例子：

2.  赢得信任：大多数研究受访者在使用聊天机器人时最关心的是安全性。金融机构可以强调数据安全，通过提前说明采取的措施，以及让用户控制存储哪些数据。

4.  促进参与：让用户清楚这些工具能为他们做什么、何时能帮到他们，创造功能的清晰性。同时，追求“智能主动性”。例如，集成在最需要时弹出的聊天机器人，而不是过于强势或侵入式的推送，避免被认为是垃圾信息。

6.  增加价值：预判客户需求。实体网点有限，为聊天机器人完成一些客户可能需要去银行办理的小事提供了机会。平衡自动化与控制，让用户可以开启或关闭自动财务功能，并加入“安全网”功能，在余额低于某个阈值时暂停自动转账。

8.  提升可及性：提供多语言支持和匹配客户基础的指导，重点关注移动端功能。我们的研究显示，超过一半的受访者更喜欢通过手机访问银行服务。

6.  你能分享一些成功案例或研究，说明对话式AI显著改善了低收入人群的财务福祉吗？

我们知道，57%的实地测试用户表示使用金融聊天机器人对他们的财务状况产生了积极影响。虽然这些早期结果令人鼓舞，但生成式AI工具仍处于起步阶段，我们的持续研究将不断积累其在改善低收入人群财务福祉方面的有效性证据。

7.  在实施AI驱动的金融工具时，金融机构应注意哪些风险或意外后果？

关键是不能让低收入群体被排除在外。在开发工具时，金融机构应理解其固有的机遇和服务低收入客户的方式。

目前，有许多机构专门关注AI工具的固有风险、偏见和大规模语言模型的准确性。除此之外，我们还要确保一个核心问题得到解决：金融建议对用户个人财务状况的相关性。金融机构可以通过确保提供的信息准确、透明，来增加客户的参与度和信任。

AI为低收入人群提供了前所未有的机会，获取传统上难以获得的建议和工具，无论是投资工具还是个人理财管理。这些工具可以个性化定制，满足低收入者的特殊需求。这为金融服务提供商扩大客户基础提供了巨大机遇。

8.  金融机构如何衡量AI驱动工具对用户财务安全和福祉的实际影响？

基本的财务健康指标：存款是否增加？债务是否减少？信用评分是否提升？使用这些工具后是否有改善？

我们还可以调查与聊天机器人互动的体验——信任是否增强？用户对有助于改善财务福祉的产品是否更感兴趣？在接受建议后，是否采取了行动？

银行还可以通过A/B测试，比较使用聊天机器人和未使用的不同用户群体，观察是否存在可衡量的差异。

9.  人工监督在金融服务AI工具的部署中扮演什么角色？提供者如何在自动化与人工支持之间找到平衡？

提升对AI的信任的一个方法是确保在关键时刻有人类可用。这也是客户面对银行员工时使用协助驾驶（co-pilots）非常有益的地方。需要时提供真人服务，可以增强信任和体验。

使用对话式AI，客户服务代表可以更快、更好地满足客户的复杂需求，同时在关键点提供人性化的接触。

透明度也是建立信任的关键。例如，用户应知道自己是在与聊天机器人还是真人交流。

10.  展望未来，未来五年内，AI在金融包容性方面最令人激动的机遇有哪些？

生成式AI代表了对话式AI的下一次演变，能提供更个性化、更具情境感的互动，远比目前大多数金融聊天机器人采用的决策树结构更接近人类支持。金融领域中，生成式AI的初步应用主要集中在后台支持客户服务人员。识别如何在金融场景中大规模提供个性化支持，是推动行业发展的关键机遇。

赢得信任将尤为关键，因为我们的实地测试和焦点小组显示，参与者对生成式AI的怀疑多于传统聊天机器人。然而，提供更高级别支持的潜力，使生成式AI成为金融行业最值得关注的技术。那些能开发出可信赖、可靠的生成式AI支持的企业，将站在客户关系大规模建设的前沿。

我们还看到一些具体的机会，比如协助驾驶和个人助理，提供量身定制的全面财务指导，类似于个人理财教练。我们也预期对话式AI将在帮助员工理解复杂福利体系、促进财务健康方面发挥重要作用。

11.  你如何看待像 Commonwealth 这样的非营利组织在推动负责任使用AI方面的作用？

历史上，科技设计多偏向高收入消费者，忽视了低收入家庭的需求。通过我们的“全民新兴科技” (ETA) 计划，我们致力于确保财务脆弱人群的需求被理解、被关注、被引入相关讨论，并融入解决方案中。我们正处于扩大AI应用的关键转折点，认为持续研究和探索AI如何积极影响这一群体至关重要。

目前，关于这一主题的研究和应用还很少，一些受访机构表示需要更大规模的研究，以积累能用来内部推动设计的证据。我们正通过产生有影响力的研究和实地测试，展示生成式AI如何支持低收入家庭的财务健康，并为更积极地为这一细分市场设计提供商业依据。

展望未来，包容性技术设计的系统性影响将取决于金融行业主要参与者对这些洞察的规模化应用。对我们而言，将包容性设计推向规模，依赖于利用我们的研究，与寻求利用AI促进客户和员工财务健康的更大组织合作。

12.  你会给希望利用AI同时保持客户信任和透明度的金融机构什么建议？

低收入家庭更倾向于与真人银行业务，但他们的实体网点最少。这一差距为AI提供了绝佳机会，能在无需增加网点或客服人员的情况下，提供他们所需的个性化支持。

但要实现更广泛的采用，金融机构必须赢得并增强低收入人群对聊天机器人的信任——这既涉及聊天机器人体验的具体问题，也涉及行业整体，随着AI技术的接受度提高，安全性和质量的改善。

用户最关心的两个问题是安全和隐私。总体而言，人们对对话式AI的信任不足，担心其不能提供帮助、保护数据或符合自身利益。虽然许多企业对AI的潜力充满期待，但低收入人群可能会更持怀疑态度，认为这项新技术尚未证明其对他们的直接价值。

透明的数据政策、令人安心的品牌和信息，以及将真人代理作为备选，都有助于建立和赢得信任。通过生成式AI开发有用且个性化的互动，超越目前提供的基本信息（如账户余额和近期交易），也能展示技术的价值。

强调赢得信任的概念也很重要。目标不仅是让人们相信聊天机器人，而是要设计出值得信赖的聊天机器人，让这种信任成为合理的。