人工智能、信任与被忽视群体——与联邦公司的高级副总裁（SVP）保拉·格里科的访谈

Paula Grieco 是 Commonwealth 的高级副总裁。

发现顶级金融科技新闻和事件！

订阅 FinTech Weekly 的新闻通讯

由摩根大通、Coinbase、Blackrock、Klarna 等高管阅读

金融人工智能还有很长的路要走——不仅在速度、准确性，甚至在监管方面，更在于它赢得信任的方式。尤其是来自那些在新技术推出时，传统上并不是第一批采用者的群体。

在 FinTech Weekly，我们一直关注 Commonwealth 的工作， 一个专注于为低收入和中等收入家庭(LMI)建立金融安全的非营利组织。他们的实地调研，在我们最近的社论中有所探讨，揭示了一种明显的矛盾：虽然LMI用户对聊天机器人等工具持开放态度，但他们仍在等待真正为他们服务的体验——而不是为他人重新包装的功能。

本周，我们深入探讨。

我们与Paula Grieco，Commonwealth 的高级副总裁，进行了交流，了解实现人工智能对服务不足社区既有效又安全的真正需求。从设计原则到赢得信任，从协助驾驶到聊天疲劳，她分享了为何意图比单纯的创新更重要。

这是一个脚踏实地、深思熟虑的观点，关于包容性金融科技应当——也应该——是什么样子。

请阅读以下完整访谈。

2.  Commonwealth 最近与摩根大通合作，提供了关于人工智能在改善LMI家庭金融安全中的关键见解。这项研究中最令人惊讶或最具影响力的发现是什么？

我们的研究揭示了人工智能，特别是聊天机器人的巨大潜力，能够为低收入群体提供个性化的指导和支持——前提是聊天机器人在设计时充分考虑了这一群体的需求和视角。

两个关键发现：

*   客户普遍认为聊天机器人是改善财务状况的积极工具。我们的数据显示，57%的受访者表示使用聊天机器人改善了他们的财务状况。研究还显示，收入低至中等的(LMI)用户希望拥有信用建设、预算和债务管理功能。

*   受访者重视无评判空间的聊天机器人，可以在不担心羞耻或自我意识的情况下提问敏感的财务问题，而面对面与人类代表交流时可能会有这些顾虑。

3.  你如何看待会话式人工智能在金融服务领域，特别是对服务不足社区的未来发展？

理想情况下，由生成式人工智能驱动的下一代聊天机器人将成为更好支持这些家庭财务活动的AI财务助手，并赢得那些对金融系统持警惕态度、担心数据在线共享的群体的信任。金融服务提供商有巨大机会为他们的聊天机器人提供更复杂、更细腻、以行动为导向的能力。

目前，客户使用金融聊天机器人主要是为了获取账户信息或解决问题。我们国家调查中，少于20%的受访者曾用聊天机器人获取财务建议、教育、产品推荐、申请信用或贷款、开设或关闭账户。然而，研究发现，市场对能协助完成这些银行操作的聊天机器人存在需求。在开发这类功能时，专注于这些特性可能会增加其使用率和实用性。

对于尚未准备好直接向消费者推出生成式AI财务协助的银行和金融机构，这项技术可以支持银行员工（如客户代表）在互动中提供更好、更准确、更及时的回应。

4.  在确保AI驱动的金融工具对黑人、拉丁裔和女性主导家庭公平有效方面，面临哪些最大挑战？

随着所有新兴技术的出现，必须有意识地努力确保低收入和中等收入群体的需求在开发过程中被纳入和考虑。我们发现，与金融机构早期建立私营/慈善合作关系，有助于推动这些努力。通过积累证据基础，也有助于建立商业案例。

我们看到在增加赢得信任等设计指导方面具有巨大潜力，这可以让会话式AI在支持财务健康方面发挥作用，而无需大幅增加成本。

5.  根据你的研究，金融服务提供商在整合AI以支持LMI用户时，应考虑哪些关键设计原则？

Commonwealth 创建了一个资源——“金融AI善用指南”，为服务LMI群体的金融机构提供可操作的设计指导。我们基于对金融机构、聊天机器人提供商和LMI人群的全面调研，制定了这些建议。

该指南围绕四个主要设计目标组织。每个目标我举一两个例子：

2.  赢得信任：我们调研中大多数受访者使用聊天机器人时最关心的是安全性。金融机构可以强调数据安全，通过提前说明银行采取的措施，以及让用户控制存储哪些数据。

4.  促进参与：让用户清楚这些工具能为他们做什么、何时能帮到他们，创造功能的清晰性。同时，追求“智能主动性”。例如，集成在最需要时弹出的聊天机器人，而不是过于强势或侵入式的推送，避免被认为是垃圾信息。

6.  提升价值：预见客户需求。实体网点有限，为聊天机器人完成一些客户可能需要去银行办理的小事务提供了机会。通过允许用户开启或关闭自动化财务功能，以及加入“安全网”功能（如余额低于某个阈值时暂停自动转账），平衡自动化与控制。

8.  改善可及性：提供多语言支持和匹配客户基础的引导，重点关注移动端友好功能。我们的调研显示，超过一半的受访者更喜欢通过手机访问银行服务。

6.  你能分享一些成功案例或研究，说明会话式AI显著改善了LMI人群的财务福祉吗？

我们知道，57%的实地测试用户表示使用金融聊天机器人对他们的财务状况产生了积极影响。虽然这些早期结果令人鼓舞，但生成式AI工具仍处于起步阶段，我们的持续研究将不断积累其在改善LMI人群财务福祉方面的有效性证据。

7.  在实施AI驱动的金融工具时，金融机构应注意哪些风险或意外后果？

重要的是，不能让LMI收入群体被排除在外。在开发工具时，理解其固有的机遇和服务LMI客户的方式至关重要。

关于AI驱动工具的固有风险、偏见和大规模语言模型的准确性，已有许多机构专门关注。除此之外，我们还希望确保解决一个核心问题：金融建议对用户个人财务状况的相关性。金融机构可以通过确保提供的信息准确、透明，来增加客户的参与度和信任。

AI为LMI收入人群提供了前所未有的获取建议和工具的机会，无论是投资工具还是个人理财管理。这些工具可以个性化定制，满足LMI人群的独特需求。这为金融提供者扩大客户基础提供了巨大机遇。

8.  金融机构如何衡量AI驱动工具对用户财务安全和福祉的实际影响？

基本的财务健康指标：存款是否增加？债务是否减少？信用评分是否改善？

我们还可以调查与聊天机器人互动的体验——信任是否增强？用户对改善财务福祉的产品是否更感兴趣？在接受建议后，是否采取了行动？

银行还可以通过A/B测试，比较使用聊天机器人和未使用的不同用户群体，观察是否存在可衡量的差异。

9.  人工监督在金融服务中部署AI工具时扮演什么角色？提供者如何在自动化与人工支持之间找到平衡？

提升赢得信任的一个方法是确保在关键时刻有人类可供联系。这也是客户面对银行员工时使用协助驾驶（co-pilots）非常有益的地方。需要时提供真人支持，可以增强信任和体验。

使用会话式AI，客户服务代表可以更快、更好地满足客户的复杂需求，同时在关键点提供人性化的接触。

透明度也是建立信任的关键。例如，你应该知道自己是在与聊天机器人还是与真人交流。

10.  展望未来，未来五年内，AI在金融包容性方面最令人激动的机遇有哪些？

生成式AI代表会话式AI支持的下一次演变，能提供更个性化、更具情境感的互动，远比目前大多数金融聊天机器人基于决策树的结构更接近人类支持。金融领域中，生成式AI的初步应用主要集中在后台支持客户服务的场景，识别其在金融环境中提供个性化支持的潜力，是推动行业发展的关键。

赢得信任将是更广泛采用生成式AI的关键。我们的实地测试和焦点小组中，参与者对其持更怀疑态度，信任建立尤为重要。尽管如此，提供更先进支持的潜力，使生成式AI成为金融行业最令人期待的技术之一。那些能开发出可信赖、可靠的生成式AI支持的企业，将站在这场新客户关系建设的前沿。

我们还看到一些具体的机会，比如协助驾驶和个人助理，能提供量身定制的全面财务指导，类似于个人理财教练。我们也预期会话式AI在帮助员工理解复杂福利体系、促进财务健康方面，将发挥重要作用。

11.  你如何看待像 Commonwealth 这样的非营利组织在推动负责任使用AI方面的作用？

历史上，新技术的设计多偏向高收入消费者，忽视了LMI家庭的需求。通过我们的“全民新兴科技”(ETA)计划，我们致力于确保财务脆弱人群的需求被理解、被关注、被引入相关讨论，并融入解决方案中。在AI规模化的关键节点，我们认为迫切需要持续研究，探索AI如何积极影响这一群体。

目前，关于这一话题的研究和应用还很少，一些受访的提供商提到需要更大规模的研究，以建立他们内部可以用来推动设计的证据。我们正通过产出有影响力的研究和实地测试，展示生成式AI如何支持LMI家庭的财务健康，并为更积极地为这一细分市场设计提供商业依据。

展望未来，包容性技术设计的系统性影响，将取决于金融行业主要参与者对这些洞察的规模化应用。对我们而言，将包容性设计推向规模，依赖于利用我们的研究，与寻求利用AI促进客户和员工财务健康的更大组织合作。

12.  你会给希望利用AI，同时保持客户信任和透明度的金融机构什么建议？

LMI家庭更倾向于与人面对面银行，但他们的实体网点最少。这一差距为AI提供了巨大机会，可以在不增加网点或客服人员的情况下，提供他们所需的个性化支持。

然而，为了推动更广泛的采用，金融机构必须赢得并增强LMI收入群体对聊天机器人的信任——这既涉及聊天机器人体验的具体问题，也涉及行业整体，随着AI技术的接受度提高、在安全和质量方面不断改善。

人们最关心的两个问题是安全和隐私。总体而言，公众对会话式AI的信任度不足，担心其不能有效保护数据或为其谋取最大利益。虽然许多企业对AI的潜力充满期待，但LMI群体可能会更持怀疑态度，视其为尚未证明价值的新技术。

透明的数据政策、令人安心的品牌和信息传递，以及将真人代理作为备选，都有助于建立和赢得信任。通过生成式AI开发有用且个性化的互动，超越目前仅提供账户余额和近期交易信息的基础功能，也能更好地展示技术价值。

强调赢得信任的概念也很重要。目标不仅是让人们相信聊天机器人，而是要以一种值得信赖的方式设计，让这种信任成为合理的。