人工智能、信任与被忽视群体——专访 Commonwealth 高级副总裁 Paula Grieco

Paula Grieco 是 Commonwealth 的高级副总裁。

发现顶级金融科技新闻和活动！

订阅 FinTech Weekly 的新闻通讯

由摩根大通、Coinbase、Blackrock、Klarna 等高管阅读

金融人工智能还有很长的路要走——不仅在速度、准确性甚至监管方面，更在于它赢得信任的方式。尤其是来自那些在新技术推出时并不总是第一批接受者的群体。

在 FinTech Weekly，我们一直关注 Commonwealth 的工作，这是一家致力于为低收入和中等收入（LMI）家庭建立金融安全的非营利组织。我们在近期的社论中探讨了他们的实地工作，揭示了一个明显的矛盾：虽然LMI用户对聊天机器人等工具持开放态度，但他们仍在等待真正为他们服务的体验——而不是为他人重新包装的功能。

本周，我们深入探讨。

我们与 Paula Grieco，Commonwealth 的高级副总裁，进行了交流，了解实现人工智能对弱势群体既有效又安全的真正需求。从设计原则到赢得信任，从协助驾驶到聊天机器人疲劳，她分享了为何意图比创新本身更重要。

这是对包容性金融科技可能——也应该——呈现的样貌的务实而深思熟虑的看法。

阅读全文请看下方访谈。

2.  Commonwealth 最近与摩根大通合作，提供了关于人工智能在改善LMI家庭金融安全方面的关键见解。这项研究中最令人惊讶或最具影响力的发现是什么？

我们的研究揭示了人工智能，特别是聊天机器人，在为低收入社区提供个性化指导和支持方面的巨大潜力——前提是这些聊天机器人经过深思熟虑的设计，充分考虑了该群体的需求和视角。

两个主要发现：

*   客户普遍认为聊天机器人是改善财务状况的积极工具。我们的数据显示，57%的受访者表示使用聊天机器人改善了他们的财务状况。研究还显示，低至中等收入（LMI）人群希望拥有信用建立、预算规划和债务管理等功能。

*   受访者重视与聊天机器人交流的无评判空间，可以在不担心羞耻或自我意识的情况下提出敏感的财务问题，而面对面与人工代表交流时可能会感到尴尬。

3.  你如何看待会话式人工智能在金融服务领域，特别是对弱势社区的未来发展？

理想情况下，由生成式人工智能驱动的下一代聊天机器人将成为更好支持这些家庭财务活动的AI财务助手，并赢得那些对金融系统持警惕态度、担心数据在线共享的群体的信任。金融服务提供商有巨大机会为他们的聊天机器人提供更复杂、更细腻、以行动为导向的功能。

目前，客户使用金融聊天机器人的主要目的是获取账户信息或解决问题。我们国家调查中，少于20%的受访者曾用聊天机器人获取财务建议、教育、产品推荐、申请信用或贷款、开设或关闭账户。然而，研究发现，市场对能协助完成这些银行操作的聊天机器人存在需求。在开发这些功能时，重点关注这些方面可能会增加其使用率和实用性。

对于尚未准备好直接向消费者推出生成式AI财务协助工具的银行和金融机构，这项技术可以支持银行员工（如客户代表）在互动中提供更优质、更准确、更及时的回应。

4.  在确保AI驱动的金融工具对黑人、拉丁裔和女性主导家庭公平有效方面，面临哪些最大挑战？

随着新兴技术的发展，必须有意识地确保低至中等收入群体的需求在开发过程中被考虑和融入设计决策中。我们发现，与金融机构早期建立私营/慈善合作关系，有助于推动这些努力。通过积累证据基础，也有助于建立商业案例。

我们看到在增加赢得信任等设计指导方面具有巨大潜力，这可以让会话式AI在支持财务健康方面发挥作用，而无需大幅增加成本。

5.  根据你的研究，金融服务提供商在整合AI以支持LMI用户时，应考虑哪些关键设计原则？

Commonwealth 制定了一份名为《金融AI善用指南》的资源，为服务LMI群体的金融机构提供可操作的设计指导。我们基于对金融机构、聊天机器人供应商和LMI人群的全面研究，制定了这些建议。

该指南围绕四个主要设计目标展开。每个目标我都举一两个例子：

2.  赢得信任：大多数研究受访者在使用聊天机器人时最关心的是安全性。金融机构可以强调数据安全，通过提前说明采取的措施，以及让用户控制存储哪些数据来增强信任。
4.  促进参与：让用户清楚这些工具能为他们做什么、何时能帮到他们，创造明确的功能认知。同时，追求“智能主动性”。例如，集成在最需要时弹出的聊天机器人，而不是过于强势或侵入性太强，避免被认为是垃圾信息。
6.  增加价值：预判客户需求。实体网点有限，为聊天机器人完成一些客户可能需要亲自去银行的简单操作提供了机会。平衡自动化与控制，让用户可以开启或关闭自动财务功能，并加入“安全网”功能，在余额低于某个阈值时暂停自动转账。
8.  提升可及性：提供多语言支持和匹配客户基础的引导，重点关注移动端功能。我们的研究显示，超过一半的受访者更喜欢通过手机访问银行服务。

6.  你能分享一些会话式AI显著改善LMI人群财务福祉的成功案例或研究吗？

我们知道，57%的实地测试用户表示使用金融聊天机器人对他们的财务状况产生了积极影响。虽然这些早期结果令人鼓舞，但生成式AI工具仍处于起步阶段，我们的持续研究将不断积累其在改善LMI人群财务福祉方面的有效性证据。

7.  在推广AI驱动的金融工具时，金融机构应注意哪些风险或意外后果？

关键在于确保低收入群体不被排除在外。在开发工具时，理解其固有的机遇和服务LMI客户的方式至关重要。许多机构专门关注AI工具的固有风险、偏见和大规模语言模型的准确性。除此之外，我们还要确保一个核心问题得到解决：金融建议的相关性，符合用户的个人财务状况。金融机构可以通过确保信息的准确性和透明度，提升客户参与度并赢得信任。

AI为低收入人群提供了前所未有的获取建议和工具的机会，无论是投资工具还是个人理财管理。这些工具可以个性化定制，满足他们的特殊需求。这为金融服务提供商扩大客户基础提供了巨大机遇。

8.  金融机构如何衡量AI驱动工具对用户财务安全和福祉的实际影响？

基本的财务健康指标：存款是否增加？债务是否减少？信用评分是否提升？使用这些工具后是否有改善？

还可以调查与聊天机器人互动的体验——信任是否增强？对改善财务福祉有帮助的产品兴趣是否增加？在接受建议后，是否采取了行动？

银行还可以通过A/B测试，比较使用聊天机器人和未使用的不同用户群体，观察是否存在可衡量的差异。

9.  人工监督在金融服务中部署AI工具时扮演什么角色？提供者如何在自动化与人工支持之间找到平衡？

提升对AI的信任的一个方法是确保在关键时刻有人类可用。这也是客户面对面银行员工使用协助工具的优势所在。需要时提供真人服务，可以增强信任和体验。

使用会话式AI，客户服务代表可以更快、更好地满足客户的复杂需求，同时在关键点提供人性化的关怀。

透明度也至关重要，比如让用户知道自己是在与聊天机器人还是真人交流。

10.  展望未来，未来五年内，AI在金融包容性方面最令人激动的机遇有哪些？

生成式AI代表了会话式AI的下一次演变，能提供更个性化、更具情境感的互动，远比目前大多数金融聊天机器人基于决策树的结构更接近人类支持。金融领域中，生成式AI的初步应用主要集中在后台支持客户服务人员。识别如何在金融场景中大规模提供个性化支持，是推动行业发展的关键。

赢得信任将是广泛采用生成式AI的关键。我们的实地测试和焦点小组显示，参与者对其持更谨慎态度，信任度低于传统聊天机器人。然而，提供更先进支持的潜力，使生成式AI成为金融行业最值得关注的技术。那些能开发出可信赖、可靠的生成式AI支持的企业，将站在客户关系大规模建设的前沿。

我们还看到一些具体机会，比如协助驾驶和个人助理，提供量身定制的全面财务指导，类似个人理财教练。我们也预期会话式AI在帮助员工理解复杂福利体系、促进财务健康方面，将发挥重要作用。

11.  你如何看待像 Commonwealth 这样的非营利组织在推动负责任使用AI方面的作用？

历史上，科技设计多偏向高收入群体，忽视了LMI家庭的需求。通过我们的“全民新兴科技”计划（ETA），我们致力于确保财务脆弱人群的需求被理解、被关注、被引入相关讨论，并融入解决方案中。我们正处于AI规模化的关键转折点，迫切需要持续研究，探索AI如何积极影响这一群体。

目前，关于这一主题的研究和应用还很少，一些受访机构表示需要更大规模的研究，以积累证据，支持内部设计决策。我们通过产出有影响力的研究和实地测试，展示生成式AI如何支持LMI家庭的财务健康，并为更积极地为这一细分市场设计产品提供商业依据。

展望未来，包容性技术设计的系统性影响将取决于主要金融机构将这些洞察应用到大规模实践中。对我们而言，将包容性设计推向规模，依赖于利用研究成果，与寻求利用AI提升客户和员工财务健康的更大组织合作。

12.  你会给希望利用AI同时保持客户信任和透明度的金融机构什么建议？

LMI家庭更倾向于与真人银行，但他们在实体网点的接触最少。这一差距为AI提供了绝佳机会，能在不增加网点或客服人员的情况下，提供他们所需的个性化支持。

但要实现更广泛的应用，金融机构必须赢得并增强LMI人群对聊天机器人的信任——这既涉及聊天机器人体验的改善，也涉及行业整体对AI技术的接受度提升。

用户最关心的两个问题是安全和隐私。普遍而言，公众对会话式AI的信任度较低，担心其不能有效保护数据或为其利益服务。虽然许多企业对AI的潜力充满期待，但LMI群体可能更持怀疑态度，认为这项新技术尚未充分证明其价值。

透明的数据政策、令人安心的品牌和信息传递，以及将真人代理作为备选，都有助于建立和赢得信任。通过生成式AI开发更有用、更个性化的交互，超越目前仅提供账户余额和近期交易的基础信息，也能展示技术的价值。

强调“赢得信任”的概念也很重要。目标不仅是让人们相信聊天机器人，更要设计出值得信赖的机器人，让这种信任成为合理的结果。