9. 人類監督在部署 AI 工具用於金融服務中扮演什麼角色？提供商如何在自動化和人類支持之間取得適當平衡？
增加對 AI 的贏得信任的方法之一，是確保在互動的適當時間點能夠聯繫到真人。這就是面向客戶的銀行員工使用副駕駛的好處所在。在需要時能夠接觸到真人，可以增加對 AI 工具的信任和體驗。
使用對話式 AI 將使客戶服務代表能夠更好、更迅速地滿足客戶和會員的複雜需求，同時在互動的關鍵時刻提供人性化的觸動，而這些時刻是希望有真人服務的。
透明度對於建立任何互動的信任也至關重要。例如，你應該知道你是與聊天機器人交談，還是與真人交談。
10. 展望未來，在未來五年內，AI 在金融普惠方面最令人興奮的機會是什麼？
生成式 AI 代表了對話式 AI 支持的下一階段演進，提供了個人化和情境敏感的互動水準，遠比現今大多數金融聊天機器人的決策樹結構更接近人類支持。生成式 AI 在金融領域的初步應用主要集中在後台業務，這些領域有機會支持客戶服務代理。確定生成式 AI 如何在金融情境中提供規模化的個人化支持，是推動該領域發展的關鍵機會。
贏得信任的建立對於更廣泛採用生成式 AI 將特別關鍵，因為現場測試和焦點小組的參與者對其的懷疑程度仍高於傳統聊天機器人。儘管如此，在金融服務應用中提供更高級別支持的潛在好處，使生成式 AI 成為金融領域最令人興奮的技術。那些能夠開發出值得信賴且可靠的生成式 AI 支持的人，將站在這個規模化客戶關係建立新時代的前沿。
我們看到的一些其他具體機會包括：能夠提供針對個人需求量身定制的全面財務指導的副駕駛和個人助手——可以說是一個個人財務教練。我們還期待對話式 AI 的進步能夠在提升勞動者財務健康方面發揮寶貴作用，通過提供資訊和指導，幫助他們導航複雜的員工福利系統。
11. 您如何看待像 Commonwealth 這樣的非營利組織在塑造金融服務中負責任的 AI 使用方面的角色變化？
歷史上，新技術的設計主要關注高收入消費者的採用，而忽略了 LMI 家庭的需求。透過我們的「人人享有新興科技」（ETA）計劃，我們專注於確保財務脆弱人群的需求被理解、被看見、被引入相關討論並被整合到解決方案中。我們正處於擴展 AI 的關鍵轉折點，認為迫切需要持續研究和識別 AI 能夠正面影響這一群體的方式。
目前，該領域的相關研究和採用相對較少，我們採訪的一些提供商提到需要更大規模的研究，以建立足夠的證據來在內部推動此類設計。我們正在迎接這一挑戰，通過產出有影響力的研究和實地測試，證明生成式 AI 如何支持 LMI 家庭的財務健康，並為更積極地為這一未被充分服務的消費者群體進行設計建立商業案例。
展望未來，包容性科技設計的系統性影響將取決於金融服務領域主要參與者對這些見解的規模化應用。對我們而言，將包容性設計推向規模化，將取決於利用我們的研究與尋求利用 AI 進步來支持客戶和員工財務健康的大型組織合作。
12. 您會給希望利用 AI 同時維持客戶信任和透明度的金融機構什麼建議？
LMI 家庭更傾向於直接與真人進行銀行業務，但他們卻最難以接觸到實體分行。這一差距突顯了 AI 的一個關鍵機會：在不增加分行數量或客戶支持人員的情況下，提供 LMI 家庭所尋求的那種個人化支持。
然而，為了推動更廣泛的採用，金融機構必須從 LMI 人群中贏得並建立對聊天機器人的更多信任——其中一部分是針對聊天機器人體驗本身的，另一部分則是行業範圍內的，因為 AI 技術逐漸獲得更多接受並在整體安全性和品質上有所改善。
人們與聊天機器人互動時最關心的問題是安全和隱私。一般而言，人們對對話式 AI 在提供幫助、保護數據或為其最佳利益行事方面缺乏信任。雖然商業界許多人對 AI 的潛力感到興奮，但 LMI 人群可能對其持更懷疑的態度，認為它是一種尚未向其直接證明價值的新技術。
透明的數據政策、令人放心的品牌形象和訊息傳遞，以及保持與真人代理的連接作為備用選項，都將有助於建立和贏得信任。透過生成式 AI 開發有用且個人化的互動，超越今日聊天機器人所提供的帳戶餘額和近期交易等基本資訊，也將有助於展示這項技術的價值。
AI、信任與弱勢群體 - 專訪 Commonwealth 高級副總裁 Paula Grieco
_Paula Grieco 是 Commonwealth 的高級副總裁。*
發掘頂尖金融科技新聞與活動！
訂閱 FinTech Weekly 的電子報
由摩根大通、Coinbase、貝萊德、Klarna 等公司的高階主管閱讀
金融 AI 還有很長的路要走——不僅是在速度、準確性甚至監管方面，更是在贏得信任的方式上。尤其是對於那些過去當新技術推出時，通常不會搶先嘗試的人來說更是如此。
在 FinTech Weekly，我們一直關注 Commonwealth 的工作，這是一個致力於為低收入和中等收入（LMI）家庭建立財務安全的非營利組織。他們在我們最近的專題報導中探討的實地研究，揭示了一個明顯的張力：雖然 LMI 用戶對聊天機器人等工具持開放態度，但他們仍在等待真正能為他們服務的體驗——而不僅僅是為其他人重新包裝的功能。
本週，我們進行了更深入的探討。
我們採訪了 Commonwealth 的高級副總裁 Paula Grieco，以了解讓 AI 對弱勢社區有效且安全真正需要的是什麼。從設計原則到贏得信任，從副駕駛到聊天機器人疲勞，她分享了為什麼意圖比單純的創新更重要。
這是一個關於包容性金融科技可能——也應該——是什麼樣子的務實且深思熟慮的觀點。
請閱讀下方的完整訪談。
我們的研究揭示了 AI（特別是聊天機器人）的巨大潛力，能夠為低收入社群提供個人化的指導和支持——前提是聊天機器人在設計時充分考慮到這個群體的需求和觀點。
兩個關鍵發現：
理想情況下，由生成式 AI 驅動的下一代聊天機器人將成為 AI 財務助手，更好地支持這些家庭的財務活動，並贏得那些通常對參與金融體系和線上分享數據持謹慎態度的人群的信任。金融服務提供商有重大機會為其聊天機器人提供更複雜、細緻且以行動為導向的功能。
目前，客戶使用金融聊天機器人時，主要目的是查詢帳戶資訊或解決問題。在我們的全國調查中，只有不到 20% 的受訪者曾使用聊天機器人獲取財務建議和教育、產品推薦、申請信貸或貸款以及開設或關閉帳戶。然而，我們的研究發現，市場對能夠協助此類銀行操作的聊天機器人有需求。在開發聊天機器人時，專注於這類功能可能會提高其在這些客戶中的使用率和實用性。
對於尚未準備好直接向消費者推出生成式 AI 金融副駕駛的銀行和金融機構，這項技術可以支持銀行員工（如客服代表）在與客戶互動時提供更好、更準確、更及時的回應。
對於所有新興技術，都需要有意識地努力確保低收入至中等收入人群的需求納入開發過程和設計決策中。我們發現，與金融機構建立私營/慈善合作夥伴關係，有助於為這些努力積蓄動力。通過積累證據基礎，我們也在幫助建立商業案例。
我們看到，在諸如增加贏得信任等設計指導方面有顯著潛力，這可以讓對話式 AI 在不顯著增加成本的情況下支持財務健康。
Commonwealth 制定了《金融 AI 向善指南》資源，為服務 LMI 人群的金融服務提供商提供可操作的設計指導。我們基於與金融機構、聊天機器人提供商和 LMI 人群的全面研究，制定了這些建議。
該指南圍繞四個主要設計目標組織。我將為每個目標舉一兩個例子：
我們知道，在現場測試研究中，57% 的用戶表示使用金融聊天機器人對他們的財務狀況產生了正面影響。雖然這些早期結果令人鼓舞，但生成式 AI 工具仍處於初期階段，我們持續的研究將繼續積累證據，證明其在改善 LMI 個人財務福祉方面的有效性。
重要的是，不要將低收入至中等收入人群排除在外。當金融機構開發工具時，必須了解固有的機會以及服務 LMI 客戶群體的方法。
有許多組織專門關注 AI 驅動工具的內在風險和後果，以及大型語言模型的偏見和準確性。除此之外，我們希望確保一個主要問題得到解決：金融建議對用戶個人財務狀況的相關性。金融機構可以通過確保提供的資訊準確且具有真正的透明度，來提高客戶參與度並贏得客戶信任。
AI 為低收入至中等收入人群提供了一個前所未有的機會，讓他們能夠獲得傳統上無法獲得的建議和工具，無論是投資工具還是個人財務管理。這些工具可以針對低收入至中等收入人群及其獨特情況進行個人化和客製化。這對金融提供商來說是一個擴大客戶基礎的巨大機會。
財務健康的基本指標：使用這些工具後，儲蓄是否增加？債務是否減少？信用評分是否改善？
我們還可以調查與聊天機器人互動的體驗——信任是否增加？對有助於改善財務福祉的產品的興趣是否增加？在建議方面，接受建議後是否採取了行動？
銀行也可以對不同消費者群體進行 A/B 測試，比較與聊天機器人互動的群體和未互動的群體，看看兩者之間是否有可測量的差異。
增加對 AI 的贏得信任的方法之一，是確保在互動的適當時間點能夠聯繫到真人。這就是面向客戶的銀行員工使用副駕駛的好處所在。在需要時能夠接觸到真人，可以增加對 AI 工具的信任和體驗。
使用對話式 AI 將使客戶服務代表能夠更好、更迅速地滿足客戶和會員的複雜需求，同時在互動的關鍵時刻提供人性化的觸動，而這些時刻是希望有真人服務的。
透明度對於建立任何互動的信任也至關重要。例如，你應該知道你是與聊天機器人交談，還是與真人交談。
生成式 AI 代表了對話式 AI 支持的下一階段演進，提供了個人化和情境敏感的互動水準，遠比現今大多數金融聊天機器人的決策樹結構更接近人類支持。生成式 AI 在金融領域的初步應用主要集中在後台業務，這些領域有機會支持客戶服務代理。確定生成式 AI 如何在金融情境中提供規模化的個人化支持，是推動該領域發展的關鍵機會。
贏得信任的建立對於更廣泛採用生成式 AI 將特別關鍵，因為現場測試和焦點小組的參與者對其的懷疑程度仍高於傳統聊天機器人。儘管如此，在金融服務應用中提供更高級別支持的潛在好處，使生成式 AI 成為金融領域最令人興奮的技術。那些能夠開發出值得信賴且可靠的生成式 AI 支持的人，將站在這個規模化客戶關係建立新時代的前沿。
我們看到的一些其他具體機會包括：能夠提供針對個人需求量身定制的全面財務指導的副駕駛和個人助手——可以說是一個個人財務教練。我們還期待對話式 AI 的進步能夠在提升勞動者財務健康方面發揮寶貴作用，通過提供資訊和指導，幫助他們導航複雜的員工福利系統。
歷史上，新技術的設計主要關注高收入消費者的採用，而忽略了 LMI 家庭的需求。透過我們的「人人享有新興科技」（ETA）計劃，我們專注於確保財務脆弱人群的需求被理解、被看見、被引入相關討論並被整合到解決方案中。我們正處於擴展 AI 的關鍵轉折點，認為迫切需要持續研究和識別 AI 能夠正面影響這一群體的方式。
目前，該領域的相關研究和採用相對較少，我們採訪的一些提供商提到需要更大規模的研究，以建立足夠的證據來在內部推動此類設計。我們正在迎接這一挑戰，通過產出有影響力的研究和實地測試，證明生成式 AI 如何支持 LMI 家庭的財務健康，並為更積極地為這一未被充分服務的消費者群體進行設計建立商業案例。
展望未來，包容性科技設計的系統性影響將取決於金融服務領域主要參與者對這些見解的規模化應用。對我們而言，將包容性設計推向規模化，將取決於利用我們的研究與尋求利用 AI 進步來支持客戶和員工財務健康的大型組織合作。
LMI 家庭更傾向於直接與真人進行銀行業務，但他們卻最難以接觸到實體分行。這一差距突顯了 AI 的一個關鍵機會：在不增加分行數量或客戶支持人員的情況下，提供 LMI 家庭所尋求的那種個人化支持。
然而，為了推動更廣泛的採用，金融機構必須從 LMI 人群中贏得並建立對聊天機器人的更多信任——其中一部分是針對聊天機器人體驗本身的，另一部分則是行業範圍內的，因為 AI 技術逐漸獲得更多接受並在整體安全性和品質上有所改善。
人們與聊天機器人互動時最關心的問題是安全和隱私。一般而言，人們對對話式 AI 在提供幫助、保護數據或為其最佳利益行事方面缺乏信任。雖然商業界許多人對 AI 的潛力感到興奮，但 LMI 人群可能對其持更懷疑的態度，認為它是一種尚未向其直接證明價值的新技術。
透明的數據政策、令人放心的品牌形象和訊息傳遞，以及保持與真人代理的連接作為備用選項，都將有助於建立和贏得信任。透過生成式 AI 開發有用且個人化的互動，超越今日聊天機器人所提供的帳戶餘額和近期交易等基本資訊，也將有助於展示這項技術的價值。
強調贏得信任的概念也很重要。目標不僅是說服人們信任聊天機器人，而是要以一種使這種信任合理化的方式來設計聊天機器人。