AI, Tin cậy và những người chưa được phục vụ đầy đủ - Phỏng vấn với Paula Grieco, Phó Chủ tịch cấp cao tại Commonwealth

Paula Grieco là Phó Tổng Giám đốc cấp cao tại Commonwealth.

Khám phá tin tức và sự kiện fintech hàng đầu!

Đăng ký nhận bản tin của FinTech Weekly

Được đọc bởi các lãnh đạo tại JP Morgan, Coinbase, Blackrock, Klarna và nhiều hơn nữa

Trí tuệ nhân tạo (AI) cho lĩnh vực tài chính còn một chặng đường dài để đi — không chỉ về tốc độ, độ chính xác hay thậm chí là quy định, mà còn ở cách nó tạo dựng niềm tin. Đặc biệt từ những người trước đây chưa từng là hàng đầu trong việc tiếp cận công nghệ mới khi nó được triển khai.

Tại FinTech Weekly, chúng tôi đã theo dõi công việc của Commonwealth, một tổ chức phi lợi nhuận tập trung xây dựng an ninh tài chính cho các hộ gia đình có thu nhập thấp và trung bình (LMI). Nghiên cứu thực địa của họ, được phân tích trong chuyên mục biên tập gần đây của chúng tôi, đã cho thấy một mâu thuẫn rõ ràng: trong khi người dùng LMI cởi mở với các công cụ như chatbot, họ vẫn đang chờ những trải nghiệm thực sự phục vụ họ — không chỉ là các tính năng được đóng gói lại được thiết kế cho người khác.

Tuần này, chúng tôi đã đi sâu hơn.

Chúng tôi đã trò chuyện với Paula Grieco, Phó Tổng Giám đốc cấp cao tại Commonwealth, để hiểu điều gì thực sự cần thiết để AI hiệu quả — và an toàn — cho các cộng đồng chưa được phục vụ đầy đủ. Từ các nguyên tắc thiết kế đến niềm tin giành được, từ đồng hành phụ (co-pilots) đến sự mệt mỏi vì chatbot, cô chia sẻ vì sao ý định quan trọng hơn chỉ đổi mới.

Đó là một góc nhìn vững vàng và thấu đáo về những gì công nghệ tài chính toàn diện có thể — và nên — trông như thế nào.

Đọc toàn bộ cuộc phỏng vấn bên dưới.

2.  Sự hợp tác gần đây của Commonwealth với JPMorganChase đã cung cấp những hiểu biết quan trọng về vai trò của AI trong việc cải thiện an ninh tài chính cho các hộ gia đình LMI. Những phát hiện nào trong số đó là đáng ngạc nhiên hoặc có tác động nhất từ nghiên cứu này?

Nghiên cứu của chúng tôi làm sáng tỏ tiềm năng to lớn của AI, cụ thể là chatbot, trong việc cung cấp hướng dẫn và hỗ trợ cá nhân hóa cho các cộng đồng sống với thu nhập thấp —  nếu chatbot được thiết kế cẩn thận, có tính đến nhu cầu và góc nhìn của nhóm người này.

Hai phát hiện chính:

*   Phần lớn khách hàng xem chatbot là công cụ tích cực để cải thiện tình trạng an toàn tài chính của họ. Dữ liệu của chúng tôi cho thấy 57% số người tham gia khảo sát cho biết việc sử dụng chatbot đã cải thiện tình hình tài chính của họ. Nghiên cứu cũng chỉ ra rằng những người có thu nhập thấp đến trung bình (LMI) muốn các tính năng giúp tạo dựng tín dụng, lập ngân sách và quản lý nợ.

*   Người tham gia đánh giá cao không gian không phán xét với một chatbot khi đặt các câu hỏi tài chính nhạy cảm mà không phải lo lắng về sự xấu hổ hay cảm giác ngại ngùng có thể đi kèm với việc cùng cuộc trò chuyện đó diễn ra trực tiếp với một đại diện con người.

3.  Bạn nhìn nhận AI đàm thoại sẽ phát triển như thế nào trong lĩnh vực dịch vụ tài chính, đặc biệt đối với các cộng đồng chưa được phục vụ đầy đủ?

Lý tưởng nhất, thế hệ chatbot tiếp theo được cung cấp sức mạnh bởi AI tạo sinh sẽ là các trợ lý tài chính AI có khả năng hỗ trợ tốt hơn các hoạt động tài chính của những hộ gia đình này, đồng thời tạo dựng niềm tin với các nhóm dân cư vốn thường cảnh giác với việc tương tác với hệ thống tài chính và chia sẻ dữ liệu trực tuyến. Vẫn còn một cơ hội lớn để các nhà cung cấp dịch vụ tài chính cung cấp những năng lực phức tạp hơn, tinh tế hơn và hướng đến hành động hơn cho chatbot của họ.

Khi khách hàng sử dụng chatbot tài chính hiện nay, họ chủ yếu tìm kiếm thông tin tài khoản hoặc cố gắng giải quyết một vấn đề. Ít hơn 20% số người tham gia khảo sát trên toàn quốc của chúng tôi đã từng dùng chatbot cho lời khuyên và giáo dục tài chính, gợi ý sản phẩm, nộp đơn xin tín dụng hoặc vay, và mở hoặc đóng tài khoản. Tuy nhiên, nghiên cứu của chúng tôi cho thấy có nhu cầu đối với chatbot có thể hỗ trợ các loại tác vụ ngân hàng này. Tập trung vào các nhóm tính năng này khi phát triển chatbot có thể làm tăng mức độ sử dụng và mức độ hữu ích đối với các khách hàng đó.

Đối với các ngân hàng và tổ chức tài chính chưa sẵn sàng triển khai trực tiếp các co-pilots tài chính AI tạo sinh cho người tiêu dùng, công nghệ này có thể hỗ trợ nhân viên ngân hàng như đại diện khách hàng để cung cấp các phản hồi tốt hơn, chính xác hơn và kịp thời hơn cho khách hàng trong suốt quá trình tương tác.

4.  Một số thách thức lớn nhất trong việc đảm bảo các công cụ tài chính dựa trên AI công bằng và hiệu quả cho các hộ gia đình do người da đen, người Latinx và phụ nữ dẫn dắt là gì?

Với mọi công nghệ mới đang xuất hiện, cần có một nỗ lực có chủ đích để đảm bảo nhu cầu của những người có thu nhập thấp đến trung bình được đưa vào quá trình phát triển và các quyết định thiết kế. Chúng tôi đã phát hiện rằng một quan hệ đối tác kín (private)/từ thiện (philanthropic) với các tổ chức tài chính ngay từ đầu sẽ giúp tạo đà cho những nỗ lực này. Bằng cách mở rộng một nền tảng bằng chứng (evidence base), chúng tôi cũng giúp củng cố cơ sở lập luận kinh doanh.

Chúng tôi đã thấy tiềm năng đáng kể cho việc hướng dẫn thiết kế xung quanh các yếu tố như tăng niềm tin giành được, có thể giúp AI đàm thoại hỗ trợ sức khỏe tài chính mà không cần tăng chi phí lớn.

5.  Dựa trên nghiên cứu của bạn, những nguyên tắc thiết kế then chốt mà các nhà cung cấp dịch vụ tài chính nên cân nhắc khi tích hợp AI để hỗ trợ người dùng LMI là gì?

Commonwealth đã tạo ra một tài liệu, Financial AI for Good Guide, để cung cấp hướng dẫn thiết kế có thể hành động cho các nhà cung cấp dịch vụ tài chính phục vụ các nhóm dân cư LMI. Chúng tôi phát triển các khuyến nghị này dựa trên nghiên cứu toàn diện với các tổ chức tài chính, nhà cung cấp chatbot và những người sống trong các hộ gia đình LMI.

Cẩm nang được tổ chức xoay quanh bốn mục tiêu thiết kế chính. Tôi sẽ đưa ra một hoặc hai ví dụ cho từng mục:

2.  Earn trust: Mối quan ngại hàng đầu trong số đa số người tham gia nghiên cứu của chúng tôi khi sử dụng chatbot là vấn đề bảo mật. Đây là nơi các tổ chức tài chính có thể nhấn mạnh bảo mật dữ liệu thông qua các thông điệp ngay từ đầu về những biện pháp mà ngân hàng đang thực hiện, đồng thời trao quyền kiểm soát cho người dùng đối với dữ liệu nào được lưu trữ.
4.  Drive engagement: Tạo ra trải nghiệm sao cho người dùng biết các công cụ này có thể làm gì cho họ và vào khi nào, bằng cách tạo sự rõ ràng về chức năng của chúng. Đồng thời, theo đuổi “chủ động thông minh” (intelligent proactivity). Ví dụ, tích hợp chatbot có thể bật lên khi chúng có thể hữu ích nhất, mà không quá thúc ép hay gây hấn, điều này có thể khiến người dùng cảm thấy như spam.
6.  Increase value: Dự đoán nhu cầu của khách hàng bạn. Việc tiếp cận hạn chế với các chi nhánh vật lý tạo ra cơ hội để chatbot thực hiện các tác vụ nhỏ mà khách hàng trước đây có thể phải đến ngân hàng mới làm được. Cân bằng giữa tự động hóa và quyền kiểm soát bằng cách cho phép người dùng bật/tắt các tính năng tài chính tự động, đồng thời đưa vào các tính năng “lưới an toàn” (safety net) để tạm dừng việc tự động chuyển tiền nếu số dư giảm xuống dưới một ngưỡng nhất định.
8.  Improve accessibility: Cung cấp hỗ trợ đa ngôn ngữ và hướng dẫn phù hợp với nhóm khách hàng của bạn, đồng thời tập trung vào các tính năng thân thiện với di động. Nghiên cứu của chúng tôi cho thấy hơn một nửa trong tổng số người tham gia khảo sát ưa thích việc truy cập dịch vụ ngân hàng của họ thông qua điện thoại di động.

6.  Bạn có thể chia sẻ bất kỳ câu chuyện thành công hay nghiên cứu điển hình (case studies) nào cho thấy AI đàm thoại đã cải thiện đáng kể an toàn tài chính của các cá nhân LMI không?

Điều chúng tôi biết là 57% người dùng trong nghiên cứu thử nghiệm thực địa (field test) của chúng tôi cho biết việc sử dụng một chatbot tài chính đã tạo tác động tích cực đến tình hình tài chính của họ. Mặc dù những kết quả ban đầu này rất hứa hẹn, các công cụ AI tạo sinh vẫn còn trong giai đoạn sơ khai, và nghiên cứu đang tiếp tục của chúng tôi sẽ tiếp tục xây dựng nền tảng bằng chứng về hiệu quả của chúng trong việc cải thiện an toàn tài chính cho các cá nhân LMI.

7.  Những rủi ro hoặc hệ quả ngoài ý muốn nào các tổ chức tài chính cần lưu ý khi triển khai các công cụ tài chính dựa trên AI?

Điều quan trọng là những người kiếm thu nhập LMI không bị bỏ ra ngoài phương trình. Khi các tổ chức tài chính phát triển công cụ, điều quan trọng là họ phải hiểu những cơ hội vốn có và cách thức để phục vụ nhóm khách hàng LMI.

Có rất nhiều đơn vị tập trung cụ thể vào các rủi ro và hệ quả vốn có của các công cụ AI — cũng như sự thiên lệch (bias) và độ chính xác của các mô hình ngôn ngữ lớn. Ngoài ra, chúng tôi muốn đảm bảo rằng một mối quan tâm cốt lõi được giải quyết: mức độ phù hợp của các khuyến nghị tài chính đối với tình hình tài chính cá nhân của người dùng. Các tổ chức tài chính có thể tăng mức độ tương tác của khách hàng và tạo dựng niềm tin cho khách hàng bằng cách đảm bảo thông tin họ cung cấp là chính xác và có tính minh bạch thực sự.

AI mang đến một cơ hội chưa từng có để những người kiếm thu nhập LMI được tiếp cận lời khuyên và các công cụ mà trước đây thường không có sẵn với họ, dù đó là các công cụ đầu tư hay quản lý tài chính cá nhân. Các công cụ này có thể được cá nhân hóa và tùy chỉnh cho những người kiếm thu nhập LMI cũng như tình huống riêng của họ. Đây là một cơ hội tuyệt vời để các nhà cung cấp dịch vụ tài chính mở rộng cơ sở khách hàng của mình.

8.  Các tổ chức tài chính có thể đo lường tác động thực sự của các công cụ dựa trên AI đối với an ninh tài chính và sức khỏe tài chính của người dùng như thế nào?

Những nền tảng của sức khỏe tài chính:  Có tăng tiền tiết kiệm không, giảm nợ không, cải thiện điểm tín dụng không khi sử dụng các công cụ này?

Chúng tôi cũng có thể khảo sát trải nghiệm khi tương tác với chatbot — liệu niềm tin đã tăng lên chưa? Có tăng sự quan tâm đến các sản phẩm có thể hữu ích cho việc cải thiện sức khỏe tài chính hay không? Khi nói đến việc tư vấn, liệu đã có hành động được thực hiện sau khi nhận lời khuyên hay không?

Các ngân hàng cũng có thể thực hiện kiểm thử A/B giữa các nhóm người tiêu dùng khác nhau đang tương tác với chatbot so với những người không tương tác, để xem liệu có sự khác biệt đo lường được giữa họ hay không.

9.  Vai trò của giám sát con người trong việc triển khai các công cụ AI cho dịch vụ tài chính là gì, và các nhà cung cấp có thể cân bằng đúng đắn giữa tự động hóa và hỗ trợ của con người như thế nào?

Một trong những cách để tăng niềm tin giành được xung quanh AI là đảm bảo rằng luôn có một con người có thể truy cập vào đúng những thời điểm trong quá trình tương tác.  Đây là nơi việc sử dụng đồng hành phụ (co-pilots) của các nhân viên ngân hàng làm việc trực tiếp với khách hàng có thể mang lại lợi ích. Khi cần thiết, việc có quyền truy cập vào một con người trực tiếp sẽ làm tăng niềm tin và trải nghiệm khi sử dụng công cụ AI.

Việc sử dụng AI đàm thoại sẽ giúp các đại diện chăm sóc khách hàng phục vụ tốt hơn và nhanh hơn cho những nhu cầu phức tạp của khách hàng và các thành viên, đồng thời cung cấp “phần chạm” của con người tại những điểm then chốt trong tương tác khi việc có một đại lý trực tiếp là điều mong muốn.

Minh bạch cũng rất quan trọng để xây dựng niềm tin trong mọi tương tác. Bạn cần biết, chẳng hạn, liệu bạn đang nói chuyện với một chatbot hay với một người thật.

10.  Nhìn về phía trước, những cơ hội thú vị nhất cho AI trong bao gồm tài chính trong năm năm tới là gì?

AI tạo sinh đại diện cho bước tiến hóa tiếp theo trong việc hỗ trợ AI đàm thoại, cung cấp sự tương tác được cá nhân hóa và nhạy ngữ cảnh ở mức độ có thể mô phỏng hỗ trợ của con người tốt hơn nhiều so với cấu trúc cây quyết định của hầu hết chatbot tài chính hiện nay. Các ứng dụng ban đầu của AI tạo sinh trong lĩnh vực tài chính chủ yếu tập trung vào các ứng dụng hậu trường (back-office), nơi vẫn có cơ hội để hỗ trợ các tác nhân chăm sóc dịch vụ khách hàng. Việc xác định cách AI tạo sinh có thể cung cấp hỗ trợ cá nhân hóa ở quy mô lớn trong bối cảnh tài chính là một cơ hội then chốt để thúc đẩy phát triển trong lĩnh vực này.

Việc xây dựng niềm tin giành được sẽ đặc biệt quan trọng đối với việc mở rộng mức độ chấp nhận AI tạo sinh, vì những người tham gia trong các thử nghiệm thực địa và nhóm thảo luận của chúng tôi vẫn còn hoài nghi hơn so với chatbot truyền thống. Dù vậy, tiềm năng mang lại các lợi ích của việc cung cấp một cấp độ hỗ trợ nâng cao cho nhiều ứng dụng dịch vụ tài chính khiến AI tạo sinh trở thành công nghệ thú vị nhất để theo dõi trong lĩnh vực tài chính. Những người có thể phát triển được các hỗ trợ AI tạo sinh đáng tin cậy và bền vững sẽ là ở tuyến đầu của kỷ nguyên mới về xây dựng quan hệ khách hàng theo quy mô.

Một số cơ hội cụ thể khác mà chúng tôi nhìn thấy là các đồng hành phụ (co-pilots) và trợ lý cá nhân có thể cung cấp hướng dẫn tài chính toàn diện được thiết kế theo nhu cầu của từng cá nhân, nếu bạn muốn gọi như vậy là một huấn luyện viên tài chính cá nhân. Chúng tôi cũng kỳ vọng những tiến bộ trong AI đàm thoại sẽ đóng vai trò có giá trị trong việc thúc đẩy sức khỏe tài chính của người lao động bằng cách cung cấp thông tin và hướng dẫn để điều hướng các hệ thống phúc lợi dành cho nhân viên phức tạp.

11.  Bạn nhìn nhận vai trò của các tổ chức phi lợi nhuận như Commonwealth sẽ phát triển như thế nào trong việc định hình việc sử dụng AI có trách nhiệm trong dịch vụ tài chính?

Về mặt lịch sử, thiết kế các công nghệ mới đã tập trung vào việc được các nhóm người tiêu dùng thu nhập cao đón nhận, trong khi bỏ qua nhu cầu của các hộ gia đình LMI. Thông qua sáng kiến Emerging Tech for All (ETA), chúng tôi tập trung đảm bảo rằng nhu cầu của những người có hoàn cảnh tài chính dễ tổn thương được hiểu đúng, được nhìn thấy, được đưa vào các cuộc thảo luận liên quan và được tích hợp vào các giải pháp. Chúng tôi đang ở một thời điểm chuyển pha quan trọng trong việc mở rộng quy mô AI, và tin rằng điều cấp thiết là tiếp tục nghiên cứu và xác định những cách mà AI có thể tác động tích cực đến nhóm dân cư này.

Hiện nay, tương đối ít nghiên cứu và việc áp dụng trong lĩnh vực tồn tại cho chủ đề này, và một số nhà cung cấp mà chúng tôi đã phỏng vấn cho biết họ cần những nghiên cứu quy mô lớn hơn để xây dựng loại bằng chứng mà họ có thể dùng để tự lập luận nội bộ cho kiểu thiết kế này. Chúng tôi đang đối mặt với thách thức này bằng cách tạo ra những nghiên cứu có tác động và các thử nghiệm thực địa tại hiện trường chứng minh AI tạo sinh có thể hỗ trợ sức khỏe tài chính của các hộ gia đình sống trong các mức thu nhập LMI như thế nào, đồng thời tạo cơ sở lập luận kinh doanh cho việc chủ động thiết kế cho phân khúc người tiêu dùng chưa được phục vụ đầy đủ này.

Hướng tới tương lai, tác động mang tính hệ thống của thiết kế công nghệ bao gồm sẽ phụ thuộc vào việc mở rộng quy mô ứng dụng các hiểu biết này bởi các tác nhân lớn trong dịch vụ tài chính. Với chúng tôi, để đưa thiết kế toàn diện ra quy mô lớn sẽ phụ thuộc vào việc tận dụng nghiên cứu của mình để hợp tác với các tổ chức lớn hơn đang tìm cách khai thác những tiến bộ trong AI nhằm hỗ trợ sức khỏe tài chính của khách hàng và người lao động của họ.

12.  Bạn sẽ đưa ra lời khuyên gì cho các tổ chức tài chính muốn tận dụng AI trong khi vẫn duy trì niềm tin và tính minh bạch với khách hàng của họ?

Các hộ gia đình LMI muốn ngân hàng được phục vụ trực tiếp bởi một con người, nhưng họ lại có ít khả năng tiếp cận các chi nhánh trực tiếp. Khoảng trống này cho thấy một cơ hội quan trọng để AI cung cấp đúng kiểu hỗ trợ cá nhân hóa mà các hộ gia đình sống trong nhóm LMI mong muốn mà không cần tăng số lượng chi nhánh hoặc nhân sự hỗ trợ khách hàng.

Tuy nhiên, để mở rộng mức độ chấp nhận, các tổ chức tài chính phải tạo dựng và xây dựng thêm niềm tin từ những người có thu nhập LMI đối với chatbot — một phần trong số đó liên quan cụ thể đến trải nghiệm chatbot, trong khi một phần khác mang tính toàn ngành vì công nghệ AI được chấp nhận nhiều hơn và cải thiện về bảo mật tổng thể lẫn chất lượng.

Những mối quan ngại hàng đầu của những người tương tác với chatbot là vấn đề bảo mật và quyền riêng tư.  Nhìn chung, mọi người đã bày tỏ sự thiếu tin tưởng rằng AI đàm thoại có thể hữu ích, có thể bảo vệ dữ liệu của họ hoặc hành động vì lợi ích tốt nhất của họ. Mặc dù nhiều người trong thế giới kinh doanh hào hứng với tiềm năng của AI, những người sống trong các hộ gia đình LMI có khả năng sẽ nhìn nhận nó với sự hoài nghi hơn như một công nghệ mới, chưa kịp chứng minh giá trị trực tiếp của nó đối với họ.

Các chính sách dữ liệu minh bạch, thương hiệu và thông điệp mang tính trấn an, và duy trì kết nối với một đại lý con người như một lựa chọn dự phòng sẽ giúp ích rất nhiều trong việc xây dựng và giành được niềm tin. Việc phát triển các tương tác hữu ích và được cá nhân hóa thông qua AI tạo sinh, vượt ra ngoài việc chỉ cung cấp các thông tin cơ bản mà chatbot hiện nay đưa ra như số dư tài khoản và các giao dịch gần đây, cũng sẽ giúp chứng minh giá trị của công nghệ đó.

Điều cũng quan trọng là phải nhấn mạnh khái niệm về niềm tin giành được (earned trust). Mục tiêu không chỉ là thuyết phục mọi người tin vào chatbot, mà là thiết kế chatbot theo cách để niềm tin đó thực sự có cơ sở.