AI, Niềm tin và Nhóm người chưa được phục vụ - Phỏng vấn với Paula Grieco, Phó Chủ tịch Cấp cao tại Commonwealth

Paula Grieco là Phó Chủ tịch Cấp cao tại Commonwealth.

Khám phá những tin tức và sự kiện công nghệ tài chính hàng đầu!

Đăng ký nhận bản tin của FinTech Weekly

Được đọc bởi các giám đốc điều hành tại JP Morgan, Coinbase, Blackrock, Klarna và nhiều hơn nữa

Trí tuệ nhân tạo tài chính còn một chặng đường dài phía trước — không chỉ về tốc độ, độ chính xác, hay thậm chí là quy định, mà còn ở cách nó giành được lòng tin. Đặc biệt là từ những người theo truyền thống không phải là những người đầu tiên xếp hàng khi công nghệ mới ra mắt.

Tại FinTech Weekly, chúng tôi đã theo dõi công việc của Commonwealth, một tổ chức phi lợi nhuận tập trung vào việc xây dựng an ninh tài chính cho các hộ gia đình có thu nhập thấp và trung bình (LMI). Công việc thực địa của họ, được khám phá trong bài xã luận gần đây của chúng tôi, cho thấy một sự căng thẳng rõ ràng: mặc dù người dùng LMI cởi mở với các công cụ như chatbot, họ vẫn đang chờ đợi những trải nghiệm thực sự phục vụ họ — không chỉ là các tính năng được đóng gói lại được xây dựng cho người khác.

Tuần này, chúng tôi đã đi sâu hơn.

Chúng tôi đã nói chuyện với Paula Grieco, Phó Chủ tịch Cấp cao tại Commonwealth, để hiểu điều gì thực sự cần thiết để làm cho AI hiệu quả — và an toàn — cho các cộng đồng chưa được phục vụ đầy đủ. Từ các nguyên tắc thiết kế đến lòng tin đã được xây dựng, từ đồng lái đến sự mệt mỏi với chatbot, cô ấy chia sẻ lý do tại sao ý định lại quan trọng hơn sự đổi mới đơn thuần.

Đó là một cái nhìn thực tế và sâu sắc về công nghệ tài chính toàn diện có thể — và nên — trông như thế nào.

Đọc toàn bộ cuộc phỏng vấn dưới đây.

2.  Sự hợp tác gần đây của Commonwealth với JPMorganChase đã cung cấp những hiểu biết chính về vai trò của AI trong việc cải thiện an ninh tài chính cho các hộ gia đình LMI. Những phát hiện đáng ngạc nhiên hoặc có tác động nhất từ nghiên cứu này là gì?

Nghiên cứu của chúng tôi làm sáng tỏ tiềm năng to lớn của AI, đặc biệt là chatbot, trong việc cung cấp hướng dẫn và hỗ trợ được cá nhân hóa cho các cộng đồng có thu nhập thấp hơn — nếu chatbot được thiết kế một cách chu đáo với nhu cầu và quan điểm của nhóm này.

Hai phát hiện chính:

*   Khách hàng phần lớn coi chatbot là công cụ tích cực để cải thiện tình hình tài chính của họ. Dữ liệu của chúng tôi cho thấy 57% người trả lời cho biết sử dụng chatbot đã cải thiện tình hình tài chính của họ. Nghiên cứu cũng chỉ ra rằng những người có thu nhập thấp đến trung bình (LMI) muốn có các tính năng xây dựng tín dụng, lập ngân sách và quản lý nợ.

*   Những người trả lời đánh giá cao không gian không phán xét với chatbot để đặt các câu hỏi tài chính nhạy cảm mà không phải lo lắng về sự xấu hổ hoặc tự ti có thể đi kèm với cuộc trò chuyện trực tiếp với một nhân viên con người.

3.  Bà thấy AI đàm thoại sẽ phát triển như thế nào trong lĩnh vực dịch vụ tài chính, đặc biệt là cho các cộng đồng chưa được phục vụ đầy đủ?

Lý tưởng nhất là thế hệ chatbot tiếp theo được thúc đẩy bởi AI tạo sinh sẽ là các trợ lý tài chính AI hỗ trợ tốt hơn các hoạt động tài chính của các hộ gia đình này và giành được lòng tin với các nhóm dân cư thường e ngại khi tương tác với hệ thống tài chính và chia sẻ dữ liệu trực tuyến. Có một cơ hội lớn cho các nhà cung cấp dịch vụ tài chính để cung cấp các khả năng phức tạp, sắc thái và theo hướng hành động hơn cho chatbot của họ.

Khi khách hàng sử dụng chatbot tài chính hiện nay, họ chủ yếu tìm kiếm thông tin tài khoản hoặc cố gắng giải quyết một vấn đề. Ít hơn 20% người trả lời khảo sát toàn quốc của chúng tôi đã sử dụng chatbot để được tư vấn và giáo dục tài chính, đề xuất sản phẩm, đăng ký tín dụng hoặc khoản vay, và mở hoặc đóng tài khoản. Tuy nhiên, nghiên cứu của chúng tôi cho thấy có nhu cầu về chatbot có thể hỗ trợ các loại hành động ngân hàng này. Tập trung vào các loại tính năng này khi phát triển chatbot có thể tăng cường việc sử dụng và tính hữu ích của chúng đối với những khách hàng này.

Đối với các ngân hàng và tổ chức tài chính chưa sẵn sàng triển khai đồng lái tài chính AI tạo sinh trực tiếp cho người tiêu dùng, công nghệ này có thể hỗ trợ nhân viên ngân hàng như đại diện khách hàng để cung cấp các phản hồi tốt hơn, chính xác hơn và kịp thời hơn cho khách hàng trong các tương tác.

4.  Một số thách thức lớn nhất trong việc đảm bảo các công cụ tài chính do AI điều khiển là công bằng và hiệu quả cho các hộ gia đình do người Da đen, Latinh và phụ nữ làm chủ là gì?

Với tất cả các công nghệ mới nổi, cần có một nỗ lực có chủ đích để đảm bảo rằng nhu cầu của những người có thu nhập thấp đến trung bình được đưa vào quá trình phát triển và các quyết định thiết kế. Chúng tôi đã nhận thấy rằng quan hệ đối tác tư nhân/từ thiện với các tổ chức tài chính ngay từ đầu giúp xây dựng động lực cho những nỗ lực này. Bằng cách phát triển cơ sở bằng chứng, chúng tôi cũng giúp xây dựng trường hợp kinh doanh.

Chúng tôi đã thấy tiềm năng đáng kể cho hướng dẫn thiết kế xung quanh những thứ như tăng cường lòng tin đã được xây dựng có thể cho phép AI đàm thoại hỗ trợ sức khỏe tài chính mà không làm tăng chi phí đáng kể.

5.  Dựa trên nghiên cứu của mình, các nguyên tắc thiết kế chính mà các nhà cung cấp dịch vụ tài chính nên xem xét khi tích hợp AI để hỗ trợ người dùng LMI là gì?

Commonwealth đã tạo ra một nguồn tài nguyên, Hướng dẫn AI Tài chính vì Lợi ích, để cung cấp hướng dẫn thiết kế khả thi cho các nhà cung cấp dịch vụ tài chính phục vụ các nhóm dân cư LMI. Chúng tôi đã phát triển các khuyến nghị này dựa trên nghiên cứu toàn diện với các tổ chức tài chính, nhà cung cấp chatbot và những người có thu nhập thấp đến trung bình.

Hướng dẫn được tổ chức xoay quanh bốn mục tiêu thiết kế chính. Tôi sẽ đưa ra một hoặc hai ví dụ cho mỗi mục tiêu:

2.  Xây dựng lòng tin: Mối quan tâm hàng đầu của đa số người trả lời khảo sát của chúng tôi khi sử dụng chatbot là bảo mật. Đây là nơi các tổ chức tài chính có thể nhấn mạnh bảo mật dữ liệu thông qua các thông điệp ban đầu về các biện pháp mà ngân hàng đang thực hiện cũng như cho người dùng quyền kiểm soát dữ liệu nào được lưu trữ.
4.  Thúc đẩy tương tác: Làm cho trải nghiệm trở nên mà người dùng biết các công cụ này có thể làm gì cho họ và khi nào bằng cách tạo ra sự rõ ràng xung quanh các chức năng của chúng. Ngoài ra, theo đuổi "tính chủ động thông minh". Ví dụ, tích hợp các chatbot bật lên khi chúng có thể hữu ích nhất, mà không quá thúc ép hoặc hung hăng, điều này có thể bị coi là spam.
6.  Tăng giá trị: Dự đoán nhu cầu của khách hàng của bạn. Khả năng tiếp cận hạn chế với các chi nhánh vật lý tạo cơ hội cho chatbot hoàn thành các hành động nhỏ mà khách hàng có thể đã phải đến ngân hàng để thực hiện. Cân bằng tự động hóa và kiểm soát bằng cách cho phép người dùng bật và tắt các tính năng tài chính tự động, và bao gồm các tính năng "lưới an toàn" tạm dừng việc di chuyển tự động của tiền nếu số dư giảm xuống dưới một ngưỡng nhất định.
8.  Cải thiện khả năng tiếp cận: Cung cấp hỗ trợ đa ngôn ngữ và hướng dẫn phù hợp với cơ sở khách hàng của bạn và tập trung vào các tính năng thân thiện với thiết bị di động. Nghiên cứu của chúng tôi cho thấy hơn một nửa số người trả lời thích truy cập ngân hàng của họ thông qua điện thoại di động.

6.  Bà có thể chia sẻ bất kỳ câu chuyện thành công hoặc nghiên cứu điển hình nào mà AI đàm thoại đã cải thiện đáng kể tình hình tài chính cho các cá nhân LMI không?

Điều chúng tôi biết là 57% người dùng trong nghiên cứu thử nghiệm thực địa của chúng tôi cho biết việc sử dụng chatbot tài chính có tác động tích cực đến tình hình tài chính của họ. Mặc dù những kết quả ban đầu này rất hứa hẹn, các công cụ AI tạo sinh vẫn còn trong giai đoạn sơ khai, và nghiên cứu đang tiến hành của chúng tôi sẽ tiếp tục xây dựng cơ sở bằng chứng về hiệu quả của chúng trong việc cải thiện tình hình tài chính cho các cá nhân LMI.

7.  Những rủi ro hoặc hậu quả không mong muốn nào mà các tổ chức tài chính nên lưu ý khi triển khai các công cụ tài chính do AI điều khiển?

Điều quan trọng là những người có thu nhập thấp đến trung bình không bị bỏ lại phía sau. Khi các tổ chức tài chính đang phát triển các công cụ, điều quan trọng là họ hiểu được các cơ hội vốn có và cách phục vụ cơ sở khách hàng LMI.

Có nhiều tổ chức tập trung cụ thể vào các rủi ro và hậu quả vốn có của các công cụ do AI điều khiển, và sự thiên vị cũng như độ chính xác của các mô hình ngôn ngữ lớn. Ngoài ra, chúng tôi muốn đảm bảo rằng một mối quan tâm chính được giải quyết: tính phù hợp của các khuyến nghị tài chính đối với tình hình tài chính cá nhân của người dùng. Các tổ chức tài chính có thể tăng cường tương tác của khách hàng và giành được lòng tin của khách hàng bằng cách đảm bảo rằng thông tin họ cung cấp là chính xác và có sự minh bạch thực sự.

AI mang đến một cơ hội chưa từng có cho những người có thu nhập thấp đến trung bình để tiếp cận các lời khuyên và công cụ theo truyền thống không có sẵn cho họ, cho dù đó là các công cụ đầu tư hay quản lý tài chính cá nhân. Các công cụ này có thể được cá nhân hóa và tùy chỉnh cho những người có thu nhập thấp đến trung bình và các tình huống độc đáo của họ. Đây là một cơ hội to lớn cho các nhà cung cấp tài chính để mở rộng cơ sở khách hàng của họ.

8.  Làm thế nào các tổ chức tài chính có thể đo lường tác động thực sự của các công cụ do AI điều khiển đối với an ninh và tình hình tài chính của người dùng?

Các yếu tố cơ bản của sức khỏe tài chính: Có sự gia tăng tiết kiệm, giảm nợ, cải thiện điểm tín dụng khi sử dụng các công cụ này không?

Chúng tôi cũng có thể khảo sát trải nghiệm xung quanh việc tương tác với chatbot — lòng tin có tăng lên không? Có sự quan tâm gia tăng đối với các sản phẩm hữu ích cho việc cải thiện tình hình tài chính không? Khi nói đến tư vấn, có hành động nào được thực hiện sau khi nhận được lời khuyên không?

Các ngân hàng cũng có thể thực hiện thử nghiệm A/B giữa các nhóm người tiêu dùng khác nhau đang tương tác với chatbot so với những người không tương tác để xem liệu có sự khác biệt có thể đo lường được giữa họ không.

9.  Vai trò của sự giám sát của con người trong việc triển khai các công cụ AI cho dịch vụ tài chính là gì, và làm thế nào các nhà cung cấp có thể tìm ra sự cân bằng phù hợp giữa tự động hóa và hỗ trợ của con người?

Một trong những cách để tăng lòng tin đã được xây dựng xung quanh AI là đảm bảo rằng có một con người có thể tiếp cận được vào những thời điểm thích hợp xung quanh sự tương tác. Đây là nơi việc sử dụng đồng lái bởi các nhân viên ngân hàng đối diện với khách hàng có thể có lợi. Việc tiếp cận với một người thật khi cần thiết sẽ làm tăng lòng tin và trải nghiệm với công cụ AI.

Sử dụng AI đàm thoại sẽ cho phép các đại diện dịch vụ khách hàng phục vụ tốt hơn và nhanh hơn các nhu cầu phức tạp của khách hàng và thành viên của họ trong khi cung cấp sự tiếp xúc con người tại các điểm chính trong tương tác khi một nhân viên trực tiếp là mong muốn.

Tính minh bạch cũng rất quan trọng để xây dựng lòng tin trong bất kỳ tương tác nào. Ví dụ, bạn nên biết liệu bạn đang nói chuyện với một chatbot hay với một người thật.

10.  Nhìn về phía trước, những cơ hội thú vị nhất cho AI trong tài chính toàn diện trong năm năm tới là gì?

AI tạo sinh đại diện cho sự tiến hóa tiếp theo trong hỗ trợ AI đàm thoại, cung cấp sự tương tác được cá nhân hóa và nhạy cảm với ngữ cảnh ở một mức độ gần giống với hỗ trợ của con người hơn nhiều so với cấu trúc cây quyết định của hầu hết các chatbot tài chính ngày nay. Các ứng dụng ban đầu của AI tạo sinh trong tài chính chủ yếu tập trung vào các ứng dụng back-office, nơi có cơ hội hỗ trợ các nhân viên dịch vụ khách hàng. Xác định cách AI tạo sinh có thể cung cấp hỗ trợ được cá nhân hóa ở quy mô lớn trong bối cảnh tài chính là một cơ hội chính để thúc đẩy sự phát triển trong lĩnh vực này.

Xây dựng lòng tin đã được xây dựng sẽ đặc biệt quan trọng cho việc áp dụng rộng rãi hơn AI tạo sinh, mà những người tham gia trong các thử nghiệm thực địa và nhóm tập trung của chúng tôi vẫn còn hoài nghi hơn so với các chatbot truyền thống. Tuy nhiên, những lợi ích tiềm năng của việc cung cấp một mức độ hỗ trợ tiên tiến hơn trên các ứng dụng dịch vụ tài chính làm cho AI tạo sinh trở thành công nghệ thú vị nhất để theo dõi trong lĩnh vực tài chính. Những ai có thể phát triển hỗ trợ AI tạo sinh đáng tin cậy và đáng tin cậy sẽ đi đầu trong kỷ nguyên mới này của việc xây dựng mối quan hệ khách hàng ở quy mô lớn.

Một số cơ hội cụ thể khác mà chúng tôi thấy là đồng lái và trợ lý cá nhân có thể cung cấp hướng dẫn tài chính toàn diện phù hợp với nhu cầu cá nhân, một huấn luyện viên tài chính cá nhân nếu bạn muốn. Chúng tôi cũng kỳ vọng những tiến bộ trong AI đàm thoại sẽ đóng vai trò có giá trị trong việc thúc đẩy sức khỏe tài chính của người lao động bằng cách cung cấp thông tin và hướng dẫn để điều hướng các hệ thống phúc lợi nhân viên phức tạp.

11.  Bà thấy vai trò của các tổ chức phi lợi nhuận như Commonwealth sẽ phát triển như thế nào trong việc định hình việc sử dụng AI có trách nhiệm trong các dịch vụ tài chính?

Trong lịch sử, việc thiết kế các công nghệ mới đã tập trung vào việc áp dụng bởi người tiêu dùng có thu nhập cao trong khi bỏ qua nhu cầu của các hộ gia đình LMI. Thông qua sáng kiến Công nghệ Mới nổi cho Tất cả (ETA), chúng tôi tập trung vào việc đảm bảo rằng nhu cầu của những người dễ bị tổn thương về tài chính được hiểu, được nhìn thấy, được đưa vào các cuộc trò chuyện liên quan và được tích hợp vào các giải pháp. Chúng tôi đang ở một điểm uốn quan trọng trong việc mở rộng quy mô AI và tin rằng cần khẩn trương tiếp tục nghiên cứu và xác định những cách mà AI có thể tác động tích cực đến nhóm dân cư này.

Tương đối ít nghiên cứu và áp dụng trong lĩnh vực này tồn tại về chủ đề này ngày nay, và một số nhà cung cấp mà chúng tôi phỏng vấn đã đề cập đến nhu cầu về các nghiên cứu quy mô lớn hơn để xây dựng loại bằng chứng mà họ có thể sử dụng để đưa ra trường hợp cho loại thiết kế này trong nội bộ. Chúng tôi đang vươn lên đối mặt với thách thức này bằng cách sản xuất các nghiên cứu có tác động và các thử nghiệm thực địa tại chỗ chứng minh cách AI tạo sinh có thể hỗ trợ sức khỏe tài chính của các hộ gia đình có thu nhập thấp đến trung bình và xây dựng trường hợp kinh doanh cho việc thiết kế chủ động hơn cho phân khúc người tiêu dùng chưa được phục vụ đầy đủ này.

Nhìn về tương lai, tác động hệ thống của thiết kế công nghệ toàn diện sẽ phụ thuộc vào các ứng dụng quy mô lớn của những hiểu biết này bởi các tác nhân chính trong dịch vụ tài chính. Đối với chúng tôi, việc đưa thiết kế toàn diện lên quy mô lớn sẽ phụ thuộc vào việc tận dụng nghiên cứu của chúng tôi để hợp tác với các tổ chức lớn hơn đang tìm cách tận dụng những tiến bộ trong AI để hỗ trợ sức khỏe tài chính của khách hàng và người lao động của họ.

12.  Bà sẽ đưa ra lời khuyên gì cho các tổ chức tài chính đang muốn tận dụng AI trong khi vẫn duy trì lòng tin và tính minh bạch với khách hàng của họ?

Các hộ gia đình LMI quan tâm hơn đến việc giao dịch trực tiếp với một người nhưng lại có ít quyền truy cập nhất vào các chi nhánh trực tiếp. Khoảng cách này làm nổi bật một cơ hội chính cho AI để cung cấp loại hỗ trợ được cá nhân hóa mà các hộ gia đình có thu nhập thấp đến trung bình tìm kiếm mà không cần tăng số lượng chi nhánh hoặc nhân viên hỗ trợ khách hàng.

Tuy nhiên, để thúc đẩy việc áp dụng rộng rãi hơn, các tổ chức tài chính phải giành được và xây dựng nhiều lòng tin hơn vào chatbot từ những người có thu nhập thấp đến trung bình — một phần trong số này là cụ thể cho trải nghiệm chatbot, trong khi một phần khác là trên toàn ngành khi công nghệ AI đạt được sự chấp nhận nhiều hơn và cải thiện về bảo mật và chất lượng tổng thể.

Mối quan tâm hàng đầu của những người tương tác với chatbot là bảo mật và quyền riêng tư. Nhìn chung, mọi người đã bày tỏ sự thiếu lòng tin vào AI đàm thoại để hữu ích, bảo vệ dữ liệu của họ hoặc hành động vì lợi ích tốt nhất của họ. Trong khi nhiều người trong giới kinh doanh hào hứng với tiềm năng của AI, những người có thu nhập thấp đến trung bình có thể sẽ nhìn nhận nó với nhiều hoài nghi hơn như một công nghệ mới chưa chứng minh được giá trị trực tiếp của nó đối với họ.

Các chính sách dữ liệu minh bạch, thương hiệu và thông điệp trấn an, và duy trì kết nối với một nhân viên con người như một lựa chọn dự phòng sẽ giúp xây dựng và giành được lòng tin. Phát triển các tương tác hữu ích và được cá nhân hóa thông qua AI tạo sinh vượt ra ngoài việc cung cấp thông tin cơ bản mà chatbot cung cấp ngày nay, chẳng hạn như số dư tài khoản và các giao dịch gần đây, cũng sẽ giúp chứng minh giá trị của công nghệ.

Cũng cần nhấn mạnh khái niệm về lòng tin đã được xây dựng. Mục tiêu không chỉ đơn thuần là thuyết phục mọi người tin tưởng chatbot, mà thực sự là thiết kế chatbot theo cách mà lòng tin này là xứng đáng.