Lớp Phán Xét: Tại sao AI chưa thông minh cho đến khi các nhà lãnh đạo trở nên thông minh hơn

Guillermo Delgado Aparicio là Trưởng nhóm AI Toàn cầu tại Nisum.

Khám phá tin tức và sự kiện fintech hàng đầu!

Đăng ký bản tin của FinTech Weekly

Được đọc bởi các điều hành tại JP Morgan, Coinbase, Blackrock, Klarna và hơn thế nữa

AI trong fintech bao trùm một loạt trường hợp sử dụng, từ phát hiện gian lận và giao dịch theo thuật toán đến chấm điểm tín dụng động và gợi ý sản phẩm được cá nhân hóa. Tuy nhiên, một báo cáo của Cơ quan Quản lý Ứng xử Tài chính (Financial Conduct Authority) cho thấy trong số 75% các công ty sử dụng AI, chỉ 34% biết nó hoạt động như thế nào.

Vấn đề không chỉ là thiếu nhận thức. Đó là sự hiểu sai sâu sắc về sức mạnh và phạm vi của phân tích dữ liệu—một lĩnh vực mà từ đó AI phát sinh. Việc áp dụng ồ ạt các công cụ AI tạo sinh đã đưa chủ đề này lên cấp C-suite. Nhưng nhiều người quyết định triển khai AI lại không hiểu các nguyên lý nền tảng của giải tích, thống kê và các thuật toán nâng cao.

Hãy lấy Luật Benford—một nguyên lý thống kê đơn giản dùng để phát hiện gian lận bằng cách nhận ra các mẫu trong các con số. AI cũng xây dựng trên đúng loại toán đó, chỉ được mở rộng để xử lý đồng thời hàng triệu giao dịch. Bỏ qua mọi lời thổi phồng, nền tảng vẫn là thống kê và thuật toán.

Đó là lý do tại sao kỹ năng hiểu biết về AI ở cấp C lại quan trọng. Các nhà lãnh đạo không thể phân biệt ranh giới nơi phân tích dữ liệu kết thúc sẽ có nguy cơ đặt quá nhiều niềm tin vào các hệ thống mà họ không hiểu hoặc sử dụng chúng quá ít vì sợ hãi. Và lịch sử cho thấy điều gì xảy ra khi người ra quyết định hiểu sai công nghệ: trước đây, các cơ quan quản lý từng cố gắng cấm các cuộc gọi IP quốc tế, chỉ để rồi chứng kiến công nghệ vượt xa các quy định. Cũng có một động lực tương tự đang diễn ra với AI. Bạn không thể chặn hoặc áp dụng một cách mù quáng; bạn cần có phán đoán, bối cảnh và khả năng điều hướng nó một cách có trách nhiệm.

Các nhà lãnh đạo fintech phải lấp đầy các khoảng trống này để sử dụng AI một cách có trách nhiệm và hiệu quả. Điều đó có nghĩa là hiểu ranh giới nơi phân tích dữ liệu kết thúc và AI bắt đầu, xây dựng kỹ năng để điều hướng những hệ thống này, và áp dụng phán đoán đúng đắn để quyết định khi nào và cách nào nên tin vào đầu ra của chúng.

Những Giới Hạn, Điểm Mù và Ảo Tưởng của AI

Phân tích dữ liệu phân tích dữ liệu trong quá khứ và hiện tại để giải thích điều gì đã xảy ra và vì sao. AI phát triển từ nền tảng đó, sử dụng phân tích dữ liệu nâng cao để dự đoán điều gì sẽ xảy ra tiếp theo và, ngày càng, để ra quyết định hoặc hành động tự động.

Với năng lực xử lý dữ liệu đặc biệt, thật dễ hiểu vì sao các nhà lãnh đạo fintech có thể coi AI là “viên đạn thần kỳ” của họ. Nhưng AI không thể giải quyết mọi vấn đề. Con người vẫn có lợi thế bẩm sinh trong nhận diện mẫu—đặc biệt khi dữ liệu không đầy đủ hoặc “bẩn”. AI có thể gặp khó khăn trong việc diễn giải các sắc thái ngữ cảnh mà con người có thể nắm bắt nhanh chóng.

Tuy nhiên, việc nghĩ rằng dữ liệu không hoàn hảo khiến AI trở nên vô dụng là một sai lầm. Các mô hình phân tích có thể hoạt động với dữ liệu chưa đầy đủ. Nhưng biết khi nào triển khai AI và khi nào dựa vào phán đoán của con người để lấp các khoảng trống mới là thách thức thực sự. Nếu không có sự giám sát cẩn trọng này, AI có thể tạo ra những rủi ro đáng kể.

Một trong những vấn đề như vậy là thiên lệch (bias). Khi các fintech huấn luyện AI trên các bộ dữ liệu cũ, họ thường vô tình kế thừa “gánh nặng” đi kèm. Ví dụ, tên riêng của một khách hàng có thể vô tình đóng vai trò như một biến đại diện cho giới tính, hoặc các dấu hiệu suy ra từ họ có thể liên quan đến sắc tộc, làm nghiêng các điểm tín dụng theo những cách mà không có cơ quan quản lý nào chấp thuận. Những thiên lệch này, dễ bị che giấu trong toán học, thường cần sự giám sát của con người để phát hiện và chỉnh sửa.

Khi các mô hình AI bị phơi bày trước những tình huống mà chúng không được huấn luyện, điều này có thể gây ra model drift. Biến động thị trường, thay đổi quy định, hành vi khách hàng đang phát triển, và các thay đổi vĩ mô đều có thể ảnh hưởng đến hiệu quả của một mô hình mà không có việc theo dõi và hiệu chỉnh lại bởi con người.

Khó khăn trong việc hiệu chỉnh lại thuật toán tăng lên đáng kể khi các fintech sử dụng các “hộp đen” không cho phép nhìn thấy mối quan hệ giữa các biến. Trong các điều kiện đó, họ mất khả năng chuyển giao kiến thức này cho những người ra quyết định trong ban quản lý. Ngoài ra, lỗi và thiên lệch vẫn bị che giấu trong các mô hình mờ đục, làm suy yếu niềm tin và tuân thủ.

Các Nhà Lãnh Đạo Fintech Cần Biết Gì

Một cuộc khảo sát của Deloitte cho thấy 80% nói rằng ban quản trị của họ có ít hoặc không có kinh nghiệm với AI. Nhưng các lãnh đạo cấp C-suite không thể coi AI là một “vấn đề của đội công nghệ”. Trách nhiệm giải trình về AI nằm ở ban lãnh đạo, nghĩa là các nhà lãnh đạo fintech cần nâng cấp kỹ năng.

Năng lực thông thạo phân tích chéo (cross-analytical fluency)

Trước khi triển khai AI, các nhà lãnh đạo fintech cần có khả năng chuyển đổi trạng thái—nhìn vào các con số, luận cứ kinh doanh, vận hành và đạo đức—và thấy các yếu tố đó chồng lấp cũng như định hình kết quả của AI. Họ cần hiểu mối quan hệ giữa độ chính xác thống kê của một mô hình và mức độ phơi nhiễm rủi ro tín dụng. Và nhận ra khi một biến trông có vẻ vững về mặt tài chính (như lịch sử thanh toán) có thể đưa vào rủi ro xã hội hoặc rủi ro pháp lý thông qua tương quan với một nhóm được bảo vệ, chẳng hạn như tuổi hoặc sắc tộc.

Năng lực hiểu biết về AI này đến từ việc ngồi cùng các cán bộ tuân thủ để làm rõ các quy định, trao đổi với các quản lý sản phẩm về trải nghiệm người dùng, và rà soát kết quả mô hình với các nhà khoa học dữ liệu để phát hiện dấu hiệu trôi (drift) hoặc thiên lệch (bias).

Trong fintech, không thể tránh rủi ro 100%, nhưng với năng lực phân tích chéo, các nhà lãnh đạo có thể xác định chính xác rủi ro nào đáng để chấp nhận và rủi ro nào sẽ bào mòn giá trị cho cổ đông. Kỹ năng này cũng giúp nâng cao khả năng nhận diện và hành động trước thiên lệch—không chỉ từ góc độ tuân thủ, mà còn từ góc độ chiến lược và đạo đức.

Ví dụ, giả sử một mô hình chấm điểm tín dụng được điều khiển bởi AI bị nghiêng mạnh về một nhóm khách hàng. Việc sửa sự mất cân bằng đó không chỉ là một công việc của khoa học dữ liệu; nó bảo vệ danh tiếng của công ty. Với các fintech cam kết tài chính toàn diện (financial inclusion) hoặc đang chịu sự giám sát về ESG, chỉ tuân thủ pháp lý thôi là chưa đủ. Phán đoán nghĩa là biết điều gì là đúng, không chỉ là điều gì được phép.

Năng lực đọc hiểu khả năng giải thích (Explainability Literacy)

Khả năng giải thích là nền tảng của niềm tin. Không có nó, các nhà ra quyết định, khách hàng và cơ quan quản lý sẽ phải tự hỏi vì sao một mô hình đưa ra kết luận cụ thể đó.

Điều này có nghĩa là các nhà điều hành phải có thể phân biệt giữa các mô hình có thể diễn giải (interpretable) và các mô hình cần giải thích hậu nghiệm (post-hoc) (như giá trị SHAP hoặc LIME). Họ cần đặt câu hỏi khi logic của một mô hình không rõ ràng và nhận ra rằng chỉ “độ chính xác” không thể đủ để hợp thức hóa một quyết định của “hộp đen”.

Thiên lệch không xuất hiện từ hư không; nó nảy sinh khi các mô hình được huấn luyện và triển khai mà không có sự giám sát đầy đủ. Khả năng giải thích giúp các nhà lãnh đạo có tầm nhìn để phát hiện sớm các vấn đề đó và hành động trước khi chúng gây ra thiệt hại.

AI giống như hệ thống lái tự động trên máy bay. Phần lớn thời gian, nó hoạt động trơn tru, nhưng khi gặp bão, phi công phải nắm tay điều khiển. Trong tài chính, nguyên tắc tương tự cũng áp dụng. Các đội cần có khả năng dừng giao dịch, điều chỉnh một chiến lược, hoặc thậm chí rút khỏi kế hoạch ra mắt một sản phẩm khi điều kiện thay đổi. Khả năng giải thích đi song hành với mức độ sẵn sàng để can thiệp (override readiness), giúp các nhà lãnh đạo cấp C hiểu AI và vẫn nắm quyền kiểm soát, ngay cả khi nó đang vận hành ở quy mô lớn.

Tư duy mô hình theo xác suất (Probabilistic Model Thinking)

Các nhà điều hành đã quen với các quyết định tất định (deterministic), như nếu điểm tín dụng dưới 650 thì từ chối hồ sơ. Nhưng AI không hoạt động theo cách đó, và đây là một thay đổi mô hình tư duy lớn.

Đối với các nhà lãnh đạo, tư duy theo xác suất đòi hỏi ba năng lực:

*   Diễn giải các dải rủi ro thay vì kết quả nhị phân có/không.
*   Cân nhắc mức độ tin cậy của một dự đoán với các cân nhắc khác về kinh doanh hoặc pháp lý.
*   Biết khi nào cần ghi đè tự động hóa và áp dụng sự cân nhắc (discretion) của con người.

Ví dụ, mô hình AI theo xác suất của một fintech có thể gắn nhãn một khách hàng là rủi ro cao, nhưng điều đó không nhất thiết có nghĩa là “từ chối”. Nó có thể có nghĩa là “điều tra thêm” hoặc “điều chỉnh điều khoản khoản vay”. Nếu thiếu sự tinh tế này, rủi ro của tự động hóa là nó có thể trở thành một công cụ thô bạo, làm suy giảm niềm tin của khách hàng trong khi lại khiến các công ty đối mặt với phản ứng ngược từ phía cơ quan quản lý.

Vì sao Lớp Phán Đoán Sẽ Xác Định Ai Là Người Chiến Thắng trong Fintech

Tương lai của fintech sẽ không được quyết định bởi ai sở hữu các mô hình AI mạnh nhất; thay vào đó, ai sử dụng chúng với khả năng phán đoán sắc bén nhất. Khi AI trở nên phổ biến như một hàng hóa (commoditize), các lợi ích về hiệu quả sẽ trở thành điều kiện cơ bản. Điều tách biệt những người chiến thắng là khả năng can thiệp khi các thuật toán va chạm với sự không chắc chắn, rủi ro và các vùng xám về đạo đức.

Lớp phán đoán không phải là một ý tưởng trừu tượng. Nó xuất hiện khi các nhà điều hành quyết định tạm dừng giao dịch tự động, trì hoãn việc ra mắt sản phẩm, hoặc ghi đè một điểm rủi ro không phản ánh đúng bối cảnh ngoài đời thực. Những khoảnh khắc này không phải là thất bại của AI; chúng là bằng chứng rằng sự giám sát của con người là tuyến cuối cùng tạo ra giá trị.

Sự liên kết chiến lược là nơi phán đoán trở thành thể chế. Một chiến lược AI vững mạnh không chỉ vạch ra các lộ trình kỹ thuật; nó đảm bảo tổ chức thường xuyên xem xét lại các sáng kiến, nâng cấp năng lực AI của đội ngũ, đảm bảo công ty có kiến trúc dữ liệu cần thiết, và gắn mọi lần triển khai với một kết quả kinh doanh rõ ràng. Theo nghĩa đó, phán đoán không mang tính từng thời điểm (episodic) mà được xây dựng vào chế độ vận hành, và cho phép các nhà điều hành thúc đẩy cách lãnh đạo dựa trên giá trị.

Các fintech cần những nhà lãnh đạo biết cách cân bằng AI để đạt tốc độ và quy mô, và con người để có bối cảnh, sự tinh tế và tầm nhìn dài hạn. AI có thể phát hiện bất thường trong vài giây, nhưng chỉ con người mới quyết định khi nào cần phản biện lại con số, suy nghĩ lại các giả định, hoặc chấp nhận một rủi ro táo bạo mở ra cánh cửa cho tăng trưởng. Lớp phán đoán đó chính là thứ biến AI từ một công cụ thành một lợi thế.

Về tác giả:

Guillermo Delgado là Trưởng nhóm AI Toàn cầu của Nisum và Giám đốc Vận hành (COO) của Deep Space Biology. Với hơn 25 năm kinh nghiệm trong lĩnh vực hóa sinh, trí tuệ nhân tạo, sinh học không gian và khởi nghiệp, ông phát triển các giải pháp sáng tạo cho sức khỏe và phúc lợi của con người trên Trái Đất và trong không gian.

Với tư cách là một nhà tư vấn chiến lược doanh nghiệp, ông đã đóng góp cho tầm nhìn AI của NASA về sinh học không gian và nhận được các giải thưởng về đổi mới. Ông có bằng Thạc sĩ Khoa học về Trí tuệ Nhân tạo từ Georgia Tech, tốt nghiệp với danh dự. Ngoài ra, với tư cách là một giáo sư đại học, ông đã giảng dạy các khóa học về học máy (machine learning), dữ liệu lớn (big data) và khoa học hệ gen (genomic science).