Lớp Phán quyết: Tại sao AI chưa thông minh cho đến khi các nhà lãnh đạo thông minh hơn

Guillermo Delgado Aparicio là Lãnh đạo AI Toàn cầu tại Nisum.

Khám phá tin tức và sự kiện fintech hàng đầu!

Đăng ký nhận bản tin của FinTech Weekly

Được đọc bởi các giám đốc điều hành tại JP Morgan, Coinbase, Blackrock, Klarna và nhiều hơn nữa

AI trong fintech bao gồm nhiều trường hợp sử dụng, từ phát hiện gian lận và giao dịch thuật toán đến chấm điểm tín dụng động và đề xuất sản phẩm cá nhân hóa. Tuy nhiên, một báo cáo của Financial Conduct Authority cho thấy trong số 75% công ty sử dụng AI, chỉ có 34% biết cách nó hoạt động.

Vấn đề không chỉ là thiếu nhận thức. Đó là sự hiểu sai sâu sắc về sức mạnh và phạm vi của phân tích dữ liệu, ngành mà từ đó AI xuất hiện. Sự áp dụng hàng loạt các công cụ AI sinh tạo đã đưa chủ đề này lên ban lãnh đạo cấp cao. Nhưng nhiều người trong số những người quyết định cách triển khai AI không hiểu các nguyên tắc cơ bản của giải tích, thống kê và thuật toán nâng cao.

Lấy Định luật Benford làm ví dụ, một nguyên tắc thống kê đơn giản phát hiện gian lận bằng cách nhận diện các mẫu trong số liệu. AI xây dựng trên cùng một loại toán học đó, chỉ được mở rộng quy mô để xử lý hàng triệu giao dịch cùng lúc. Loại bỏ cường điệu, nền tảng vẫn là thống kê và thuật toán.

Đây là lý do tại sao hiểu biết về AI ở cấp C-suite lại quan trọng. Các nhà lãnh đạo không thể phân biệt nơi phân tích kết thúc có nguy cơ tin tưởng quá mức vào các hệ thống họ không hiểu hoặc sử dụng không đầy đủ vì sợ hãi. Và lịch sử cho thấy điều gì xảy ra khi những người ra quyết định hiểu sai công nghệ: các cơ quan quản lý đã từng cố gắng cấm các cuộc gọi IP quốc tế, chỉ để chứng kiến công nghệ vượt qua các quy tắc. Cùng động thái đó đang diễn ra với AI. Bạn không thể chặn hay mù quáng chấp nhận nó; bạn cần phán đoán, bối cảnh và khả năng định hướng nó một cách có trách nhiệm.

Các nhà lãnh đạo fintech phải thu hẹp những khoảng cách này để sử dụng AI một cách có trách nhiệm và hiệu quả. Điều đó có nghĩa là hiểu nơi phân tích kết thúc và AI bắt đầu, xây dựng kỹ năng để điều hướng các hệ thống này, và áp dụng phán đoán đúng đắn để quyết định khi nào và làm thế nào để tin tưởng vào đầu ra của chúng.

Giới hạn, Điểm mù và Ảo tưởng của AI

Phân tích phân tích dữ liệu quá khứ và hiện tại để giải thích điều gì đã xảy ra và tại sao. AI phát triển từ nền tảng đó, sử dụng phân tích nâng cao để dự đoán điều gì sẽ xảy ra tiếp theo và ngày càng, để tự động quyết định hoặc hành động.

Với khả năng xử lý dữ liệu vượt trội, dễ hiểu tại sao các nhà lãnh đạo fintech lại coi AI như viên đạn thần kỳ của họ. Nhưng nó không thể giải quyết mọi vấn đề. Con người vẫn có lợi thế bẩm sinh trong nhận diện mẫu, đặc biệt khi dữ liệu không hoàn chỉnh hoặc "bẩn". AI có thể gặp khó khăn trong việc diễn giải các sắc thái ngữ cảnh mà con người có thể nắm bắt nhanh chóng.

Tuy nhiên, thật sai lầm khi nghĩ rằng dữ liệu không hoàn hảo khiến AI trở nên vô dụng. Các mô hình phân tích có thể hoạt động với dữ liệu không đầy đủ. Nhưng biết khi nào triển khai AI và khi nào dựa vào phán đoán của con người để lấp đầy khoảng trống mới là thách thức thực sự. Nếu thiếu sự giám sát cẩn thận này, AI có thể mang lại những rủi ro đáng kể.

Một vấn đề như vậy là thiên kiến. Khi các fintech huấn luyện AI trên các bộ dữ liệu cũ, chúng thường kế thừa những gánh nặng đi kèm. Ví dụ, tên của khách hàng có thể vô tình đóng vai trò như một proxy cho giới tính, hoặc họ cung cấp dấu hiệu về sắc tộc, làm lệch điểm tín dụng theo những cách mà không cơ quan quản lý nào chấp thuận. Những thiên kiến này, dễ bị ẩn trong các phép tính, thường cần sự giám sát của con người để phát hiện và sửa chữa.

Khi các mô hình AI tiếp xúc với các tình huống chúng chưa được huấn luyện, điều này có thể gây ra sự trôi dạt mô hình. Biến động thị trường, thay đổi quy định, hành vi khách hàng thay đổi và các biến chuyển kinh tế vĩ mô đều có thể ảnh hưởng đến hiệu quả của mô hình nếu không có sự giám sát và hiệu chỉnh lại từ con người.

Khó khăn trong việc hiệu chỉnh lại thuật toán tăng lên đáng kể khi các fintech sử dụng các hộp đen không cho phép nhìn thấy mối quan hệ giữa các biến số. Trong những điều kiện này, họ mất khả năng chuyển giao kiến thức đó cho những người ra quyết định trong quản lý. Ngoài ra, các lỗi và thiên kiến vẫn bị ẩn trong các mô hình mờ đục, làm suy yếu niềm tin và tuân thủ.

Những Gì Các Nhà Lãnh Đạo Fintech Cần Biết

Một cuộc khảo sát của Deloitte cho thấy 80% cho biết ban giám đốc của họ có ít hoặc không có kinh nghiệm với AI. Nhưng các giám đốc điều hành cấp cao không thể coi AI như một "vấn đề của đội ngũ kỹ thuật". Trách nhiệm về AI thuộc về ban lãnh đạo, nghĩa là các nhà lãnh đạo fintech cần nâng cao kỹ năng.

Khả năng thông thạo phân tích chéo

Trước khi triển khai AI, các nhà lãnh đạo fintech cần có khả năng chuyển đổi linh hoạt—xem xét các con số, trường hợp kinh doanh, hoạt động và đạo đức—và thấy các yếu tố đó chồng chéo và định hình kết quả AI như thế nào. Họ cần nắm bắt cách độ chính xác thống kê của mô hình liên quan đến rủi ro tín dụng. Và nhận ra khi nào một biến số có vẻ hợp lý về tài chính (như lịch sử trả nợ) có thể mang lại rủi ro xã hội hoặc quy định thông qua mối tương quan với một nhóm được bảo vệ, chẳng hạn như tuổi tác hoặc sắc tộc.

Sự thông thạo AI này đến từ việc ngồi với các nhân viên tuân thủ để phân tích các quy định, nói chuyện với quản lý sản phẩm về trải nghiệm người dùng, và xem xét kết quả mô hình với các nhà khoa học dữ liệu để phát hiện dấu hiệu trôi dạt hoặc thiên kiến.

Trong fintech, việc tránh rủi ro 100% là không thể, nhưng với khả năng thông thạo phân tích chéo, các nhà lãnh đạo có thể xác định rủi ro nào đáng để chấp nhận và rủi ro nào sẽ làm xói mòn giá trị cổ đông. Kỹ năng này cũng làm sắc bén khả năng phát hiện và hành động đối với thiên kiến, không chỉ từ góc độ tuân thủ, mà còn từ góc độ chiến lược và đạo đức.

Ví dụ, giả sử một mô hình chấm điểm tín dụng dựa trên AI nghiêng mạnh về một nhóm khách hàng nhất định. Khắc phục sự mất cân bằng đó không chỉ là công việc của khoa học dữ liệu; nó bảo vệ danh tiếng của công ty. Đối với các fintech cam kết tài chính toàn diện hoặc chịu sự giám sát ESG, chỉ tuân thủ pháp luật là chưa đủ. Phán đoán có nghĩa là biết điều gì đúng, không chỉ là điều gì được phép.

Hiểu biết về khả năng giải thích

Khả năng giải thích là nền tảng của niềm tin. Nếu thiếu nó, những người ra quyết định, khách hàng và cơ quan quản lý sẽ bị bỏ lại trong sự nghi ngờ về lý do tại sao mô hình lại đưa ra kết luận cụ thể.

Điều đó có nghĩa là các giám đốc điều hành phải có khả năng phân biệt giữa các mô hình có thể giải thích được và những mô hình cần giải thích sau thực tế (như giá trị SHAP hoặc LIME). Họ cần đặt câu hỏi khi logic của mô hình không rõ ràng và nhận ra khi nào "độ chính xác" một mình không thể biện minh cho quyết định của hộp đen.

Thiên kiến không xuất hiện từ không khí; nó nảy sinh khi các mô hình được huấn luyện và triển khai mà không có sự giám sát đầy đủ. Khả năng giải thích cung cấp cho lãnh đạo tầm nhìn để phát hiện các vấn đề đó sớm và hành động trước khi chúng gây ra thiệt hại.

AI giống như lái tự động trên máy bay. Phần lớn thời gian, nó chạy trơn tru, nhưng khi bão đến, phi công phải cầm lái. Trong tài chính, cùng nguyên tắc đó áp dụng. Các đội ngũ cần khả năng dừng giao dịch, điều chỉnh chiến lược, hoặc thậm chí rút phích cắm khỏi việc ra mắt sản phẩm khi điều kiện thay đổi. Khả năng giải thích đi đôi với sự sẵn sàng can thiệp, đảm bảo các lãnh đạo C-suite hiểu AI và duy trì quyền kiểm soát, ngay cả khi nó hoạt động ở quy mô lớn.

Tư duy mô hình xác suất

Các giám đốc điều hành đã quen với các quyết định tất định, như nếu điểm tín dụng dưới 650, từ chối đơn đăng ký. Nhưng AI không hoạt động theo cách đó và đây là một sự thay đổi tư duy lớn.

Đối với các nhà lãnh đạo, tư duy xác suất đòi hỏi ba khả năng:

*   Diễn giải các phạm vi rủi ro thay vì kết quả nhị phân có/không.
*   Cân nhắc mức độ tin cậy của dự đoán với các cân nhắc kinh doanh hoặc quy định khác.
*   Biết khi nào can thiệp vào tự động hóa và áp dụng quyết định của con người.

Ví dụ, mô hình AI xác suất của một fintech có thể gắn cờ một khách hàng là rủi ro cao, nhưng điều đó không nhất thiết có nghĩa là "từ chối". Nó có thể có nghĩa là "điều tra thêm" hoặc "điều chỉnh các điều khoản vay". Nếu thiếu sắc thái này, tự động hóa có nguy cơ trở thành một công cụ thô thiển, làm xói mòn niềm tin khách hàng trong khi khiến các công ty đối mặt với phản ứng từ cơ quan quản lý.

Tại Sao Lớp Phán Đoán Sẽ Định Nghĩa Người Thắng Trong Fintech

Tương lai của fintech sẽ không được quyết định bởi ai có mô hình AI mạnh nhất; mà là ai sử dụng chúng với phán đoán sắc bén nhất. Khi AI trở thành hàng hóa phổ biến, các lợi ích về hiệu quả trở thành yêu cầu cơ bản. Điều tạo nên sự khác biệt cho người thắng là khả năng can thiệp khi các thuật toán đối mặt với sự không chắc chắn, rủi ro và các vùng xám đạo đức.

Lớp phán đoán không phải là một ý tưởng trừu tượng. Nó hiện ra khi các giám đốc điều hành quyết định tạm dừng giao dịch tự động, trì hoãn việc ra mắt sản phẩm, hoặc can thiệp vào một điểm rủi ro không phản ánh bối cảnh thực tế. Những thời điểm này không phải là thất bại của AI; chúng là bằng chứng cho thấy sự giám sát của con người là tuyến cuối cùng của việc tạo ra giá trị.

Sự liên kết chiến lược là nơi phán đoán được thể chế hóa. Một chiến lược AI mạnh mẽ không chỉ thiết lập lộ trình kỹ thuật; nó đảm bảo tổ chức xem xét lại các sáng kiến, nâng cấp năng lực AI của đội ngũ, đảm bảo công ty có kiến trúc dữ liệu cần thiết, và gắn kết mỗi lần triển khai với một kết quả kinh doanh rõ ràng. Theo nghĩa này, phán đoán không phải là từng giai đoạn mà được xây dựng vào chế độ vận hành và cho phép các giám đốc điều hành thúc đẩy cách tiếp cận lãnh đạo dựa trên giá trị.

Fintech cần những nhà lãnh đạo biết cách cân bằng AI cho tốc độ và quy mô, và con người cho bối cảnh, sắc thái và tầm nhìn dài hạn. AI có thể phát hiện bất thường trong vài giây, nhưng chỉ con người mới có thể quyết định khi nào phản bác lại các tính toán, suy nghĩ lại các giả định, hoặc chấp nhận một rủi ro táo bạo mở ra cánh cửa cho sự tăng trưởng. Lớp phán đoán đó là thứ biến AI từ một công cụ thành một lợi thế.

Về tác giả:

Guillermo Delgado là Lãnh đạo AI Toàn cầu của Nisum và COO của Deep Space Biology. Với hơn 25 năm kinh nghiệm trong hóa sinh, trí tuệ nhân tạo, sinh học không gian và khởi nghiệp, ông phát triển các giải pháp sáng tạo cho sức khỏe con người trên Trái đất và trong không gian.

Là một nhà tư vấn chiến lược doanh nghiệp, ông đã đóng góp vào tầm nhìn AI của NASA cho sinh học không gian và đã nhận được các giải thưởng đổi mới. Ông có bằng Thạc sĩ Khoa học về Trí tuệ Nhân tạo từ Georgia Tech, đạt được với danh hiệu xuất sắc. Ngoài ra, với tư cách là giáo sư đại học, ông đã giảng dạy các khóa học về học máy, dữ liệu lớn và khoa học gen.