Tại sao Khung làm việc Sống lại là trung tâm thúc đẩy đổi mới trong Fintech

Imran Aftab, Đồng sáng lập & Giám đốc điều hành của 10Pearls.

Khám phá các tin tức và sự kiện fintech hàng đầu!

Đăng ký nhận bản tin của FinTech Weekly

Được đọc bởi các giám đốc điều hành tại JP Morgan, Coinbase, Blackrock, Klarna và hơn thế nữa

Tài chính luôn là một người ủng hộ mạnh mẽ cho sự đổi mới kỹ thuật số, và làn sóng AI gần đây không phải là ngoại lệ. Là một ngành đang chịu áp lực ngày càng tăng để mang lại cho khách hàng những trải nghiệm kỹ thuật số nhanh hơn, được cá nhân hóa hơn và hiệu quả hơn, việc tích hợp công nghệ tiên tiến là điều không thể thương lượng.

Khi các công ty fintech tiến xa hơn việc thử nghiệm AI để tích hợp nó vào các chiến lược cốt lõi của mình, câu hỏi không còn nằm ở giá trị mà AI mang lại, mà là cách nó được quản trị theo thời gian. Nếu thiếu các nguyên tắc hướng dẫn rõ ràng được nhúng trong một khuôn khổ trung tâm, các fintech sẽ nhanh chóng gặp rủi ro từ góc độ danh tiếng, quy định và bảo mật.

Một khuôn khổ “sống” không chỉ bao phủ mọi khía cạnh, mà còn làm được điều đó trong khi vẫn theo kịp các chiến lược đang thay đổi. Nó thúc đẩy, chứ không kìm hãm, sự đổi mới—mà không gây phương hại cho các fintech trong quá trình đó.

Cân bằng giữa công bằng và độ chính xác

Việc số hóa nhanh chóng các dịch vụ tài chính cũng tạo ra nhiều cơ hội hơn cho các hành vi gian lận tiềm ẩn và các cuộc tấn công an ninh mạng. Tuy nhiên, AI không được quản trị thường sa vào hiện tượng “bịa đặt” và thiên lệch—có nghĩa là những người nắm giữ tài khoản có thể bị gắn cờ nhầm bởi chính các hệ thống được thiết kế để bảo vệ họ.

Các fintech phải đảm bảo rằng các hệ thống AI hoạt động nhất quán và đáp ứng các tiêu chuẩn về hiệu suất. Quản lý dữ liệu kém là một nền tảng then chốt của AI không được quản trị và sẽ nhanh chóng đẩy tới những hậu quả thảm khốc. Không phải chỉ là chuyện thực hiện trong thời gian thực, mà là thực hiện chính xác và công bằng. Khi dữ liệu cung cấp thông tin cho các hệ thống này không được quản lý đúng cách, việc triển khai sẽ được định sẵn thất bại.

Hãy cân nhắc một hệ thống AI bị cung cấp thông tin sai lệch với dữ liệu bị quản lý sai và bị lệch, đã nhầm lẫn gắn cờ một giao dịch hợp pháp, có giá trị lớn là gian lận dựa trên mã zip của người nắm giữ tài khoản. Một số nhóm nhân khẩu nhất định bị nhắm tới dựa trên dữ liệu lịch sử không chính xác, điều này chỉ càng làm gia cố sự thiên lệch chống lại các cá nhân hoặc nhóm người. Sự phân biệt đối xử không chỉ làm tổn hại niềm tin và các mối quan hệ mà còn có những hệ quả dài hạn đối với danh tiếng của một tổ chức, đặc biệt khi nó trực tiếp vi phạm các quy định bảo vệ người tiêu dùng. Các fintech có nghĩa vụ pháp lý phải sử dụng dữ liệu một cách công bằng và an toàn trong suốt vòng đời của hệ thống AI, và không phải những công cụ bị đem ra chất vấn khi các sai phạm xảy ra, mà là các đội ngũ sử dụng chúng.

Hệ quả còn chồng chất vượt ra ngoài điều này. Những kịch bản như vậy tạo thêm áp lực lên các nhóm, vốn sau đó phải can thiệp, lãng phí nhân lực và thời gian quý báu. Điểm quan trọng là chúng cũng làm lộ ra các khoảng trống nghiêm trọng trong nền tảng hiện có. Dữ liệu không được quản lý là một điểm yếu trong “lớp vải” kỹ thuật số của một fintech, khiến nó dễ bị tổn thương trước các mối đe dọa gian lận thực sự và an ninh mạng.

Một khuôn khổ quản trị “sống” sẽ chống lại các rủi ro này vì nó yêu cầu giám sát liên tục, kiểm thử và hiệu chỉnh lại các mô hình AI. Điều này giúp các nhà cung cấp tài chính tối đa hóa mức độ vững chắc về bảo mật một cách thường xuyên, đồng thời định kỳ đánh giá và cập nhật hệ thống khi dữ liệu và rủi ro thay đổi. Đồng thời, sự thiên lệch được loại bỏ, tạo lối cho sự công bằng và độ chính xác trong suốt quá trình.

Đảm bảo khả năng giải thích và tính minh bạch

Các fintech tuân theo một khuôn khổ “sống” giúp ngăn AI hoạt động như một “hộp đen”, nơi mà cơ chế bên trong của nó là điều bí ẩn đối với cả các đội ngũ và người dùng. Những người nắm giữ tài khoản, nhân sự và các cơ quan quản lý đều cần sự trấn an dưới dạng khả năng giải thích và tính minh bạch đối với bất kỳ công nghệ nào được tích hợp.

Loại bỏ thiên lệch đòi hỏi phải hiểu cách và vì sao một công cụ AI đi đến một quyết định. Các hệ thống AI hiện nay được dùng trong các quy trình như chấm điểm tín dụng, nhưng thật không may, chúng không miễn nhiễm với thiên lệch. Hệ quả của điều này là nghiêm trọng: sự phân biệt đối xử, đặc biệt là nhắm vào các nhóm thiểu số vốn bị từ chối vay vốn một cách không cân xứng do AI bị lỗi. Các quy định như CFPB và các luật về cho vay công bằng yêu cầu khả năng giải thích và khả năng truy vết đối với các công cụ AI được sử dụng trong dịch vụ tài chính. Chúng cũng yêu cầu rằng thiên lệch phải được loại bỏ khỏi phương trình.

Trong một mô hình quản trị “sống”, khả năng giải thích và khả năng truy vết được gắn liền trong mọi trường hợp sử dụng và quy trình:

*   Các nguồn và đích dữ liệu được ghi nhận rõ ràng. 
*   Mọi thay đổi mô hình, các bài kiểm thử và quan sát đều được ghi lại.
*   Logic ra quyết định được truyền đạt để các cơ quan quản lý và khách hàng, không chỉ các nhà vận hành, hiểu được hệ thống AI đã đưa ra khuyến nghị hoặc hành động như thế nào và vì sao.

Đảm bảo tuân thủ AML

Các tổ chức tài chính đang chuyển sang tự động hóa và AI để giám sát các giao dịch và hoạt động đáng ngờ như một phần của các hệ thống phòng chống rửa tiền (anti-money laundering). Tuy nhiên, khi AI không được giám sát hoặc quản lý đúng cách, sẽ phát sinh hai vấn đề:

*   Dương tính giả: Các giao dịch hợp pháp bị gắn cờ sai, dẫn đến việc khách hàng bực bội và lãng phí nhân lực quý báu.
*   Âm tính giả: Các mối đe dọa thực sự bị bỏ sót, gây nguy hiểm cho toàn bộ các bộ dữ liệu và hệ thống số, đặt danh tiếng của tổ chức lên “tầm bắn”, và phá hủy niềm tin.

Với cách tiếp cận “quản trị như các rào chắn bảo vệ”, các rủi ro này được giảm thiểu thông qua dữ liệu được quản lý tốt, minh bạch và có thể kiểm toán. Các cảnh báo rõ ràng cũng được tích hợp với các hiểu biết tức thời có thể hành động để đảm bảo can thiệp nhanh chóng khi cần.

Khi các giải pháp AI tiếp tục phát triển, các khuôn khổ “sống” có khả năng thích nghi ngày càng trở nên cần thiết. Những khuôn khổ này không chỉ bảo vệ cả các tổ chức và cá nhân trước các rủi ro tiềm ẩn do sự tham gia của AI, mà còn mang lại cho các fintech một lợi thế cạnh tranh đáng kể. Các khuôn khổ này cung cấp cho họ phương tiện để gia tăng niềm tin và nâng cao danh tiếng bằng cách cung cấp quản trị có trách nhiệm, công bằng và minh bạch, đồng thời đảm bảo độ tin cậy và hiệu suất.