Các vấn đề đạo đức trong việc triển khai AI DeepSeek trong lĩnh vực Fintech

Devin Partida là Tổng biên tập của ReHack. Với tư cách là một nhà văn, tác phẩm của cô đã xuất hiện trên Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf và nhiều nơi khác.

Khám phá tin tức và sự kiện fintech hàng đầu!

Đăng ký bản tin của FinTech Weekly

Được đọc bởi các giám đốc điều hành tại JP Morgan, Coinbase, Blackrock, Klarna và hơn thế nữa

Trí tuệ nhân tạo (AI) là một trong những công nghệ hứa hẹn nhất nhưng cũng đáng lo ngại một cách đặc thù trong fintech hiện nay. Khi DeepSeek đã tạo ra những làn sóng chấn động trong toàn bộ lĩnh vực AI, những khả năng và cạm bẫy cụ thể của nó đòi hỏi sự chú ý.

Trong khi ChatGPT đã đưa AI tạo sinh trở thành xu hướng chính thống vào năm 2022, DeepSeek đã đưa nó lên tầm cao mới khi mô hình DeepSeek-R1 của họ ra mắt vào năm 2025.

Thuật toán là mã nguồn mở và miễn phí nhưng đã hoạt động với tiêu chuẩn tương tự như các giải pháp độc quyền trả phí. Vì vậy, đây là một cơ hội kinh doanh hấp dẫn đối với các công ty fintech muốn tận dụng AI, nhưng nó cũng đặt ra một số câu hỏi về đạo đức.

Gợi ý đọc thêm:

*   **Mô hình R1 của DeepSeek khơi dậy tranh luận về tương lai của việc phát triển AI**
*   **Mô hình AI của DeepSeek: Cơ hội và rủi ro cho các công ty công nghệ nhỏ**

Quyền riêng tư dữ liệu

Như với nhiều ứng dụng AI khác, quyền riêng tư dữ liệu là một mối quan ngại. Các mô hình ngôn ngữ lớn (LLM) như DeepSeek yêu cầu một lượng thông tin đáng kể, và trong một lĩnh vực như fintech, phần lớn dữ liệu này có thể nhạy cảm.

DeepSeek còn có một tình huống phức tạp bổ sung vì là một công ty của Trung Quốc. Chính phủ Trung Quốc có thể truy cập tất cả thông tin trên các trung tâm dữ liệu do công ty sở hữu tại Trung Quốc hoặc yêu cầu dữ liệu từ các công ty trong nước. Do đó, mô hình có thể phát sinh các rủi ro liên quan đến gián điệp nước ngoài và tuyên truyền.

Rò rỉ dữ liệu từ bên thứ ba là một mối lo khác. DeepSeek đã từng bị rò rỉ, làm lộ ra hơn 1 triệu hồ sơ, điều này có thể khiến người ta nghi ngờ về mức độ an toàn của các công cụ AI.

Định kiến AI

Các mô hình học máy như DeepSeek dễ bị định kiến. Bởi vì các mô hình AI giỏi đến mức có thể phát hiện và học từ các mẫu tinh vi mà con người có thể bỏ sót, chúng có thể tiếp nhận những thành kiến vô thức từ dữ liệu huấn luyện của mình. Khi chúng học từ những thông tin lệch này, chúng có thể duy trì và làm trầm trọng thêm các vấn đề bất bình đẳng.

Những nỗi lo như vậy đặc biệt nổi bật trong tài chính. Vì các tổ chức tài chính trong lịch sử đã hạn chế cơ hội đối với các nhóm thiểu số, nên dữ liệu lịch sử của họ cho thấy sự định kiến đáng kể. Việc huấn luyện DeepSeek trên các bộ dữ liệu này có thể dẫn đến các hành động tiếp tục bị thiên vị như AI từ chối khoản vay hoặc thế chấp dựa trên dân tộc của một người thay vì khả năng tín dụng.

Niềm tin của người tiêu dùng

Khi các vấn đề liên quan đến AI xuất hiện dày đặc trên tiêu đề, công chúng nhìn chung ngày càng nghi ngờ đối với các dịch vụ này. Điều đó có thể dẫn đến việc suy giảm niềm tin giữa một doanh nghiệp fintech và khách hàng của họ nếu không quản lý minh bạch những mối lo này.

DeepSeek có thể phải đối mặt với một rào cản riêng biệt ở đây. Theo thông tin, công ty đã xây dựng mô hình của mình với chỉ 6 triệu đô la, và vì là một công ty Trung Quốc phát triển nhanh, có thể khiến mọi người nhớ lại các lo ngại về quyền riêng tư đã từng ảnh hưởng đến TikTok. Công chúng có thể không mặn mà với việc tin tưởng một mô hình AI chi phí thấp, được phát triển nhanh, để xử lý dữ liệu của họ, đặc biệt là khi chính phủ Trung Quốc có thể có một số ảnh hưởng.

Cách đảm bảo triển khai DeepSeek an toàn và có đạo đức

Những cân nhắc về đạo đức này không có nghĩa là các công ty fintech không thể sử dụng DeepSeek một cách an toàn, nhưng chúng nhấn mạnh tầm quan trọng của việc triển khai cẩn trọng. Các tổ chức có thể triển khai DeepSeek một cách có đạo đức và an toàn bằng cách tuân thủ các phương pháp thực hành tốt nhất này.

Chạy DeepSeek trên máy chủ nội địa

Một trong những bước quan trọng nhất là chạy công cụ AI trên các trung tâm dữ liệu trong nước. Mặc dù DeepSeek là một công ty của Trung Quốc, các trọng số mô hình của họ là mã nguồn mở, nhờ đó có thể chạy trên các máy chủ ở Mỹ và giảm thiểu lo ngại về rò rỉ dữ liệu từ chính phủ Trung Quốc.

Tuy nhiên, không phải mọi trung tâm dữ liệu đều đáng tin cậy như nhau. Lý tưởng nhất là các doanh nghiệp fintech sẽ lưu trữ DeepSeek trên chính phần cứng của họ. Khi điều đó không khả thi, ban lãnh đạo nên lựa chọn một nhà cung cấp thật cẩn thận, chỉ hợp tác với những bên có cam kết mức độ sẵn sàng hoạt động cao và tiêu chuẩn bảo mật như ISO 27001 và NIST 800-53.

Giảm thiểu quyền truy cập vào dữ liệu nhạy cảm

Khi xây dựng một ứng dụng dựa trên DeepSeek, các công ty fintech nên cân nhắc loại dữ liệu mà mô hình có thể truy cập. AI chỉ nên được phép truy cập những gì cần thiết để thực hiện chức năng của nó. Việc làm sạch dữ liệu có thể truy cập khỏi bất kỳ thông tin nhận dạng cá nhân (PII) không cần thiết cũng là điều lý tưởng.

Khi DeepSeek giữ ít chi tiết nhạy cảm hơn, thì bất kỳ sự cố rò rỉ nào cũng sẽ ít gây tác động hơn. Việc giảm thiểu thu thập PII cũng là then chốt để vẫn tuân thủ các quy định như Quy định Bảo vệ Dữ liệu Chung (GDPR) và Đạo luật Gramm-Leach-Bliley (GLBA).

Triển khai các biện pháp kiểm soát an ninh mạng

Các quy định như GDPR và GLBA cũng thường yêu cầu các biện pháp bảo vệ để ngăn ngừa rò rỉ ngay từ đầu. Ngay cả ngoài phạm vi các luật như vậy, lịch sử của DeepSeek về các vụ rò rỉ cho thấy sự cần thiết của các biện pháp bảo mật bổ sung.

Tối thiểu, các fintech nên mã hóa toàn bộ dữ liệu mà AI có thể truy cập khi lưu trữ (at rest) và khi truyền tải (in transit). Kiểm tra xâm nhập định kỳ để tìm và khắc phục lỗ hổng cũng là điều lý tưởng.

Các tổ chức fintech cũng nên cân nhắc việc theo dõi tự động các ứng dụng DeepSeek của họ, vì cơ chế tự động hóa như vậy giúp tiết kiệm 2,2 triệu đô la chi phí do rò rỉ trung bình, nhờ các phản hồi nhanh hơn và hiệu quả hơn.

Kiểm toán và giám sát tất cả các ứng dụng AI

Ngay cả sau khi làm theo các bước này, điều quan trọng là phải luôn cảnh giác. Hãy kiểm toán ứng dụng dựa trên DeepSeek trước khi triển khai để tìm các dấu hiệu về định kiến hoặc các lỗ hổng bảo mật. Hãy nhớ rằng một số vấn đề có thể không thể nhận ra ngay từ đầu, vì vậy việc rà soát liên tục là cần thiết.

Thành lập một nhóm đặc nhiệm riêng để giám sát kết quả của giải pháp AI và đảm bảo nó vẫn có đạo đức và tuân thủ mọi quy định liên quan. Cũng nên minh bạch với khách hàng về thực tiễn này. Sự trấn an có thể giúp xây dựng niềm tin trong một lĩnh vực vốn đã đáng ngờ.

Các công ty Fintech phải cân nhắc đạo đức của AI

Dữ liệu fintech đặc biệt nhạy cảm, vì vậy mọi tổ chức trong lĩnh vực này phải coi trọng các công cụ phụ thuộc vào dữ liệu như AI. DeepSeek có thể là một nguồn lực kinh doanh đầy hứa hẹn, nhưng chỉ khi việc sử dụng tuân theo các hướng dẫn nghiêm ngặt về đạo đức và bảo mật.

Khi các lãnh đạo fintech hiểu được nhu cầu phải quan tâm đến mức độ cẩn trọng như vậy, họ có thể đảm bảo các khoản đầu tư DeepSeek và các dự án AI khác của họ vẫn an toàn và công bằng.