Các cân nhắc đạo đức trong việc triển khai AI DeepSeek trong lĩnh vực tài chính công nghệ

Devin Partida là Tổng biên tập của ReHack. Với tư cách là một nhà văn, tác phẩm của cô đã được đăng trên Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf và nhiều ấn phẩm khác.

Khám phá những tin tức và sự kiện fintech hàng đầu!

Đăng ký nhận bản tin hàng tuần của FinTech Weekly

Được đọc bởi các giám đốc điều hành tại JP Morgan, Coinbase, Blackrock, Klarna và nhiều hơn nữa

Trí tuệ nhân tạo (AI) là một trong những công nghệ hứa hẹn nhất nhưng cũng gây lo ngại độc đáo trong lĩnh vực fintech ngày nay. Giờ đây khi DeepSeek đã gây chấn động khắp không gian AI, những khả năng và cạm bẫy cụ thể của nó đòi hỏi sự chú ý.

Trong khi ChatGPT đưa AI tạo sinh vào xu hướng chính vào năm 2022, DeepSeek đã đưa nó lên một tầm cao mới khi mô hình DeepSeek-R1 của họ ra mắt vào năm 2025.

Thuật toán là mã nguồn mở và miễn phí nhưng hoạt động ở mức tiêu chuẩn tương tự như các giải pháp thay thế độc quyền có trả phí. Do đó, đây là một cơ hội kinh doanh hấp dẫn cho các công ty fintech hy vọng tận dụng AI, nhưng nó cũng đặt ra một số câu hỏi về đạo đức.

Bài đọc được đề xuất:

*   **Mô hình R1 của DeepSeek gây ra cuộc tranh luận về tương lai của phát triển AI**
*   **Mô hình AI của DeepSeek: Cơ hội và Rủi ro cho các Công ty Công nghệ Nhỏ**

Quyền riêng tư dữ liệu

Giống như nhiều ứng dụng AI khác, quyền riêng tư dữ liệu là một mối quan tâm. Các mô hình ngôn ngữ lớn (LLM) như DeepSeek yêu cầu một lượng thông tin đáng kể, và trong một lĩnh vực như fintech, phần lớn dữ liệu này có thể nhạy cảm.

DeepSeek có thêm yếu tố phức tạp khi là một công ty Trung Quốc. Chính phủ Trung Quốc có thể truy cập tất cả thông tin trên các trung tâm dữ liệu do Trung Quốc sở hữu hoặc yêu cầu dữ liệu từ các công ty trong nước. Do đó, mô hình này có thể gây ra rủi ro liên quan đến gián điệp nước ngoài và tuyên truyền.

Vi phạm dữ liệu của bên thứ ba là một mối quan tâm khác. DeepSeek đã từng bị rò rỉ lộ hơn 1 triệu bản ghi, điều này có thể gây nghi ngờ về tính bảo mật của các công cụ AI.

Sự thiên vị AI

Các mô hình học máy như DeepSeek dễ bị thiên vị. Bởi vì các mô hình AI rất giỏi trong việc phát hiện và học hỏi từ các mẫu tinh tế mà con người có thể bỏ lỡ, chúng có thể tiếp nhận những định kiến vô thức từ dữ liệu huấn luyện của mình. Khi chúng học từ thông tin thiên lệch này, chúng có thể duy trì và làm trầm trọng thêm các vấn đề bất bình đẳng.

Những lo ngại như vậy đặc biệt nổi bật trong lĩnh vực tài chính. Bởi vì các tổ chức tài chính trong lịch sử đã từ chối cơ hội cho các nhóm thiểu số, phần lớn dữ liệu lịch sử của họ thể hiện sự thiên vị đáng kể. Việc huấn luyện DeepSeek trên các bộ dữ liệu này có thể dẫn đến các hành động thiên vị hơn nữa như AI từ chối cho vay hoặc thế chấp dựa trên sắc tộc của ai đó thay vì khả năng tín dụng.

Niềm tin của người tiêu dùng

Khi các vấn đề liên quan đến AI tràn ngập các tiêu đề tin tức, công chúng ngày càng trở nên nghi ngờ đối với các dịch vụ này. Điều đó có thể dẫn đến sự xói mòn lòng tin giữa một doanh nghiệp fintech và khách hàng của họ nếu nó không quản lý một cách minh bạch những mối quan tâm này.

DeepSeek có thể phải đối mặt với một rào cản độc đáo ở đây. Công ty được cho là đã xây dựng mô hình của mình chỉ với 6 triệu đô la và là một công ty Trung Quốc đang phát triển nhanh, có thể khiến mọi người nhớ đến những lo ngại về quyền riêng tư đã ảnh hưởng đến TikTok. Công chúng có thể không hào hứng với việc tin tưởng một mô hình AI chi phí thấp, phát triển nhanh với dữ liệu của họ, đặc biệt là khi chính phủ Trung Quốc có thể có một số ảnh hưởng.

Cách đảm bảo triển khai DeepSeek an toàn và có đạo đức

Những cân nhắc về đạo đức này không có nghĩa là các công ty fintech không thể sử dụng DeepSeek một cách an toàn, nhưng chúng nhấn mạnh tầm quan trọng của việc triển khai cẩn thận. Các tổ chức có thể triển khai DeepSeek một cách có đạo đức và an toàn bằng cách tuân thủ các phương pháp thực hành tốt nhất này.

Chạy DeepSeek trên Máy chủ Cục bộ

Một trong những bước quan trọng nhất là chạy công cụ AI trên các trung tâm dữ liệu trong nước. Mặc dù DeepSeek là một công ty Trung Quốc, nhưng các trọng số mô hình của nó là mở, giúp có thể chạy trên các máy chủ Hoa Kỳ và giảm thiểu lo ngại về vi phạm quyền riêng tư từ chính phủ Trung Quốc.

Tuy nhiên, không phải tất cả các trung tâm dữ liệu đều đáng tin cậy như nhau. Lý tưởng nhất là các doanh nghiệp fintech sẽ lưu trữ DeepSeek trên phần cứng của riêng họ. Khi điều đó không khả thi, lãnh đạo nên chọn nhà cung cấp dịch vụ lưu trữ một cách cẩn thận, chỉ hợp tác với những đơn vị có đảm bảo thời gian hoạt động cao và các tiêu chuẩn bảo mật như ISO 27001 và NIST 800-53.

Giảm thiểu quyền truy cập vào dữ liệu nhạy cảm

Khi xây dựng một ứng dụng dựa trên DeepSeek, các công ty fintech nên xem xét loại dữ liệu mà mô hình có thể truy cập. AI chỉ nên có thể truy cập những gì nó cần để thực hiện chức năng của mình. Việc làm sạch dữ liệu có thể truy cập khỏi bất kỳ thông tin nhận dạng cá nhân (PII) không cần thiết cũng là lý tưởng.

Khi DeepSeek nắm giữ ít chi tiết nhạy cảm hơn, bất kỳ vi phạm nào sẽ ít tác động hơn. Giảm thiểu việc thu thập PII cũng là chìa khóa để tuân thủ các luật như Quy định Bảo vệ Dữ liệu Chung (GDPR) và Đạo luật Gramm-Leach-Bliley (GLBA).

Triển khai các Biện pháp Kiểm soát An ninh mạng

Các quy định như GDPR và GLBA cũng thường yêu cầu các biện pháp bảo vệ để ngăn chặn vi phạm ngay từ đầu. Ngay cả khi không có luật pháp như vậy, lịch sử rò rỉ của DeepSeek nêu bật nhu cầu về các biện pháp bảo vệ an ninh bổ sung.

Tối thiểu, các công ty fintech nên mã hóa tất cả dữ liệu mà AI có thể truy cập khi lưu trữ và khi truyền tải. Kiểm tra thâm nhập thường xuyên để tìm và sửa lỗ hổng cũng là lý tưởng.

Các tổ chức fintech cũng nên xem xét việc giám sát tự động các ứng dụng DeepSeek của họ, vì tự động hóa như vậy giúp tiết kiệm trung bình 2,2 triệu đô la chi phí vi phạm nhờ các phản hồi nhanh hơn và hiệu quả hơn.

Kiểm toán và Giám sát Tất cả các Ứng dụng AI

Ngay cả sau khi tuân theo các bước này, điều quan trọng là phải luôn cảnh giác. Kiểm toán ứng dụng dựa trên DeepSeek trước khi triển khai để tìm kiếm dấu hiệu thiên vị hoặc lỗ hổng bảo mật. Hãy nhớ rằng một số vấn đề có thể không đáng chú ý ngay từ đầu, vì vậy cần phải xem xét liên tục.

Tạo một lực lượng đặc nhiệm chuyên trách để giám sát kết quả của giải pháp AI và đảm bảo nó vẫn có đạo đức và tuân thủ mọi quy định. Cũng nên minh bạch với khách hàng về thực hành này. Sự trấn an có thể giúp xây dựng lòng tin trong một lĩnh vực vốn dĩ đáng ngờ.

Các Công ty Fintech Phải Xem xét Đạo đức AI

Dữ liệu fintech đặc biệt nhạy cảm, vì vậy tất cả các tổ chức trong lĩnh vực này phải coi trọng các công cụ phụ thuộc vào dữ liệu như AI. DeepSeek có thể là một nguồn lực kinh doanh đầy hứa hẹn, nhưng chỉ khi việc sử dụng nó tuân theo các hướng dẫn đạo đức và bảo mật nghiêm ngặt.

Một khi các nhà lãnh đạo fintech hiểu được sự cần thiết của sự cẩn trọng như vậy, họ có thể đảm bảo các khoản đầu tư vào DeepSeek và các dự án AI khác của họ vẫn an toàn và công bằng.