Tình huống tài chính cẩn thận nuôi "tôm hùm", hiệp hội tài chính kỹ thuật số cảnh báo bốn rủi ro cốt lõi

Cách AI · Tự động hóa vượt qua rào cản về khả năng giải thích để phục vụ ngành tài chính?

Gần đây, sức hút của các AI tự mãn mở nguồn như OpenClaw (thường gọi là “Tôm hùm”) ngày càng tăng, với việc tải xuống và sử dụng liên tục. Tự động này mặc định có quyền hệ thống cao, có thể điều khiển trực tiếp các thiết bị máy tính dựa trên lệnh bằng ngôn ngữ tự nhiên. Gần đây, nền tảng chia sẻ thông tin mối đe dọa và lỗ hổng an ninh mạng của Bộ Công nghiệp và Công nghệ Thông tin (NVDB) cùng Trung tâm Ứng cứu Khẩn cấp Internet Quốc gia (CNCERT) đã phát hành các cảnh báo về rủi ro an ninh liên quan.

Vào ngày 15 tháng 3, Hiệp hội Tài chính Internet Trung Quốc đã công bố “Thông báo về rủi ro an toàn trong ứng dụng của OpenClaw trong ngành tài chính internet” (gọi tắt là “Thông báo rủi ro”), trong đó nhấn mạnh rằng ngành tài chính internet hiện nay có mức độ số hóa và trực tuyến cực cao, xử lý trực tiếp các khoản tiền, tài sản, tài khoản và dữ liệu tài chính cá nhân nhạy cảm của khách hàng. Mặc dù AI OpenClaw có thể nâng cao hiệu quả công việc, nhưng quyền hệ thống cao mặc định và cấu hình bảo mật yếu khiến nó dễ bị lợi dụng, trở thành điểm đột phá để trộm cắp dữ liệu nhạy cảm hoặc điều khiển giao dịch trái phép, đặt ngành vào những thách thức rủi ro nghiêm trọng.

Chuyên gia phân tích trưởng của Công ty tư vấn Broadcom, ông Wang Pengbo, nói với First Finance rằng, gần đây, làn sóng AI mã nguồn mở như OpenClaw đã tăng nhiệt liên tục, nhưng khi làn sóng này tràn vào ngành tài chính, tính phù hợp và khả năng thực thi của nó lại đối mặt với những thách thức nghiêm trọng. Trong bối cảnh ngành có đặc tính quản lý chặt chẽ, rủi ro cao, trách nhiệm nặng nề, các tổ chức tài chính cần duy trì sự thận trọng cao độ, không nên theo đuổi xu hướng công nghệ một cách mù quáng.

Dữ liệu và giao dịch đều tiềm ẩn nguy cơ

“Các hoạt động cốt lõi của ngành tài chính, bao gồm cấp tín dụng, giao dịch, quản lý rủi ro, thanh toán, đều liên quan trực tiếp đến an toàn vốn, quyền lợi người dùng và sự ổn định của hệ thống. Mọi ứng dụng công nghệ đều phải dựa trên nguyên tắc tuân thủ pháp luật và đặt an toàn làm nền tảng. Hiện tại, các AI mã nguồn mở đều nhấn mạnh tự động hóa toàn diện từ đầu đến cuối, nhưng logic vận hành của chúng mâu thuẫn căn bản với yêu cầu về khả năng giải thích, khả năng truy xuất nguồn gốc và cơ chế can thiệp của quản lý tài chính.” Ông Wang nói.

Hiệp hội Tài chính Internet đã chỉ ra bốn rủi ro cốt lõi của OpenClaw trong ngành tài chính internet. Thứ nhất, rủi ro mất mát tài chính. Thông báo cảnh báo rằng OpenClaw đã công khai tiết lộ nhiều lỗ hổng nguy hiểm trung bình đến cao, kẻ tấn công có thể lợi dụng các lỗ hổng này hoặc các lệnh gợi ý để chiếm quyền kiểm soát thiết bị. Đồng thời, các plugin chức năng (Skills) của nó thiếu cơ chế kiểm duyệt an toàn cộng đồng hiệu quả, đã xảy ra nhiều vụ tấn công độc hại bằng cách đầu độc plugin. Trong các tình huống tài chính, những rủi ro này có thể bị lợi dụng để trộm mật khẩu ngân hàng trực tuyến, chìa khóa thanh toán, chứng thực API giao dịch chứng khoán, sau đó đăng nhập vào ngân hàng trực tuyến, hệ thống giao dịch chứng khoán để thực hiện các thao tác tài chính, gây thiệt hại trực tiếp cho khách hàng.

Thứ hai, rủi ro trách nhiệm giao dịch. Hiệp hội Tài chính Internet cho biết, AI OpenClaw có khả năng tự thực hiện nhiều thao tác, đã có người dùng sử dụng nó trong các tình huống như giám sát cổ phiếu và thử nghiệm chiến lược đầu tư. Quá trình tự động hóa có thể gây ra các thao tác sai, như chuyển tiền hoặc mua sản phẩm đầu tư, dẫn đến thiệt hại thực tế. Hiện tại, công nghệ trí tuệ nhân tạo chưa hoàn toàn có khả năng giải thích rõ ràng, trách nhiệm của các bên liên quan trong việc tự động thực hiện các giao dịch tài chính còn khó xác định, pháp lý liên quan còn nhiều bất định.

Thứ ba, rủi ro tuân thủ dữ liệu. AI OpenClaw có khả năng ghi nhớ lâu dài, dữ liệu phát sinh trong quá trình vận hành được lưu trữ liên tục trong các ghi chú phiên làm việc và tệp ghi nhớ cục bộ. Khi gọi API của các mô hình lớn hoặc thực hiện các thao tác khác, dữ liệu liên quan có thể bị truyền đến bên thứ ba.

Hiệp hội Tài chính Internet nhấn mạnh rằng, các tình huống tài chính internet liên quan đến dữ liệu tín dụng, tài liệu phê duyệt tín dụng, dòng giao dịch đều chứa dữ liệu nhạy cảm cao. Khi các dữ liệu này đi vào chuỗi xử lý AI, phạm vi truy cập và thời gian lưu trữ có thể vượt quá phạm vi mục đích kinh doanh ban đầu, gây ra rủi ro tuân thủ quản lý dữ liệu tài chính.

Ngoài ra, còn tồn tại rủi ro lừa đảo mới. Hiệp hội Tài chính Internet cảnh báo rằng, các đối tượng xấu có thể sử dụng các câu nói như “đầu tư chứng khoán thay AI”, “lãi suất đảm bảo không lỗ” để thực hiện các hoạt động lừa đảo đầu tư, lợi dụng sức nóng của “Tôm hùm” để làm giả hàng loạt thông tin của các tổ chức tài chính, lừa đảo cộng đồng tải xuống các ứng dụng giả mạo hoặc chuyển tiền vào các tài khoản chỉ định. Thêm vào đó, các đối tượng xấu còn có thể mạo danh “cài đặt thay”, “đàm phán từ xa” để chiếm quyền kiểm soát thiết bị của người tiêu dùng, lợi dụng cơ hội cài đặt phần mềm độc hại hoặc trộm cắp thông tin nhạy cảm tài chính. Các báo cáo liên quan cho thấy, các vụ lừa đảo tài chính liên quan đến AI đang tăng nhanh, khả năng nhận diện các phương thức lừa đảo mới này của công chúng còn hạn chế.

Thận trọng cài đặt, cảnh giác lừa đảo

Để đối phó với các rủi ro nêu trên, Hiệp hội Tài chính Internet Trung Quốc đề xuất bốn khuyến nghị phòng ngừa.

Thứ nhất, khuyên người tiêu dùng tài chính cực kỳ cẩn trọng khi cài đặt OpenClaw trên các thiết bị cuối dùng để thực hiện các dịch vụ tài chính cá nhân như ngân hàng trực tuyến, giao dịch chứng khoán, thanh toán. Nếu thực sự cần thiết, không cấp quyền vận hành hệ thống dịch vụ tài chính, theo dõi kịp thời các bản vá lỗi của OpenClaw, kiểm soát chặt chẽ việc cài đặt plugin chức năng, không nhập các thông tin nhạy cảm như số CMND, số thẻ ngân hàng, mật khẩu thanh toán khi không cần thiết. Ngoài ra, các ứng dụng này trong quá trình vận hành liên tục gọi API của các mô hình lớn, có thể phát sinh chi phí Token cao, người dùng cần theo dõi chặt chẽ.

Thứ hai, khuyên người tiêu dùng tài chính cảnh giác cao độ với các hoạt động lừa đảo tài chính dưới danh nghĩa “đầu tư nuôi tôm”, “đầu tư chứng khoán thay AI”, “lãi suất đảm bảo không lỗ”, liên quan đến chuyển khoản, đầu tư, nhất định phải qua các kênh chính thống, không tin tưởng người khác khi họ mạo danh “cài đặt thay”, “đàm phán từ xa” để tiếp xúc thiết bị cá nhân.

Thứ ba, khuyên các tổ chức hoạt động không cài đặt OpenClaw trên các thiết bị cuối liên quan đến xử lý thông tin khách hàng, vận hành vốn, kiểm tra rủi ro, thực hiện giao dịch; không nhập dữ liệu nhạy cảm như thông tin tài chính khách hàng, dữ liệu giao dịch, tài liệu phê duyệt tín dụng vào AI hoặc kết nối vào chuỗi xử lý của nó.

Cuối cùng, đề xuất các tổ chức thực thi quản lý an toàn đối với các ứng dụng AI như OpenClaw trong phạm vi quản lý an toàn thông tin của đơn vị, tổ chức các khóa đào tạo an toàn chuyên sâu cho nhân viên, nâng cao khả năng nhận diện và phòng ngừa các rủi ro an toàn khi sử dụng các AI này.

Ông Wang Pengbo cho rằng, AI mã nguồn mở không hoàn toàn vô giá trị đối với ngành tài chính, lợi thế lớn nhất của nó là giảm chi phí, nâng cao hiệu quả, có thể tự động hóa hiệu quả nhiều công việc phụ trợ lặp đi lặp lại, rõ ràng và quy định chặt chẽ. Nếu AI mã nguồn mở muốn thực sự thâm nhập vào các tình huống cốt lõi của ngành tài chính, cần vượt qua một số rào cản then chốt, bao gồm: thực hiện giải thích thuật toán rõ ràng, truy xuất nguồn gốc, loại bỏ hoàn toàn “hộp đen”; xây dựng cơ chế phân chia quyền trách nhiệm rõ ràng, đảm bảo trách nhiệm rõ ràng; xây dựng hệ thống tuân thủ dữ liệu và bảo vệ quyền riêng tư đạt tiêu chuẩn tài chính; bắt buộc giữ quyền can thiệp của con người, thiết lập cơ chế ngắt quãng để ngăn chặn rủi ro không thể đảo ngược, v.v.