Dưới làn sóng nhiệt của phong trào nuôi tôm, làm thế nào để giữ vững an toàn?

Gần đây, trong văn phòng, một nửa người đang nói về “nuôi tôm hùm”, nửa còn lại đang học cách “nuôi tôm hùm”. Vào ngày 13 tháng 3, anh Li Yao, quản lý sản phẩm của một công ty internet tại Bắc Kinh, nói với phóng viên rằng, cuộc thảo luận sôi nổi về “nuôi tôm hùm” của đồng nghiệp không phải là nuôi thủy sản trong đời thực, mà là về việc cá nhân hóa huấn luyện và triển khai khung AI mã nguồn mở OpenClaw mới được ra mắt gần đây.

Vì biểu tượng là một con tôm hùm màu đỏ, nên mọi người gọi OpenClaw là “tôm hùm”. Khác với AI thông thường, nó có thể tự thực hiện các nhiệm vụ phức tạp như quản lý tệp, gửi nhận email, xử lý dữ liệu trên máy tính của người dùng bằng cách tích hợp gọi các phần mềm giao tiếp và mô hình ngôn ngữ lớn.

Tại sao “tôm hùm” này lại có thể gây sốt toàn dân? “Nuôi tôm hùm” còn tiềm ẩn những rủi ro an toàn nào? Phóng viên của Báo Công Nhân đã tiến hành điều tra và phỏng vấn về vấn đề này.

Nhiều địa phương ban hành chính sách hỗ trợ liên quan đến “tôm hùm”

Là AI cá nhân hóa đầu tiên thu hút sự chú ý toàn dân trong năm nay, “tôm hùm” thực sự có điểm gì đặc biệt?

“Mô hình cốt lõi của AI thông thường là dạng đối thoại, sau khi người dùng đặt câu hỏi, chỉ nhận được câu trả lời hoặc các bước thao tác. Trong khi đó, ‘tôm hùm’ là kiểu ‘nghĩa khí hành động’. Người dùng chỉ cần đề ra mục tiêu nhiệm vụ, nó có thể trực tiếp thao tác các công cụ khác nhau để hoàn thành toàn bộ quy trình.” Một blogger công nghệ từng làm việc tại các công ty internet lớn, tên là “Học AI cùng A Liang”, ví dụ: nếu yêu cầu nó sắp xếp email quan trọng, nó sẽ tự động mở hộp thư, lọc nội dung và soạn thảo bản nháp phản hồi, “toàn bộ quá trình không cần người dùng can thiệp.”

Tiến sĩ Yu Jingwen, kỹ sư AI tại Phòng thí nghiệm Sáng tạo Kỹ thuật số AI của Đại học Bắc Kinh, cho biết: “Khác với các mô hình ngôn ngữ lớn như ChatGPT, OpenClaw không đơn thuần là một chatbot, mà là một ‘nhân viên kỹ thuật số’ có thể được cấp quyền truy cập hệ điều hành cục bộ, gọi các công cụ khác nhau, theo dõi các bước theo lệnh bằng ngôn ngữ tự nhiên và tự động thực hiện các nhiệm vụ phức tạp.”

“Trong quá khứ, các mô hình AI lớn dù công nghệ đã tiến bộ, vẫn bị giới hạn trong lĩnh vực riêng của mình, không thể hợp tác liên lĩnh vực. Nhưng điểm mạnh cốt lõi của ‘tôm hùm’ là đã phá vỡ các rào cản giữa các mô hình lớn trong các lĩnh vực khác nhau, thực sự kích hoạt toàn bộ chức năng và giá trị của các mô hình này.” Yu Jingwen giải thích: “Vì vậy, có thể nói rằng OpenClaw là một đổi mới mang tính đột phá, có tính cầu nối và liên kết trong ngành AI.”

Dưới làn sóng này, nhiều địa phương đã tích cực phản ứng. Theo thống kê chưa đầy đủ, tính đến ngày 12 tháng 3, các khu vực như Quận Long Gương (Thâm Quyến), Khu công nghệ cao Wuxi, Khu công nghệ cao Hợp Phì, Thành phố Côn Sơn (Tô Châu), Khu công nghiệp Qixia (Nam Kinh), và Khu phố Tiêu Sơn (Hàng Châu) đã ban hành các chính sách hỗ trợ liên quan đến “tôm hùm”. Một số chính quyền địa phương còn cung cấp dịch vụ triển khai “tôm hùm” miễn phí cho cộng đồng.

“Tôm hùm” tiềm ẩn nhiều nguy cơ an toàn

Trong bối cảnh toàn dân “nuôi tôm”, những người thử nghiệm ban đầu không phải ai cũng có trải nghiệm tích cực.

“Nhìn chung, cảm giác không thần kỳ như quảng cáo trên mạng.” Li Yao thừa nhận, để khai thác tốt ‘tôm hùm’, cần mở quyền kiểm soát các ứng dụng trên máy tính, nhưng vì cẩn trọng, anh không cấp quá nhiều quyền, nên cảm thấy “hiệu quả còn hạn chế.”

Yu Jingwen phân tích: “Chức năng cốt lõi của OpenClaw là thao tác và kiểm soát các ứng dụng, công cụ khác nhau. Để thực hiện điều này, người dùng phải cấp quyền truy cập cho nó vào nhiều ứng dụng, bao gồm email, phần mềm văn phòng, các nền tảng nền tảng khác.” Cô ví dụ: “Giống như bạn muốn người khác dọn dẹp nhà cửa, thì phải đưa chìa khóa tất cả các phòng trong nhà cho họ.” Tương tự, việc cấp quyền truy cập toàn bộ các ứng dụng có thể gây rủi ro rò rỉ dữ liệu cho cá nhân hoặc doanh nghiệp khi triển khai “tôm hùm”.

Vào ngày 10 tháng 3, Trung tâm Ứng cứu Khẩn cấp Mạng Quốc gia đã phát hành “Lời nhắc về rủi ro an toàn của OpenClaw” (gọi tắt là “Lời nhắc”), trong đó rõ ràng chỉ ra rằng, để đạt được khả năng “tự thực thi nhiệm vụ”, ứng dụng này được cấp quyền hệ thống cao. Tuy nhiên, do cấu hình an toàn mặc định rất yếu, nếu kẻ tấn công phát hiện điểm yếu, họ có thể dễ dàng chiếm quyền kiểm soát hoàn toàn hệ thống.

“Lời nhắc” cho biết: Tính đến nay, OpenClaw đã phát hiện nhiều lỗ hổng bảo mật mức cao và trung, nếu bị kẻ tấn công lợi dụng, có thể dẫn đến kiểm soát hệ thống, rò rỉ dữ liệu cá nhân và dữ liệu nhạy cảm. “Đối với người dùng cá nhân, có thể dẫn đến rò rỉ dữ liệu riêng tư như ảnh, tài liệu, lịch sử trò chuyện, tài khoản thanh toán; còn đối với doanh nghiệp, có thể gây rò rỉ dữ liệu kinh doanh cốt lõi, bí mật thương mại, gây thiệt hại không thể đo đếm được.” Yu Jingwen phân tích.

Luật sư Zhou Zichuan của Công ty Luật Hán Đỉnh Liên hợp Bắc Kinh cho biết: “Để hoàn thành lệnh của người dùng, ‘tôm hùm’ khi chưa có quyền kiểm soát có thể thu thập trực tiếp hoặc gián tiếp một lượng lớn dữ liệu trên toàn mạng. Số lượng, quyền truy cập và mức độ nhạy cảm của dữ liệu thu thập thường vượt quá khả năng kiểm soát của người dùng, nghiêm trọng có thể cấu thành tội thu thập dữ liệu trái phép của hệ thống máy tính hoặc xâm phạm quyền cá nhân của công dân.”

“Thêm vào đó, nhiều người dùng hiện nay vì tiện lợi, thuê bên thứ ba triển khai ‘tôm hùm’ với chi phí, nhưng các bên thứ ba này chưa chắc đã có đủ điều kiện bảo vệ an toàn, dễ dẫn đến lộ dữ liệu thiết bị. Kẻ tấn công có thể dùng mã độc để điều khiển từ xa thiết bị, trộm cắp thông tin nhạy cảm.” Zhou bổ sung.

Trong làn sóng này, cần giữ vững nguyên tắc an toàn

Năm nay, báo cáo công tác của Chính phủ đề xuất mở rộng “Trí tuệ nhân tạo+”, thúc đẩy việc phổ biến các thiết bị thông minh thế hệ mới và các nhân viên kỹ thuật số, thúc đẩy ứng dụng thương mại hóa quy mô lớn AI trong các ngành trọng điểm, đồng thời tạo ra các hình thái mới, mô hình mới của nền kinh tế thông minh.

“‘Tôm hùm’ mang lại một hướng đi mới cho việc ứng dụng AI nhân tạo. Nếu sử dụng đúng quy chuẩn, nó có thể phát huy tốt các chức năng của AI hiện có, nâng cao đáng kể hiệu quả làm việc của cá nhân và doanh nghiệp.” Yu Jingwen nhấn mạnh, để phát triển lành mạnh “tôm hùm”, điều then chốt là cân bằng giữa tiện lợi và an toàn.

“Những đặc điểm công nghệ mới của AI như ‘tôm hùm’ khiến các vấn đề pháp lý liên quan đến AI trở nên phức tạp hơn.” Zhou Zichuan ví dụ: vấn đề quan trọng nhất là “mờ trách nhiệm và quyền hạn”. Khi “tôm hùm” hoặc các AI khác dựa trên lệnh của người dùng để thực hiện hành động gây thiệt hại hoặc vi phạm pháp luật, cách xác định trách nhiệm giữa nhà phát triển, nhà triển khai và người sử dụng cần được pháp luật làm rõ hơn.

Đối với các nhà phát triển và nhà cung cấp dịch vụ AI, Zhou đề xuất: Một mặt, cần tích cực thực hiện các nghĩa vụ tuân thủ theo Luật Bảo vệ Thông tin Cá nhân và các quy định liên quan, như đảm bảo nhật ký xử lý dữ liệu đủ điều kiện lưu trữ và truy xuất nguồn gốc. Mặt khác, trong vận hành cụ thể, cần nâng cao ý thức tuân thủ pháp luật, như quản lý quyền AI chặt chẽ hơn, kiểm duyệt các lệnh gợi ý, giảm thiểu rủi ro an toàn.

Trung tâm Ứng cứu Khẩn cấp Mạng Quốc gia cũng đưa ra các khuyến nghị cụ thể trong “Lời nhắc”: Các đơn vị và cá nhân khi triển khai và sử dụng OpenClaw cần thực hiện cách ly môi trường vận hành, sử dụng công nghệ container để hạn chế quyền của OpenClaw, đồng thời quản lý chặt chẽ nguồn gốc plugin, theo dõi các bản vá và trung tâm an toàn thường xuyên.

“Trước khi ‘nuôi tôm hùm’, người dùng cần đánh giá toàn diện về giá trị và rủi ro, xác định rõ mình có thực sự cần nó để giải quyết vấn đề hay không, rồi mới quyết định triển khai.” Yu Jingwen nhắc nhở, trong quá trình sử dụng, cũng cần chú ý phân vùng dữ liệu và bảo vệ quyền riêng tư, “đừng theo đuổi xu hướng một cách mù quáng, để lộ dữ liệu và quyền riêng tư của mình vào rủi ro.”