Hội nghị công nghệ lớn nhất thế giới đang nói về “rửa danh tính trách nhiệm” — đây là lý do tại sao chúng ta nên đặt tên cho chúng là Những từ của Năm

Summer Yue không phải là nhân viên nổi tiếng nhất tại Meta. Giám đốc “nghiên cứu về sự phù hợp và an toàn của siêu trí tuệ” đăng những bức ảnh cô đi dạo trên bãi biển cùng chú chó và những thông điệp về việc thử nghiệm tính trung thực của trợ lý AI. Cô có số lượng người theo dõi trên mạng xã hội khá khiêm tốn.

Video đề xuất

Nhưng chỉ trong một ngày tháng 2, Summer Yue trở thành người được bàn tán nhiều nhất tại Meta. Không phải vì ra mắt một sản phẩm mới đáng chú ý hay công bố đột phá trong AI có khả năng hành động. Cô trở thành người được nhắc đến nhiều nhất tại Meta vì bị phát hiện ra.

“Không gì làm bạn khiêm tốn hơn là nói với OpenClaw ‘xác nhận trước khi hành động’ và xem nó xóa sạch hộp thư đến của bạn trong vòng chưa đầy một phút,” Yue viết trên X – bài đăng này hiện đã gần 10 triệu lượt xem. “Tôi không thể ngăn nó từ điện thoại của mình. Tôi phải CHẠY đến Mac mini như thể đang tháo bom vậy.”

OpenClaw là một “đại lý tự động” – một sản phẩm trí tuệ nhân tạo có thể thực hiện các nhiệm vụ một cách độc lập. Một “ngôi sao” của Thung lũng Silicon, nó hứa sẽ là trợ lý quản trị viên liên tục của bạn, “AI thực sự làm được việc”. Cung cấp quyền truy cập vào nhật ký, email, cuộc sống của bạn, nó sẽ giúp bạn tiết kiệm thời gian và giảm căng thẳng, theo lời các nhà phát triển sản phẩm. Câu đầu tiên trên trang web của OpenClaw là: “Dọn sạch hộp thư đến của bạn, gửi email, quản lý lịch trình, làm thủ tục check-in cho chuyến bay.”

Yue thừa nhận cô đã mắc một “lỗi nghiệp dư”. Cô thử nghiệm trợ lý này trên một danh sách email nhỏ “đồ chơi” rồi sau đó phát hành nó trên toàn bộ hộp thư của mình, vốn quá lớn để phù hợp với các lệnh kiểm soát (như “kiểm tra với tôi”) mà cô đã dùng cho phiên thử nghiệm ban đầu. Nhưng nếu ngay cả một “giám đốc siêu trí tuệ” tại Meta cũng gặp khó khăn trong việc điều hướng thế giới AI có khả năng hành động và “hiệu ứng nén”, thì còn hy vọng gì cho phần còn lại của chúng ta?

Đọc thêm: CEO Qualcomm: ‘Kháng cự là vô ích’ khi cuộc cách mạng di động 6G đang đến gần

Đây là một cuộc trò chuyện quan trọng, đến mức tại Hội nghị Di động Thế giới năm nay ở Barcelona – sự kiện công nghệ lớn nhất thế giới – sự cố của Yue đã được tranh luận trên sân khấu chính.

“Dĩ nhiên, mọi người ở Hội nghị Thế giới đều đang bàn luận về OpenClaw và cách chúng ta có thể sử dụng các đại lý,” Kate Crawford, giáo sư nghiên cứu tại Đại học Nam California, nói.

“Nhưng rồi chúng tôi thấy trưởng bộ phận an toàn AI của Meta dùng OpenClaw, và nó đã xóa sạch toàn bộ hộp thư của cô ấy. Đó là trưởng bộ phận an toàn của Meta. Vậy nếu cô ấy gặp vấn đề, tôi nghĩ tất cả chúng ta đều phải tự hỏi: ‘Làm thế nào để đảm bảo rằng các hệ thống này thực sự được củng cố, làm thế nào để đảm bảo chúng được kiểm tra nghiêm ngặt? Làm thế nào để chúng ta có thể ủy thác cho chúng một cách đáng tin cậy?’ Và đó thực sự là vấn đề khó nhất phải đối mặt, đúng không?”

Đúng vậy. Khi có chuyện không ổn xảy ra, ai là người chịu trách nhiệm? Người dùng? Nhà phát triển? Thiếu quy định? Khi thực tế của AI xung đột với lời hứa của AI, chúng ta phải làm gì?

Hộp thư của Yue có thể chỉ quan trọng đối với cô ấy. Nhưng khi nói đến mối quan hệ giữa công nghệ và, ví dụ, sức khỏe của chúng ta, hoặc, lưu ý của Anthropic, việc bảo vệ quốc gia, thì đó là một vấn đề hoàn toàn khác. Chẳng bao lâu trước đây, bot trí tuệ nhân tạo Grok của xAI đã vô tình “cởi bỏ” quần áo của phụ nữ và trẻ em gái trong hình ảnh, gây ghê tởm cho hàng triệu người. Mối đe dọa từ hành động của chính phủ và các nhà nước cuối cùng đã thúc đẩy hành động.

‘Làm thế nào để đảm bảo rằng các hệ thống này thực sự được củng cố, làm thế nào để đảm bảo chúng được kiểm tra nghiêm ngặt…?

Kate Crawford, giáo sư nghiên cứu tại Đại học Nam California

“Làm thế nào để bạn thực sự xây dựng trách nhiệm giải trình?” Crawford hỏi. “Đây là điều mà tất cả chúng ta đều mong muốn. Nếu bạn định bắt đầu sử dụng các đại lý để đặt chuyến bay, sắp xếp cuộc hẹn y tế và thậm chí các hoạt động thân mật và đáng tin cậy hơn trong cuộc sống hàng ngày, bạn muốn biết rằng thông tin đó sẽ được bảo vệ.”

“Vậy làm thế nào để bạn kiểm tra điều đó? Làm thế nào để đảm bảo điều đó đang xảy ra? Nếu nhìn vào những gì đã xảy ra trong 10 năm qua trong lĩnh vực công nghệ, thật không may, chúng ta đã chứng kiến rất nhiều việc rửa sạch trách nhiệm – đó là khi các công ty có thể nói, ồ, tôi không biết. Thuật toán đã làm điều đó.”

Điều đó là chưa đủ. Crawford yêu cầu minh bạch hoàn toàn và một cuộc kiểm tra toàn diện về “quá trình đào tạo đại lý”, một quy trình từ đầu đến cuối tiết lộ những gì đã xảy ra sai sót và ai là người chịu trách nhiệm. Các công ty công nghệ cần lắng nghe và hành động. Sẽ có ngày càng nhiều Summer Yue như vậy – và điều đó chắc chắn sẽ còn hơn nhiều những email bị mất và một bài đăng trung thực trên X.

Tham gia cùng chúng tôi trong buổi trò chuyện trực tuyến về Fortune 500 châu Âu dành cho các lãnh đạo cấp cao, hợp tác cùng Syndio, về cách làm chủ quyết định lực lượng lao động và minh bạch lương trong thời đại AI. Dành cho các lãnh đạo nhân sự toàn cầu và khu vực, buổi họp này khám phá cách các CHRO sử dụng AI để thúc đẩy các quyết định lương thông minh hơn, quản lý rủi ro pháp lý và tăng cường niềm tin của lực lượng lao động. Dành riêng cho các CHRO và lãnh đạo nhân sự cấp cao. Đăng ký ngay.