Cuộc đối đầu AI giữa Mỹ và Trung Quốc ngày càng nóng, nhưng các học giả hai nước đều đồng thuận: Đừng để AI bước vào "thời khắc Chernobyl".

WIRED trực tiếp đến tham dự Hội nghị AI Trung Quan Thôn Bắc Kinh, kết luận lớn nhất sau khi phỏng vấn các học giả hàng đầu Trung-Mỹ là: Rủi ro an ninh mạng của AI tiên tiến đã lớn đến mức không bên nào có thể gánh chịu một mình, ranh giới khả năng của các mô hình mã nguồn mở đang tiến gần đến điểm nguy hiểm.
(Tóm tắt trước: Anthropic bị chính phủ Mỹ "cấm" rút mô hình Fable, truyền thông nước ngoài chỉ ra ba lo ngại lớn: có thể hỗ trợ mã nguồn mở của Trung Quốc)
(Bổ sung bối cảnh: Nvidia ra mắt mô hình mã nguồn mở mạnh nhất Nemotron 3 Ultra! Tập trung vào nhiệm vụ tác nhân AI)

Mục lục bài viết

Toggle

• Một cuộc chạy đua vũ trang AI, nhưng lại sinh ra răn đe hạt nhân
• Ranh giới của mô hình mã nguồn mở, đang tiến gần đến điểm nguy hiểm
• Trung Quốc cũng đang lặng lẽ đóng cửa

Phóng viên Will Knight của WIRED đã trực tiếp đến tham dự hội nghị do Viện Nghiên cứu Trí tuệ Nhân tạo Bắc Kinh (BAAI) tổ chức, nơi tập trung các chủ đề từ cải tiến đệ quy, robot giống người đến an ninh lượng tử, những người tham dự bao gồm đồng phát minh mật mã khóa công khai Whitfield Diffie và Andrew Barto, người đã giành giải Turing nhờ nghiên cứu nền tảng về học tăng cường.

Knight viết trong bài rằng khi rời hội trường, anh chỉ còn một suy nghĩ: Trung-Mỹ phải buông bỏ sự căng thẳng trong cuộc đua AI. Lý do không phải vì ngoại giao, mà là thực tế kỹ thuật: Rủi ro an ninh mạng của AI tiên tiến đang mở rộng với tốc độ vượt quá khả năng theo kịp của bất kỳ chính sách quốc gia nào.

Một cuộc chạy đua vũ trang AI, nhưng lại sinh ra răn đe hạt nhân

Khung chuẩn của Washington coi sự tiến bộ AI của Trung Quốc là mối đe dọa kinh tế và an ninh quốc gia. Kiểm soát xuất khẩu tiếp tục thắt chặt, hạn chế dòng chip cao cấp và thiết bị sản xuất vào Trung Quốc; tháng Sáu năm nay, chính phủ Mỹ còn tiến xa hơn, với lý do an ninh quốc gia, yêu cầu Anthropic ngừng cho phép người nước ngoài truy cập hai mô hình mạnh nhất của họ là Mythos 5 và Fable 5.

Anthropic ngay lập tức đóng cửa hai mô hình này đối với tất cả mọi người, một trong những lý do là chính quyền lo ngại cơ chế bảo vệ của Fable 5 có thể bị phá vỡ, từ đó mở khóa khả năng tấn công mạng của Mythos.

Tuy nhiên, hội nghị Bắc Kinh này đã truyền tải một tín hiệu hoàn toàn khác: AI phát triển quá nhanh, thiếu kiểm soát, là rủi ro cho cả hai bên Trung-Mỹ, chứ không phải là con bài riêng lẻ.

Nhà khoa học máy tính MIT Stephen Casper đã phát biểu tại hội nghị qua video, trích dẫn một nghiên cứu cho thấy lợi ích của hợp tác quốc tế về rủi ro AI lớn hơn nhiều so với rủi ro an ninh do hợp tác mang lại. Casper so sánh với Knight: "Hầu như tất cả mọi người trong lĩnh vực AI đều đồng ý một điều, đó là AI không cần một khoảnh khắc Chernobyl."

Ông chỉ ra rằng điều này hoàn toàn giống với logic mâu thuẫn của Mỹ-Liên Xô về vũ khí hạt nhân trong thời kỳ Chiến tranh Lạnh, cả hai bên đều cố gắng mở rộng kho vũ khí, đồng thời lại phải thiết lập cơ chế kiểm soát khủng hoảng hạt nhân. Điều khiến họ cảnh giác nhất chính là các tác nhân AI ngày càng mạnh, một khi khả năng tiếp tục tăng lên, chỉ cần một chút mất kiểm soát cũng có thể gây ra sự hủy diệt quy mô lớn.

Ranh giới của mô hình mã nguồn mở, đang tiến gần đến điểm nguy hiểm

Nếu nói rủi ro an ninh mạng là cảnh báo ở cấp độ lý thuyết, thì sự mở rộng khả năng của mô hình mã nguồn mở là quả mìn có thể thấy trước mắt.

Những năm gần đây, các doanh nghiệp Trung Quốc đi đầu trong lĩnh vực mô hình trọng số mở: Kimi của Moonshot AI, Qwen của Alibaba, GLM của Z.ai, đều có lượng người dùng lớn trong cộng đồng nghiên cứu Mỹ. Phản ứng của Mỹ là Nemotron của Nvidia, cố gắng xây dựng lại khả năng cạnh tranh mã nguồn mở.

Nhưng phân tích của các chuyên gia về GLM 5.2 cho thấy mô hình thế hệ mới nhất của Z.ai đã có khả năng tác nhân và lập trình ở cấp độ tiên tiến. Thế hệ mô hình mã nguồn mở tiếp theo có thể sẽ sánh ngang với Fable hoặc Mythos.

Giáo sư Đại học Giao thông Thượng Hải Lin Yun, người nghiên cứu lâu năm về giao thoa giữa AI và an ninh thông tin, chỉ ra với Knight rằng trong ngắn hạn, tin tặc thực sự có lợi thế, nhưng các biện pháp phòng thủ mới, bao gồm cả ứng dụng phản công của chính AI, sẽ đảo ngược tình hình trong trung và dài hạn. Vấn đề cốt lõi hơn nằm ở tiêu chuẩn: "Nếu các quốc gia khác nhau có hiểu biết tương tự về rủi ro, sẽ dễ dàng hơn để thiết lập các nguyên tắc an toàn và tiêu chuẩn kỹ thuật chung," Yun nói, "Chìa khóa là tìm ra các lĩnh vực chia sẻ có thể giảm rủi ro hệ thống mà không để lộ các chi tiết hoạt động nhạy cảm."

Lin Yun cũng đặt ra một câu hỏi mở khó giải quyết: Làm thế nào ngành công nghiệp có thể đảm bảo các mô hình mã nguồn mở được cập nhật liên tục, không có lỗ hổng backdoor và tuân thủ các tiêu chuẩn an toàn? Câu hỏi này hiện không có câu trả lời.

Trung Quốc cũng đang lặng lẽ đóng cửa

Một chi tiết không thể bỏ qua đến từ nguồn tin ẩn danh mà Will Knight phỏng vấn: Một người nội bộ của một công ty AI hàng đầu Trung Quốc, yêu cầu giấu tên vì chưa được phép phát biểu với truyền thông. Anh ta tiết lộ rằng lo ngại an toàn là một trong những lý do khiến một số mô hình tiên tiến không còn được mở mã nguồn.

Đây là một tín hiệu đáng suy ngẫm. Các công ty AI Trung Quốc từ lâu đã dùng tư thế mã nguồn mở để đổi lấy ảnh hưởng toàn cầu, nhưng nếu ngay cả những công ty hàng đầu của Trung Quốc cũng bắt đầu hạn chế một số mô hình, thì ranh giới giữa mã nguồn mở và mã nguồn đóng đang được định nghĩa lại. Xét cho cùng, kiểm soát xuất khẩu quản lý dòng chảy tính toán, nhưng sự lan tỏa khả năng mô hình là mềm, không biên giới. Khi cộng đồng mã nguồn mở có thể tái tạo 90% khả năng của mô hình mã nguồn đóng, và khi bản thân mô hình mở có thể trở thành vũ khí mạng, thì bất kỳ biện pháp kiểm soát đơn phương nào cũng chỉ là trì hoãn chứ không phải ngăn chặn.

Trung-Mỹ là nguồn chính của các mô hình tiên tiến nhất hiện nay, và do đó là hai bên chịu trách nhiệm nặng nề nhất trong rủi ro này. Casper nói thẳng: "AI là một công nghệ toàn cầu, nó mang lại lợi ích toàn cầu và cũng mang lại tổn hại toàn cầu, và xu hướng thường thấy là những khả năng mới cuối cùng sẽ lan tỏa ra toàn thế giới." Bất kể cuộc đấu về kiểm soát xuất khẩu giữa Bắc Kinh và Washington còn kéo dài bao lâu, logic này sẽ không biến mất.

@E1#