Giám đốc điều hành AI của Google, Demis Hassabis: AI tiên tiến không được phê duyệt sẽ không được ra mắt tại Mỹ

ME AI 消息, theo dõi Beating 监测, CEO của Google DeepMind Demis Hassabis cho biết AGI có thể chỉ còn vài năm. Ông kêu gọi Mỹ chuyển các cuộc kiểm thử tự nguyện hiện có đối với các mô hình thành cơ chế bắt buộc để cấp quyền truy cập thị trường dần dần. Theo kế hoạch của ông, các công ty AI tiên phong ban đầu nên chủ động nộp hồ sơ xin thẩm định trước khi phát hành mô hình tối đa 30 ngày. Khi cơ chế đánh giá đã trưởng thành, các mô hình đạt ngưỡng năng lực phải vượt qua bài kiểm thử mới được triển khai trên thị trường Mỹ.

Ông đề xuất thành lập một cơ quan tiêu chuẩn tương tự như FINRA của ngành tài chính Mỹ. Cơ quan này chịu sự giám sát của chính phủ liên bang, nguồn kinh phí chủ yếu từ các doanh nghiệp AI, đồng thời tiếp nhận chuyên gia độc lập và đại diện cộng đồng mã nguồn mở. Trọng tâm các bài kiểm thử bao gồm tấn công mạng, mối đe dọa sinh học, hành vi lừa đảo và vượt qua các ràng buộc an toàn. Tiêu chuẩn sẽ được cập nhật định kỳ và dần dần áp dụng các bài kiểm thử độc lập mà phòng thí nghiệm không thể nhìn trước đề từ trước, nhằm tránh mô hình “luyện điểm” dựa trên các câu hỏi công khai.

Quy tắc được phân theo năng lực của mô hình, không phân biệt công ty Mỹ hay nước ngoài, cũng không phân biệt mã nguồn mở hay đóng. Các công ty khởi nghiệp và dự án học thuật chưa đạt ngưỡng tiên phong có thể được miễn trừ. Hiện tại, Mỹ đã cho phép các công ty tiên phong gửi tự nguyện các mô hình cho chính phủ kiểm thử tối đa 30 ngày trước khi phát hành. Nhưng lệnh hành pháp được công bố vào tháng 6 đã nêu rõ việc loại trừ giấy phép bắt buộc và phê duyệt trước.

Hassabis cho rằng cần biến cơ chế tự nguyện này thành giấy thông hành mang tính bắt buộc; khi rủi ro nghiêm trọng, còn có thể điều phối để các phòng thí nghiệm tiên phong cùng giảm tốc độ phát triển theo tập thể. （来源：BlockBeats）