Giám đốc điều hành DeepMind cho rằng các mô hình AI tiên tiến nên được cơ quan quản lý quốc tế “thẩm định” trước khi ra mắt, tức phải được thông qua trước khi lên sàn

Google DeepMind 執行長 Demis Hassabis 本週 cơng khai một đề xuất, cho rằng hãy noi theo mô hình của Cơ quan quản lý ngành tài chính Mỹ (FINRA), thành lập một cơ quan giám sát quốc tế do các chuyên gia độc lập dẫn dắt, và yêu cầu các mô hình AI tiên tiến trước khi được công bố phải trải qua một đợt kiểm tra bắt buộc kéo dài tối đa 30 ngày.
（Tóm lược trước đó: nếu bạn cũng sợ AI sẽ hủy diệt nhân loại, hãy đọc bản báo cáo này《AI 2040：Plan A》）
（Bổ sung bối cảnh: phe an toàn thêm một người nữa rời đi: nhà tương lai học cấp cao của OpenAI từ chức, nhóm sứ mệnh cũng đã giải tán）

Mục lục

Toggle

• Một hồi chuông cảnh báo, khiến đề xuất được đưa lên sớm
• Làm bài tập kiểu Phố Wall: độc lập, doanh nghiệp tài trợ, có thể nâng cấp
• Ngành đồng loạt gật đầu, khó nhất là chính phủ gật đầu

Giám đốc điều hành Google DeepMind đã đăng trên Substack cá nhân của mình một bản tuyên ngôn mang tên《A Framework for Frontier AI and the Dawning of a New Age》trong tuần này, lập luận rằng cần thành lập một cơ quan giám sát quốc tế độc lập với chính phủ và doanh nghiệp, bắt chước mô hình của Cơ quan quản lý ngành tài chính Mỹ (FINRA), để “thực hiện kiểm tra sức khỏe trước khi niêm yết” đối với các mô hình AI tiên tiến nhất.

“Các mô hình tiên tiến” mà ông nhắc đến, nói ngắn gọn, là thế hệ AI mới nhất hiện có năng lực tính toán mạnh nhất và ranh giới rủi ro vẫn chưa được thăm dò đầy đủ. Theo đề xuất, trong tương lai các mô hình đáp ứng ngưỡng “tiên phong” sẽ phải nộp thẩm định trước, không phân biệt mã nguồn mở hay mã nguồn đóng, không phân biệt quốc gia nghiên cứu; thời gian thẩm định dài nhất có thể lên tới 30 ngày, và đa số ghế trong ban giám đốc được dành cho các chuyên gia kỹ thuật độc lập đẳng cấp ngang giải Turing.

Giám đốc điều hành OpenAI Sam Altman gọi ý tưởng này là “rất chu đáo”, còn Musk cũng nói đây là “điểm khởi đầu cho một cuộc thảo luận rất tốt”; hai đối thủ trước nay thường không thuận mắt nhau, lần này hiếm hoi đứng chung một phía.

Một hồi chuông cảnh báo, khiến đề xuất được đưa lên sớm

Hassabis đã ấp ủ khung cơ chế này suốt nhiều tháng, nhưng động lực khiến ông quyết định công bố sớm là việc mô hình Mythos do Anthropic phát hành giới hạn. Sau khi ra mắt vào tháng 4 năm nay, mô hình này thể hiện năng lực phòng thủ và tấn công an ninh mạng vượt xa kỳ vọng, khiến trong ngành và giới hoạch định chính sách dấy lên lo ngại về “một kỷ nguyên tội phạm mạng mới do AI dẫn dắt”. Hassabis gọi trực tiếp đây là một “hồi chuông cảnh báo”, nhấn mạnh rằng không thể chờ cơ quan quản lý từ từ bắt kịp; đồng thời ông dự kiến tuần tới sẽ tự mình bay đến Washington để trao đổi trực tiếp với những người làm chính sách Mỹ về khung cơ chế này—rõ ràng không chỉ muốn đăng một bài rồi kết thúc.

Ngoài rủi ro an ninh mạng trước mắt, Hassabis trong một cuộc phỏng vấn cũng nêu ra mối lo dài hạn hơn: rủi ro an toàn sinh học. Nói một cách đơn giản, đó là việc các mô hình AI có thể được dùng để hỗ trợ thiết kế mầm bệnh, vũ khí sinh học và các dạng đe dọa khác đối với sức khỏe cộng đồng. Ông thừa nhận: “Hiện tại các mô hình vẫn chưa mạnh đến mức đó, nhưng nếu ngoại suy theo tiến triển hiện nay, trong vài năm nữa có thể sẽ xuất hiện.”

Trong cùng thời điểm, cách chính phủ Mỹ đối xử với việc thẩm định các mô hình mới cũng khiến toàn ngành căng thẳng thần kinh. Anthropic và OpenAI từng trì hoãn phát hành quy mô lớn sản phẩm mới nhất dưới áp lực từ chính quyền Trump; động thái này khiến các quốc gia khác phụ thuộc công nghệ Mỹ không kịp xoay trở tay, và cũng thúc đẩy việc Liên minh châu Âu cùng chính phủ Mỹ bàn bạc về quyền truy cập mô hình. Các giám đốc điều hành công ty AI cũng nhân dịp Hội nghị thượng đỉnh G7 tại Pháp để trực tiếp gặp gỡ lãnh đạo các nước và thảo luận.

Làm bài tập kiểu Phố Wall: độc lập, doanh nghiệp tài trợ, có thể nâng cấp

Vật tham chiếu mà Hassabis chọn là Cơ quan quản lý ngành tài chính Mỹ (FINRA). Nói đơn giản, đó là một tổ chức tự quản do chính các công ty chứng khoán ở Phố Wall tự bỏ tiền nuôi, vận hành độc lập, nhưng chịu sự giám sát của Ủy ban Chứng khoán và Giao dịch Mỹ (SEC); tổ chức này chuyên kiểm tra các tổ chức tài chính có tuân thủ quy định hay không, và khi có sự cố thì có thể phạt, thậm chí đình chỉ. Ông muốn chuyển logic tương tự sang AI: ngành bỏ tiền, nhưng quyền ra quyết định giao cho những người không thuộc bất kỳ công ty nào.

Về thiết kế cụ thể, hội đồng quản trị của cơ quan mới này sẽ do các chuyên gia kỹ thuật độc lập nắm đa số; thành viên gồm những nhân vật nặng ký đẳng cấp ngang người đoạt Giải Turing, đồng thời dành thêm ghế cho đại diện ngành, chính phủ và cộng đồng mã nguồn mở; toàn bộ nguồn vốn đến từ các phòng thí nghiệm AI đầu ngành hoạt động vì lợi nhuận; đối tượng phải chịu thẩm định là mọi mô hình đạt ngưỡng tiên phong, bất kể trụ sở công ty ở đâu, mã nguồn mở hay mã nguồn đóng đều được đối xử như nhau; thời gian thẩm định tối đa 30 ngày, và bản thân ngưỡng cũng sẽ được cập nhật định kỳ theo năng lực của mô hình.

Hassabis nhấn mạnh rằng mức độ “cứng rắn” của cơ chế này có thể được nâng lên tùy theo mức độ nghiêm trọng của tình hình; trong trường hợp cực đoan, thậm chí có thể phối hợp để các phòng thí nghiệm lớn cùng làm chậm nhịp độ nghiên cứu. Dòng thời gian lý tưởng của ông là hy vọng cơ quan này sớm nhất có thể bắt đầu vận hành trước cuối năm nay.

Ngành đồng loạt gật đầu, khó nhất là chính phủ gật đầu

Trước khi công khai công bố, Hassabis đã âm thầm đưa bản thảo cho hầu như tất cả các phòng thí nghiệm AI lớn để xem qua, bao gồm cả “những người bạn” mà ông nhắc đến, CEO của Anthropic là Dario Amodei.

Amodei trước đó đã đề xuất Mỹ nên thành lập một cơ quan chuyên trách tương tự Cơ quan Hàng không Liên bang Mỹ (FAA) để giám sát AI; Altman cũng từng nêu một sáng kiến giám sát quốc tế tương tự. Hassabis khi trả lời phỏng vấn của Bloomberg nói: “Chúng tôi đã trao đổi rất nhiều, và tôi thấy điều này có mức độ tương thích cao với những ý tưởng mà Dario và Sam vẫn đưa ra từ trước; chỉ là chúng tôi cần một phương án cụ thể, chứ không phải một khái niệm trừu tượng.”

Là người đoạt giải Nobel và dành nhiều thời gian nghiên cứu AI hơn đa số đối thủ, Hassabis thực sự ít gây thù hơn Musk hay Altman, và cũng dễ kéo được sự đồng thuận trong nội bộ ngành hơn. Nhưng một lãnh đạo ngành AI giấu tên nhắc rằng, chỉ có sự đồng thuận của ngành vẫn chưa đủ; vấn đề thực sự nằm ở chính trị: Quốc hội Mỹ đến nay vẫn chưa thông qua bất kỳ luật liên bang AI có ý nghĩa nào, thái độ của chính quyền Trump đối với AI thì lúc buông lỏng lúc can thiệp, và các hướng đi giám sát giữa Mỹ, Liên minh châu Âu và Trung Quốc cũng thường xuyên đi mỗi nơi một khác. Hassabis lạc quan rằng động lực hiện tại có thể đủ để đẩy sự việc đi đến vạch đích thật sự, nhưng ông cũng hiểu rõ: “Việc tiếp theo là làm sao thực sự triển khai được, chứ không chỉ đăng một bài blog.”