AI cần có nút tạm dừng, nhưng ai là người có quyền bấm nút đó?

Tác giả: Tiểu Bạch

Bài viết này do chính tác giả đăng tải, quan điểm chỉ thể hiện sự hiểu biết cá nhân của tác giả. ETHPanda biên tập và sắp xếp lại nội dung.

Khi tranh luận về AI, thường bị đơn giản hóa thành hai phe: một bên chủ trương tiếp tục tăng tốc, một bên cho rằng nên tạm dừng càng sớm càng tốt.

Vitalik khi phản hồi “AI 2040: Plan A” đã chỉ ra rằng, khác biệt thật sự trong cuộc tranh luận này không nằm ở lựa chọn chính sách, mà nằm ở việc mọi người có những đánh giá hoàn toàn khác nhau về tương lai.

Một cách đánh giá cho rằng, AI vẫn là một “công nghệ thông thường”. Nó sẽ thay đổi việc làm, ngành công nghiệp và cấu trúc xã hội, nhưng cuối cùng vẫn bị ràng buộc bởi thị trường, pháp luật, năng lượng, vốn và năng lực tổ chức.

Cách đánh giá khác cho rằng, một khi AI bắt đầu tham gia quy mô lớn vào việc nghiên cứu và phát triển AI, tăng trưởng năng lực có thể bước vào một vòng lặp tăng tốc. Khi đó, con người đối mặt không chỉ là việc công việc bị thay thế, mà có thể dần dần mất đi quyền kiểm soát thực tế về nghiên cứu khoa học, kinh tế, quân sự và thể chế.

Nếu cách đánh giá thứ nhất đúng, việc xây dựng hệ thống truy vết chip toàn cầu, phê duyệt năng lực tính toán và giám sát trung tâm dữ liệu rõ ràng có thể là phản ứng quá mức.

Nhưng nếu cách đánh giá thứ hai đúng, việc tiếp tục duy trì cuộc đua mặc định và tin rằng thị trường cuối cùng sẽ tự giải quyết mọi thứ cũng là một canh bạc rủi ro cao.

Vì vậy, thứ quản trị AI thực sự cần trả lời không chỉ là “có nên tạm dừng hay không”, mà là:

Khi không thể xác định tương lai thuộc về kiểu thế giới nào, làm thế nào để giữ được năng lực giảm tốc, mà không trao vĩnh viễn quyền lực cho một nhóm người ít ỏi?

Cốt lõi của “AI 2040” không chỉ là “giảm tốc”

“AI 2040” đề xuất một lộ trình chuyển tiếp siêu thông minh mang tính lý tưởng hóa.

Nó hình dung rằng các quốc gia lớn và các công ty AI sẽ phối hợp quốc tế để làm chậm tốc độ phát triển AI tiên phong, tăng mức độ minh bạch trong nghiên cứu, để nhiều bên tham gia có thể bắt kịp và tiến gần tới trình độ tiên phong, rồi sau đó mới tiếp tục thúc đẩy khi các vấn đề về an toàn và quản trị đã được xử lý.

Tôi cho rằng vấn đề lớn nhất của phương án này không nằm ở mục tiêu, mà nằm ở khâu thực thi.

Chỉ cần có một bên bí mật huấn luyện mô hình mạnh hơn, các bên còn lại sẽ lo mình bị bỏ xa, và thỏa thuận sẽ nhanh chóng trở nên vô hiệu. Vì vậy, để giảm tốc trở nên đáng tin cậy, bắt buộc phải truy vết các chip cao cấp, giám sát các trung tâm dữ liệu quy mô lớn, và đánh giá năng lực tính toán rốt cuộc đang được dùng để huấn luyện hay cho mục đích khác.

Điều này đồng nghĩa với việc, để ngăn siêu thông minh hình thành một trung tâm quyền lực mới, con người có thể cần trước hết xây dựng một trung tâm kiểm soát năng lực tính toán mang tính toàn cầu.

Đây chính là mâu thuẫn khó nhất trong các phương án tạm dừng AI:

Cơ chế ngăn kỹ thuật mất kiểm soát, bản thân nó cũng có thể trở thành công cụ để mất kiểm soát quyền lực.

“AI rủi ro rất lớn” không tự động chứng minh rằng một chính phủ, một tổ chức quốc tế hay một phòng thí nghiệm lớn nào đó nên nhận được quyền lực vô hạn.

Tương tự, “việc giám quản có thể bị lạm dụng” cũng không thể ngược lại chứng minh rằng rủi ro AI không tồn tại.

Thứ cần thẩm tra thực sự là cấu trúc thể chế:

Ai định nghĩa điều gì là nguy hiểm, ai nắm dữ liệu, ai có quyền khởi động các hạn chế, ai có thể được miễn trừ, ai giám sát việc thực thi, và sau khi phán đoán sai thì quyền lực này có thể bị thu hồi hay không.

Nếu các câu hỏi này không có câu trả lời, “AI an toàn” rất dễ biến thành một giấy ủy quyền công nghệ không có thời hạn.

Nút tạm dừng và ngai vàng: chỉ cách nhau một quyền miễn trừ

“Tạm dừng AI” nghe như một hành động đơn giản, nhưng trên thực tế có thể đại diện cho hai kiểu thể chế hoàn toàn khác nhau.

Thứ nhất là tạm dừng có chọn lọc.

Người nắm quyền có thể quyết định ai đủ tư cách huấn luyện mô hình, ai bắt buộc phải dừng; ai thuộc tổ chức đáng tin, và ai bị xem là người tham gia nguy hiểm. Những người khác bị hạn chế, nhưng người nắm quyền lại có thể giữ lại mô hình, chip và năng lực tính toán cho riêng mình.

Cơ chế này không thực sự kết thúc cuộc đua, mà chỉ là quyết định trước ai sẽ là người chiến thắng.

Nó không phải là nút tạm dừng, mà giống như một tấm vé để ngồi lên ngai vàng.

Thứ hai là tạm dừng đối xứng.

Khi các điều kiện rủi ro được kích hoạt một cách công khai, tất cả các bên tham gia chủ chốt đều bị hạn chế, kể cả bên chịu trách nhiệm thực thi việc tạm dừng. Không có sự miễn trừ bí mật, cũng không thể vừa yêu cầu các đối thủ dừng lại, vừa cho phòng thí nghiệm của mình tiếp tục triển khai.

Cơ chế này mới gần với một “công tắc ngắt mạch” thực sự.

Vitalik đã khẳng định rõ việc Plan A đưa vào khái niệm “đảm bảo lẫn nhau phá hủy năng lực tính toán”. So với việc trao cho một nhóm nhỏ quyền hạn chế chọn lọc người khác và đồng thời miễn trừ cho chính mình, cơ chế này ít nhất cũng đối xứng hơn.

Nhưng tạm dừng đối xứng cũng không tự động giải quyết vấn đề.

Một hệ thống có thể làm tê liệt quy mô lớn năng lực tính toán tiên tiến trên toàn cầu, bản thân nó đã là một công cụ quyền lực cực mạnh. Nó có thể bị kích hoạt bởi thông tin sai, bị khai thác bởi xung đột chính trị, bị thao túng bởi nội gián, hoặc cũng có thể gây thiệt hại nghiêm trọng vì lỗi kỹ thuật.

Vì vậy, một cơ chế tạm dừng đáng tin cần ít nhất đáp ứng vài điều kiện:

Điều kiện kích hoạt phải được công khai, bằng chứng không thể do một tổ chức đơn lẻ độc quyền nắm giữ, mức hạn chế nên càng đối xứng càng tốt, việc tạm dừng phải có thời hạn rõ ràng và các quy tắc khởi động lại cũng cần được ghi rõ trước.

Đặc biệt, không được chỉ thiết kế “cách đi vào trạng thái khẩn cấp” mà không thiết kế “cách thoát khỏi trạng thái khẩn cấp”.

Trong thực tế, khi một tổ chức đã có quyền lực, họ thường dễ chứng minh rằng nguy hiểm vẫn tồn tại hơn là chủ động trả lại quyền lực.

Do đó, cơ chế tạm dừng AI bản thân nó cũng cần một nút tạm dừng.

Quyền lực tập trung thực sự không chỉ đến từ công ty và chính phủ

Khi nói về quyền lực trong AI, người ta thường lo hai điều.

Một là một số công ty lớn độc quyền các mô hình mạnh nhất.

Hai là chính phủ nhân danh an ninh để kiểm soát chip, dữ liệu và các nhà phát triển.

Nhưng Vitalik nhắc tới một rủi ro sâu hơn thứ ba:

Chính siêu thông minh cũng có thể trở thành bộ gom tụ quyền lực lớn nhất.

Con người ngày nay có năng lực mặc cả là vì con người nắm giữ một số nguồn lực khan hiếm: lao động, tri thức, năng lực tổ chức, vốn, quyền lực chính trị và sức mạnh vũ lực. Giữa các nhóm khác nhau phải đàm phán với nhau, vì không bên nào có thể hoàn toàn lách khỏi những người khác.

Nếu AI có thể nhanh hơn và rẻ hơn và hiệu quả hơn con người trong nghiên cứu khoa học, lập trình, quản lý, tài chính, truyền thông, tấn công mạng thậm chí cả hoạch định quân sự, thì những năng lực khan hiếm vốn thuộc về con người sẽ nhanh chóng bị mất giá.

Khi đó, ngay cả khi trên thị trường có mười công ty AI cạnh tranh, điều đó cũng không có nghĩa là con người vẫn nắm giữ quyền quyết định cuối cùng.

Cạnh tranh thị trường có thể giới hạn lợi nhuận của một công ty, nhưng không chắc có thể đảm bảo rằng người bình thường vẫn giữ được năng lực mặc cả.

Vì vậy, “để người có thể tin cậy kiểm soát AI mạnh nhất” không phải là câu trả lời đầy đủ.

Nó chỉ chuyển vấn đề từ “AI có kiểm soát con người hay không” sang “nhóm nhỏ nào nên là người đầu tiên nhận quyền kiểm soát AI mạnh nhất”.

d/acc là nền tảng, nhưng không phải đáp án vạn năng

d/acc mà Vitalik thúc đẩy lâu dài có thể hiểu là ưu tiên phát triển các công nghệ mang tính phòng thủ và phi tập trung.

Ví dụ: phần mềm an toàn hơn, xác minh hình thức, mật mã, phần cứng mở, phòng thủ mạng, an toàn sinh học và các công cụ xác minh thông tin.

Giá trị của các hướng này nằm ở chỗ chúng không phụ thuộc vào một lịch trình thời gian chính xác của siêu thông minh.

Nếu cuối cùng AI chỉ là công nghệ thông thường, thì phần mềm an toàn hơn, phần cứng đáng tin hơn và năng lực phòng thủ công cộng mạnh hơn vẫn đáng để xây dựng.

Nếu AI phát triển nhanh chóng, các công nghệ này cũng có thể nâng cao khả năng chống chịu của xã hội trước tấn công mạng, rủi ro sinh học, backdoor phần cứng và thao túng thông tin.

Đó là một chiến lược ít hối tiếc: khi không thể xác định tương lai thuộc về kiểu thế giới nào, hãy xây dựng trước cơ sở hạ tầng an toàn mà dù thế nào cũng đáng sở hữu.

Nhưng d/acc không phải thuốc chữa bách bệnh.

Nếu năng lực AI thực sự có bước nhảy trong thời gian rất ngắn, công nghệ phòng thủ có thể không kịp triển khai. Hệ thống an toàn hơn có thể giảm rủi ro, nhưng không thể chứng minh rằng mọi cuộc đua đều nên tiếp tục.

Vì vậy, d/acc phù hợp hơn như một nền tảng dài hạn, còn cơ chế tạm dừng là một “bảo hiểm” trong tình huống cực đoan.

Nền tảng cần được xây dựng liên tục, bảo hiểm không nên dễ dàng kích hoạt, nhưng cũng không thể đợi đến khi hệ thống đã mất kiểm soát rồi mới bắt đầu thiết kế.

Quan trọng hơn dự đoán ngày tháng là thỏa thuận trước điều kiện kích hoạt

Trong bài dài của Vitalik, lời khuyên mang tính thực tiễn nhất không phải là tạm dừng AI ngay lập tức, mà là thỏa thuận trước:

Khi xuất hiện chứng cứ gì, các bên phải thay đổi cách đánh giá.

Ngày nay, việc yêu cầu mọi người cùng đồng ý “siêu thông minh sẽ xuất hiện vào năm 2030” hoặc “trong 20 năm tới sẽ không xuất hiện” gần như là không thể.

Nhưng các phe khác nhau vẫn có thể đồng ý trước một số tín hiệu rủi ro.

Ví dụ:

Liệu AI đã có thể tự mình hoàn thành các nhiệm vụ nghiên cứu và phát triển kéo dài nhiều tuần hay chưa;

Liệu có thể tăng tốc đáng kể việc phát triển thế hệ AI tiếp theo hay không;

Liệu có năng lực phát hiện và khai thác lỗ hổng mạng quy mô lớn hay không;

Liệu đã bắt đầu tự nhân bản, giành lấy tài nguyên hoặc vượt qua giám sát hay chưa;

Liệu đã được kết nối với vũ khí, hệ thống tài chính và các hạ tầng quan trọng hay chưa;

Liệu đã gây ra tổn hại xã hội quy mô lớn kéo dài hay chưa.

Điểm mấu chốt không phải là tìm một chỉ số hoàn hảo, mà là chuyển cuộc tranh luận từ “bạn có tin siêu thông minh hay không” thành “những bằng chứng thực tế nào sẽ khiến bạn cập nhật đánh giá”.

Những người cho rằng rủi ro AI bị thổi phồng có thể chấp nhận, vì họ tin rằng các tình huống đó sẽ không xảy ra.

Những người lo siêu thông minh có thể chấp nhận, vì họ cho rằng các tín hiệu này có thể sớm xuất hiện.

Hai bên không cần thống nhất trước một thế giới quan, chỉ cần cam kết trước:

Khi có thay đổi thực tế, chính sách cũng phải thay đổi.

Can thiệp không nên chỉ có hai nấc: tiếp tục hay đóng cửa

Quản trị AI có thể thực thi thực sự cũng không nên chuyển thẳng giữa “phát triển hoàn toàn tự do” và “đóng cửa toàn cầu”.

Cách hợp lý hơn là thiết lập can thiệp theo bậc.

Khi rủi ro còn thấp, tăng mức độ công bố năng lực, báo cáo sự cố và thử nghiệm của bên thứ ba.

Khi rủi ro tiếp tục tăng, hạn chế việc truy cập của mô hình vào các hạ tầng quan trọng, hạn chế các quyền hạn rủi ro cao như thực thi tự chủ, điều động vốn, kiểm soát vũ khí.

Nếu AI đã rõ ràng tự động hóa việc nghiên cứu và phát triển AI, hoặc nhiều tín hiệu nghiêm trọng đồng thời xuất hiện, thì hạn chế đào tạo tiên phong mới và mở rộng năng lực tính toán quy mô lớn.

Chỉ khi các biện pháp cường độ thấp hơn không thể kiểm soát rủi ro, mới chuyển sang trạng thái tạm dừng có phạm vi rộng hơn và thời gian ngắn hơn.

Thiết kế theo bậc này không nhằm làm suy yếu giám quản, mà để mức độ mạnh của chính sách tương ứng với mức độ mạnh của bằng chứng.

Thể chế thực sự nguy hiểm thường không phải là không có khả năng áp dụng các biện pháp cứng rắn, mà là có thể bỏ qua tất cả bước trung gian, trực tiếp giành quyền lực vô hạn với lý do “tình trạng khẩn cấp”.

Kết luận

Nơi quản trị AI thực sự khó khăn không phải là thiếu lập trường, mà là thiếu một bộ thể chế có thể dung nạp sai lầm trong phán đoán.

Tiếp tục cuộc đua không phải là một lựa chọn trung lập.

Tạm dừng toàn cầu cũng không phải là lựa chọn trung lập.

Mô hình mở không tự nhiên an toàn, mô hình đóng cũng không tự nhiên có trách nhiệm.

Một cơ chế quản trị đáng tin cần ít nhất trả lời bốn câu hỏi:

Nó dựa vào bằng chứng nào để hành động?

Nó có ràng buộc tương tự với người nắm quyền hay không?

Nó có thể được thẩm định từ bên ngoài không?

Sau khi phán đoán sai, quyền lực có thể bị thu hồi không?

Trong kỷ nguyên AI, có lẽ đúng là cần một nút tạm dừng.

Nhưng bài toán khó thực sự của nút tạm dừng chưa bao giờ nằm ở việc có thể chế tạo nó hay không.

Mà nằm ở:

Ai là người có quyền bấm nó, ai có quyền khởi động lại, và làm sao để đảm bảo không ai có thể biến nút bấm này thành ngai vàng của riêng mình.