Cựu nhân viên OpenAI đề xuất chậm lại cuộc đua AI đến năm 2040 - ForkLog

# Cựu nhân viên OpenAI đề xuất “hãm tốc” cuộc đua AI đến năm 2040

Các tác giả của kịch bản dự đoán loài người có thể tuyệt chủng vì AI đã công bố một kịch bản mới — lần này kèm cơ hội để cứu vãn. Tài liệu AI 2040: Plan A do cựu nghiên cứu viên OpenAI Daniel Kokotaylo và AI Futures Project phát hành.

Kokotaylo rời OpenAI vào tháng 4/2024. Ông rời đi vì bất đồng về các vấn đề an toàn của trí tuệ nhân tạo, và vào năm 2025 ông thành lập dự án AI Futures Project.

Cũng trong tháng 4 cùng năm, tổ chức này công bố dự báo AI 2027. Trong đó cho rằng cuộc đua AI giữa Mỹ và Trung Quốc có thể dẫn đến sự biến mất của loài người hoặc chế độ độc tài. Đồng thời, các tác giả уточнили: xác suất tuyệt chủng nằm trong khoảng từ 10% đến 30%.

Các chuyên gia của AI 2040: Plan A gọi đây là một khuyến nghị: một tập hợp các bước được mô tả có thể giúp giảm rủi ro.

Cách nó sẽ vận hành

Theo kịch bản, vào năm 2029, Mỹ và Trung Quốc ký một thỏa thuận quốc tế rằng vào năm 2029 Mỹ và Trung Quốc sẽ ký thỏa thuận quốc tế từ bỏ cuộc đua phát triển siêu trí tuệ. Nếu không có thỏa thuận, quá trình tự động hóa phát triển AI sẽ diễn ra ngay từ năm 2030.

Thay vào đó, các quốc gia phát triển mạng thần kinh dần dần — đến mức ngang hàng với những chuyên gia con người giỏi nhất. Đến năm 2035, họ tạm dừng để duy trì khả năng kiểm soát của con người đối với các hệ thống, và đến năm 2040, họ dỡ bỏ thời gian tạm dừng để AI đạt đến mức siêu trí tuệ.

Kế hoạch dựa trên bốn nguyên tắc:

• giành thời gian cho nghiên cứu an toàn;
• công khai đầy đủ các hoạt động phát triển AI;
• phân phối AI cho nhiều công ty và nhiều quốc gia khác nhau;
• giữ cho tiến trình có thể đảo ngược.

Để các bên tin tưởng lẫn nhau, Plan A dựa vào cơ chế xác minh. Các trung tâm dữ liệu lớn có thể nhìn thấy từ vũ trụ, nên rất khó để che giấu.

Bước đầu tiên được xây dựng trên cơ sở đó: các quốc gia công khai tuyên bố các thương vụ mua chip AI. Tiếp theo, họ áp dụng lệnh tạm dừng tạm thời đối với các lần chạy huấn luyện mới — các cảm biến đặt tại trung tâm dữ liệu sẽ xác nhận việc tuân thủ. Khi niềm tin được xác nhận, lệnh hạn chế được gỡ bỏ, nhưng các nghiên cứu vẫn minh bạch hoàn toàn: bất kỳ quốc gia và công ty nào cũng có thể thấy những gì các bên khác đang làm.

Để bảo vệ khỏi nguy cơ thỏa thuận bị đổ vỡ, các tác giả đưa ra khái niệm “tiêu hủy lẫn nhau bảo đảm năng lực tính toán”, họ so sánh với logic răn đe hạt nhân. Theo kế hoạch, các trung tâm dữ liệu mới của Trung Quốc được xây tại Canada, còn các cơ sở của Mỹ được xây tại Mông Cổ — tức là trên lãnh thổ mà nếu xảy ra xung đột thì đối thủ dễ tấn công nhất.

Nếu thỏa thuận thất bại, quốc gia tiếp nhận sẽ cố chiếm lấy các năng lực của bên kia trên lãnh thổ của mình, còn chủ sở hữu sẽ tự hủy chúng để không rơi vào tay đối thủ.

Kinh tế của kế hoạch

Theo tính toán của các tác giả, năng lực tính toán toàn cầu sẽ tăng từ 20 triệu tương đương H100 trong năm 2026 lên 60 tỷ vào năm 2034. Tăng trưởng thực tế GDP của Mỹ trong một số giai đoạn của thập niên 2030 có thể đạt 50% mỗi năm — so với mức thông thường 3%.

Do tự động hóa, việc làm ở Hợp chúng quốc Hoa Kỳ sẽ giảm từ 62% vào năm 2027 xuống 12% vào năm 2040. Để bù đắp mất việc làm, các chuyên gia đề xuất đưa vào “cổ tức dân sự” — các khoản chi trả cho từng người trưởng thành ở Mỹ từ nguồn thu nhập mà nhà nước thu được từ các công ty thông qua các giấy phép cho việc dùng năng lực tính toán và robot.

Theo dự báo của AI Futures Project, vào năm 2032, cổ tức sẽ là 45 000 USD cho mỗi người. Đến năm 2035, con số này tăng lên 1 triệu USD, và đến năm 2039 thì đạt 10 triệu USD.

Bốn kịch bản dự phòng

Các chuyên gia đối chiếu Plan A với bốn hướng phát triển khác. Theo họ, đây là các nhánh cốt truyện của một kịch bản — minh họa điều gì sẽ xảy ra khi các nhà cầm quyền đưa ra các quyết định khác.

• Plan B — Mỹ lập liên minh với các đồng minh và gây sức ép lên Trung Quốc, thậm chí đến cả các cuộc tấn công mạng và các đòn đánh có mục tiêu vào các dự án AI của bên kia. Kịch bản kết thúc bằng việc phải lựa chọn giữa mất quyền kiểm soát AI và chiến tranh.
• Plan C — Washington cố gắng đàm phán với Bắc Kinh và đưa ra các quy định nội bộ, nhưng dưới sức ép của các công ty, lệnh tạm dừng nhanh chóng được dỡ bỏ. Phần kết mang rủi ro tạo ra một chế độ đầu sỏ tài phiệt thường trực của một nhóm nhỏ kiểm soát siêu trí tuệ.
• Plan D — chính quyền ưu tiên mức điều tiết tối thiểu và chạy đua. Rủi ro gồm mất quyền kiểm soát AI, sự tập trung quyền lực cực đoan và chiến tranh thế giới thứ ba.
• Plan S — dừng hoàn toàn và vô thời hạn các hoạt động phát triển AI tiên tiến. Nguy cơ chính là thỏa thuận, sớm hay muộn, sẽ sụp đổ và cuộc đua được nối lại trong các điều kiện ít được kiểm soát hơn.

Nhắc lại, vào tháng Hai, các chuyên gia Citrini Research đã dự đoán sự sụp đổ của nền kinh tế do trí tuệ nhân tạo.