Kế hoạch Bunker của Hassabis: Cuốn sách mới tiết lộ sự sụp đổ của các lý tưởng an toàn trong Bunker Plan của DeepMind

Theo giám sát của 1M AI News, The Atlantic đã đăng một đoạn trích từ cuốn sách mới của nhà sử học công nghệ và nhà sử học tài chính Sebastian Mallaby, ‘The Infinity Machine’, cuốn sách này ghi chép sự phát triển của các khái niệm về an toàn AI từ người đồng sáng lập Google DeepMind, Demis Hassabis, kể từ khi Google mua lại vào năm 2014, dựa trên các cuộc phỏng vấn đang diễn ra từ 2023 đến 2026. Ban đầu, Hassabis hình dung một nhóm khoa học duy nhất an toàn xây dựng siêu trí tuệ thay mặt cho toàn nhân loại và thậm chí lên kế hoạch đưa các nhà nghiên cứu hàng đầu rút vào một hầm trú ẩn bí mật vào các thời điểm then chốt, tương tự như Dự án Manhattan. Một nhà nghiên cứu gia nhập không lâu sau đó nhớ lại rằng Hassabis đã cảnh báo anh ta trong giai đoạn cuối của buổi phỏng vấn rằng phải chuẩn bị tinh thần để ‘bay đến một địa điểm bí mật ở Morocco bất cứ lúc nào.’ Khi Google mua lại DeepMind vào năm 2014, Hassabis đặt ra các điều kiện hiếm có: thành lập một ủy ban giám sát độc lập bên ngoài, cấm các ứng dụng quân sự và Google không có toàn quyền kiểm soát việc triển khai công nghệ. Google đã chấp nhận các điều khoản này. Năm tiếp theo, ông triệu tập một cuộc họp bí mật tại trụ sở của Elon Musk ở Hawthorne, California, cố gắng thống nhất các đối thủ tiềm năng, nhưng phản tác dụng: sau đó, Musk hợp tác với Sam Altman để thành lập OpenAI. Sau đó, Hassabis khởi động một chiến dịch bí mật mã danh ‘Project Mario’, nhằm giành lại quyền tự chủ trong quản trị từ Google, thành lập một nhóm pháp lý, nhận cam kết tài trợ trị giá 1 tỷ USD từ người sáng lập LinkedIn là Reid Hoffman, và cân nhắc việc tách DeepMind khỏi Google. Cuộc giằng co này kéo dài ba năm và cuối cùng thất bại, dẫn đến việc đồng sáng lập Mustafa Suleyman bị buộc phải rời khỏi công ty vào năm 2019. Sau khi ChatGPT được phát hành vào cuối năm 2022, Hassabis hoàn toàn từ bỏ cách tiếp cận cao thượng chỉ theo đuổi khoa học mang lại lợi ích. Ông nói với Mallaby, ‘Đây là thời chiến,’ và sau đó lao vào cuộc cạnh tranh với Gemini và ChatGPT. Hàng trăm tỷ đô la đã đổ vào cuộc chạy đua vũ trang AI, với không một cơ chế điều tiết cấp quốc gia nào hay cấu trúc quản trị doanh nghiệp nào có thể ngăn chặn cuộc cạnh tranh. Triết lý an toàn của Hassabis đã thay đổi căn bản: ‘An toàn không nằm trong các cấu trúc quản trị; ngay cả khi có một ủy ban quản trị, thì khả năng cao là không thể đưa ra quyết định đúng đắn vào các thời điểm then chốt.’ Chiến lược mới của ông là đảm bảo mình có một ghế trong bàn ra quyết định, để ông có thể tham gia xác định các giải pháp khi vấn đề an toàn phát sinh. Trong khi đó, Google đang tích cực tiếp thị AI cho hệ thống quốc phòng của Mỹ, đánh dấu một sự đảo ngược rõ rệt so với lệnh cấm quân sự mà Hassabis đã đặt ra trong thương vụ mua lại.