Gần đây tôi đang đọc một cuốn sách 165 trang. Tác giả Leopold Aschenbrenner, ông đã chính xác dự đoán xu hướng phát triển của AI hiện tại cách đây hai năm.

Vào tháng 4 năm 2024, ông bị OpenAI sa thải, tháng 6 viết ra cuốn 《Situational Awareness》 về bản chất, về cơ bản là một tài liệu gây quỹ. Tháng 9, ông thành lập quỹ phòng hộ riêng của mình. Quy mô quỹ này từ hơn 200 triệu đô la trong một năm đã tăng lên 5,5 tỷ, gấp 24 lần. Lợi nhuận ròng nửa đầu năm 2025 là 47%.
Tôi đọc rồi bắt đầu nghĩ, ông dựa vào đâu. Dựa vào đâu một người 22 tuổi, có thể viết ra thế giới ngày hôm nay vào năm 2024?
Có thể nhìn thấy tương lai là vì ông đứng trong căn phòng đang được tạo ra tương lai đó. Trong vòng tròn ở San Francisco, trong nhóm Superalignment của OpenAI, ông làm việc trực tiếp dưới sự chỉ huy của nhà khoa học trưởng Ilya Sutskever. Cuốn sách này là ông dâng tặng Ilya.
Mỗi câu ông viết hai năm trước, nhìn lại hôm nay, gần như đều đã thành hiện thực.
Ông nói, trong ngắn hạn AI thiếu nhất không phải là thuật toán, mà là sức mạnh tính toán, bộ nhớ HBM, trung tâm dữ liệu, và điện.
Ông nói, thực sự nút thắt nằm trong đóng gói tiên tiến CoWoS.
Ông nói, lưới điện của Mỹ sẽ trở thành rào cản đầu tiên kìm hãm tất cả mọi người.
Ông nói, sẽ xuất hiện một "cụm tập trung nghìn tỷ đô la". Sau này, tất cả những quan điểm này đều trở thành tiêu đề.
OpenAI đặt tên cho cụm này là Stargate.
Nhưng tất cả chỉ mới là khai vị. Trong sách, ông viết một câu,
Đến năm 2027, AGI (Trí tuệ nhân tạo tổng quát) sẽ xuất hiện.
Lý luận như thế này. Trong bốn năm qua, AI từ một "đứa trẻ mẫu giáo" GPT-2, trưởng thành thành "học sinh trung học thông minh" GPT-4. Chỉ còn bốn năm nữa, ông nói, AI sẽ có thể thay thế các nhà nghiên cứu con người, tự mình đào tạo AI.
Một khi AI có thể tự nghiên cứu AI, vòng lặp thuật toán của con người trong mười năm sẽ hoàn thành trong một năm. "Nổ trí tuệ" sẽ bắt đầu từ đó.
Lúc đó, con người sẽ không hiểu AI đang làm gì nữa. Nó viết mã, nó đưa ra quyết định. Làm sao chúng ta biết, nó không đang lừa dối chúng ta?
Leopold trong sách, đưa ra ba phương thuốc.
Một, yếu giám sát mạnh. Dùng một AI có năng lực yếu hơn, nhưng con người vẫn có thể hiểu được, để giám sát AI mạnh hơn vượt xa con người. Đặt cược là, AI yếu hơn vẫn có thể phát hiện ra AI mạnh đang làm điều xấu. Leopold chính là đồng tác giả của bài báo này.
Hai, AI tranh luận lẫn nhau. Cho vài AI đối chất, bắt lỗi, tố cáo lẫn nhau. Con người chỉ đóng vai trò trọng tài yên lặng, dùng những bất đồng giữa chúng để bắt quả tang AI nói dối.
Ba, khả năng giải thích cơ học. Trong quá trình huấn luyện, loại bỏ các tham số nguy hiểm trước. Sau đó, mở trực tiếp "não" của AI ra xem nó đang nghĩ gì. Làm "máy đo nói dối AI", tìm hướng "chân lý" trong nội tâm nó. Leopold cũng nói, điều này là thử thách moonshot cấp độ khó.
Đến đây tôi mới hiểu tại sao ông lại dùng bức ảnh chung của Oppenheimer để kết thúc. Ông xem việc này như một kế hoạch Manhattan thế hệ mới đang viết.
Ông cũng thừa nhận, ba con đường này về cơ bản chỉ là "tạm qua". Không có con đường nào thực sự giải quyết vấn đề. Chỉ là cược rằng con người có thể chịu đựng đến ngày AI tự giải quyết bài toán khó về căn chỉnh.
Chúng ta hiện tại không phải là "chúng ta đã giải quyết an toàn AI", mà là "chúng ta hy vọng AI sẽ giúp chúng ta giải quyết an toàn AI".
Nghe có vẻ, giống như đang nói về một mối tình không ổn?
Biết rõ nơi không đúng, nhưng vẫn cược rằng nó sẽ thay đổi.
Quay lại với đầu tư. Phần đáng giá nhất của cuốn sách này thực ra không phải là năm cụ thể "2027 AGI". Sai số lớn, có thể muộn một năm, hoặc sớm hơn nửa năm.
Điều quý giá nhất là nó đã trình bày rõ ràng toàn bộ tầng nút thắt của ngành AI trong mười năm:
Điện > Đóng gói tiên tiến / HBM > Sức mạnh tính toán > Thuật toán > Ứng dụng.
Càng lên cao càng hiếm, càng xuống thấp càng đông đúc.
Leopold tự mình, bằng tiền thật, đã kiểm chứng điều này trên thị trường công khai.
Tôi khép sách lại và nghĩ,
Có những cuốn sách, đọc sớm một năm, có thể là định mệnh.
May mà bây giờ vẫn chưa muộn.
“See you in the desert, friend.”