Vừa xem lại phần trình bày của Demis Hassabis tại Y Combinator về vị trí hiện tại của chúng ta đối với AGI, và thành thật mà nói, một số quan điểm đáng để suy nghĩ trong một phút.

Vì vậy, vấn đề là: theo nhà sáng lập DeepMind, chúng ta gần như đã có hầu hết các phần kiến trúc cần thiết cho AGI. Huấn luyện trước quy mô lớn, RLHF, suy luận chuỗi ý tưởng—đây có thể sẽ là phần của kiến trúc cuối cùng. Nhưng vẫn còn một hoặc hai phần quan trọng chưa có đủ. Học liên tục, suy luận dài hạn, và một số khía cạnh của bộ nhớ vẫn chưa được giải quyết. Thời gian dự kiến của ông ấy? Khoảng năm 2030. Nếu điều đó gần đúng, nó sẽ thay đổi cách bạn nghĩ về bất kỳ dự án dài hạn nào bạn đang xây dựng ngày nay.

Điều khiến tôi chú ý là vấn đề "trí tuệ jagged" mà ông mô tả. Các mô hình hiện tại có thể giải quyết các bài toán toán học cấp huy chương vàng IMO nhưng lại mắc lỗi cộng trừ đơn giản trong một câu hỏi khác. Giống như quá trình suy luận có những điểm mù lớn. Ông đưa ra ví dụ về cờ vua—đôi khi Gemini nhận ra sắp phạm sai lầm nhưng vẫn làm vì không thể tìm ra lựa chọn tốt hơn. Một hệ thống thực sự thông minh không nên hoạt động như vậy. Nhóm DeepMind nghĩ rằng việc sửa chữa điều này có thể chỉ cần một hoặc hai cải tiến cụ thể, nhưng rõ ràng đây là một khoảng trống.

Về các tác nhân: Hassabis khá thẳng thắn—chúng ta mới bắt đầu. Mọi người đang thử nghiệm, nhưng chưa thực sự tìm ra các trường hợp sử dụng đột phá. Ông đề cập rằng chưa ai tạo ra một trò chơi AAA hàng đầu bằng công cụ lập trình AI mặc dù về lý thuyết là khả thi với khả năng hiện tại. Có điều gì đó còn thiếu trong cả công cụ lẫn quy trình. Ông kỳ vọng sẽ thấy các đột phá thực sự trong ứng dụng tác nhân trong vòng 6-12 tháng tới.

Phần thảo luận về bộ nhớ cũng rất hấp dẫn. Các cửa sổ ngữ cảnh một triệu token nghe có vẻ lớn cho đến khi bạn nhận ra đó chỉ khoảng 20 phút phát video. Và cách tiếp cận hiện tại chủ yếu là nhồi nhét mọi thứ vào các cửa sổ đó—dữ liệu quan trọng và không quan trọng trộn lẫn. Bộ não làm điều này một cách tinh tế qua các chu kỳ ngủ và củng cố bộ nhớ. DeepMind đã nghĩ về điều này từ thời DQN vào năm 2013, dựa trên neuroscience, nhưng chúng ta vẫn đang dùng các phương pháp thô sơ.

Về phía phân tách kiến thức: giả thuyết của họ là trong vòng 6-12 tháng sau khi ra mắt một mô hình tiên tiến, họ có thể nén khả năng của nó vào các mô hình nhỏ hơn nhiều chạy trên các thiết bị biên. Chưa đạt đến giới hạn lý thuyết nào cả. Các mô hình Gemma là ví dụ điển hình—Gemma 4 hoạt động rất tốt so với kích thước của nó. Điều này quan trọng vì nó có nghĩa là AI nhanh, hiệu quả, riêng tư—chạy cục bộ trên điện thoại hoặc robot của bạn thay vì trên đám mây.

Điều thực sự nổi bật là quan điểm của ông về các đột phá khoa học. AlphaFold là một bước lớn—ba triệu nhà nghiên cứu trên toàn thế giới hiện đang sử dụng nó, và ông nghe nói rằng nó sẽ là phần của hầu hết các quá trình khám phá thuốc trong tương lai. Nhưng đó chỉ mới bắt đầu. Ông gọi đó là "bài kiểm tra của Einstein": bạn có thể huấn luyện một hệ thống dựa trên kiến thức từ năm 1901 và để nó tự phát hiện ra những gì Einstein đã tìm ra vào năm 1905 không? Khi điều đó thành công, chúng ta gần như có các hệ thống có thể sáng tạo ra những điều mới chứ không chỉ giải quyết các vấn đề hiện có.

Đối với các nhà sáng lập, lời khuyên của ông rất rõ ràng: theo đuổi những vấn đề chỉ bạn mới có thể giải quyết nếu không. Đừng tối ưu cho những thứ dễ dàng. Cũng—và điều này rất quan trọng—nếu bạn bắt đầu một dự án công nghệ sâu ngày hôm nay với ý định là một hành trình mười năm, bạn phải tính đến khả năng AGI sẽ xuất hiện giữa chừng. Nghĩ xem dự án của bạn có thể hoạt động với AGI không, nó tích hợp như thế nào, liệu nó còn hữu ích trong thế giới đó không. Tầm nhìn của ông là các hệ thống chuyên biệt như AlphaFold hoạt động như các công cụ mà các mô hình đa năng như Gemini có thể gọi đến, chứ không phải mọi thứ đều nhồi nhét vào một mô hình khổng lồ.

Góc nhìn đa phương thức của DeepMind cũng rất thú vị. Xây dựng Gemini đa phương thức từ đầu ban đầu khó hơn, nhưng giờ đang mang lại lợi ích—mô hình thế giới tốt hơn, ứng dụng robot, tích hợp lái xe tự động. Điều này đang trở thành lợi thế cạnh tranh.

Tổng thể, cuộc trò chuyện vẽ ra bức tranh về tiến bộ AI nhanh chóng nhưng vẫn còn những trở ngại kỹ thuật cụ thể cần vượt qua. Chúng ta không chỉ mở rộng quy mô để đạt tới AGI—còn có những vấn đề thực sự cần giải quyết. Và đối với bất kỳ ai xây dựng trong lĩnh vực này, thời gian là điều quan trọng. Hãy suy nghĩ về những gì còn giá trị khi bối cảnh thay đổi.