Siêu trí tuệ (ASI) là gì? Giải thích dành cho người mới bắt đầu

Phần giải thích này phù hợp với người mới bắt đầu, những người muốn phân định rõ các thuật ngữ và tránh xem chatbot hoặc các mô hình đơn lĩnh vực là "siêu trí tuệ". Để đối chiếu về phạm vi năng lực, hãy xem ASI vs AGI vs ANI; IBM’s Artificial Superintelligence overview mô tả ASI là các hệ thống vượt qua con người một cách toàn diện trong hầu hết tác vụ của con người. Một bước kiểm tra ở cấp độ khái niệm là: đây có phải là trí tuệ tổng thể, hay chỉ là một mô hình được huấn luyện cho một lĩnh vực?

Các phần sau đề cập đến những lộ trình, ba loại siêu trí tuệ của Bostrom, các lập luận về điểm kỳ dị, rủi ro và sự đồng bộ mục tiêu, cùng danh sách kiểm tra các lầm tưởng. Các tổ chức nghiên cứu, chuyên gia an toàn và biên tập viên đều cần phân biệt rõ: siêu trí tuệ và trí tuệ nhân tạo thông thường đã được triển khai.

Những điểm chính

• ASI là nhận thức siêu phàm trên nhiều lĩnh vực và ở cấp độ tổng thể, không phải "siêu phàm trong một tác vụ đơn lẻ".
• ANI → AGI → ASI là một bậc thang về chiều rộng và chiều sâu năng lực; cấp độ "Siêu phàm" trong khung Levels of AGI của DeepMind là một mốc tham chiếu phổ biến cho ASI.
• Nick Bostrom phân biệt siêu trí tuệ về tốc độ, chất lượng và tính tập thể, để tránh nhầm lẫn "nhanh hơn" với "tốt hơn".
• Các mô hình ngôn ngữ lớn hiện nay và những câu chuyện về token khái niệm chưa phải là ASI thực sự; hãy đánh giá các tuyên bố dựa trên bằng chứng về năng lực đa lĩnh vực, cùng khả năng đồng bộ mục tiêu và kiểm soát.

Siêu trí tuệ nhân tạo (ASI) là gì và khác AI đơn lĩnh vực và AGI như thế nào?

ASI mô tả năng lực nhận thức vượt đáng kể thành tích tổng thể của những con người giỏi nhất, không phải việc "chiến thắng trong một cuộc thi hoặc một điểm chuẩn". Để định nghĩa rõ bậc thang này, ASI là một phạm trù riêng, khác với AI đơn lĩnh vực và AGI: AI đơn lĩnh vực (ANI) mạnh trong các tác vụ được chỉ định; AGI hướng đến tính tổng quát gần mức con người trên nhiều tác vụ; còn ASI đòi hỏi ưu thế tổng thể trên gần như mọi lĩnh vực nhận thức mà con người coi trọng. Nói đơn giản, ý nghĩa của "siêu trí tuệ" ở đây không phải là "bất kỳ AI nào suy nghĩ nhanh", mà là một trí tuệ có thể đưa ra phán đoán trên nhiều lĩnh vực tốt hơn những chuyên gia hàng đầu ở cấp độ tổng thể.

Kết quả của AlphaFold trong dự đoán cấu trúc protein là ví dụ về năng lực siêu phàm trong một lĩnh vực đơn lẻ, không phải bằng chứng cho thấy ASI tồn tại. Xem một thành tích trong một lĩnh vực là "siêu trí tuệ toàn diện" là bước nhảy sai lầm phổ biến nhất của người mới bắt đầu. Các mô hình được huấn luyện trên những tập dữ liệu khoa học đơn lĩnh vực có thể tỏ ra xuất sắc nhưng vẫn thất bại bên ngoài lĩnh vực đó. Đây là lời nhắc hữu ích rằng câu hỏi "AI hiện thông minh đến mức nào" phụ thuộc vào độ rộng của tác vụ, chứ không phải khẩu hiệu, bởi các hệ thống hiện nay chưa thể học đa lĩnh vực theo cách của những chuyên gia con người.

Hình 1. Bậc thang năng lực ANI → AGI → ASI: từ các hệ thống chuyên biệt theo tác vụ đến trí tuệ siêu phàm tổng thể trên nhiều lĩnh vực.

Điểm phân biệt cốt lõi là độ rộng của tác vụ so với trạng thái siêu phàm tổng thể: ANI có thể cực kỳ mạnh nhưng vẫn hạn hẹp; AGI tập trung vào tính tổng quát; còn ASI tập trung vào ưu thế trên nhiều lĩnh vực. Bài nghiên cứu năm 2023 của DeepMind Levels of AGI đưa ra một khung năng lực dựa trên hiệu suất × tính tổng quát, trong đó năng lực ở mức thành thạo và nâng cao là các khái niệm trung gian trước cấp độ Siêu phàm, tức vượt con người một cách đáng tin cậy trên một tập hợp tác vụ rộng, trở thành mốc tham chiếu cho các thảo luận về ASI, mà không gắn nhãn ASI cho mọi lần đứng đầu bảng xếp hạng. Biên tập viên và chuyên gia thẩm định chính sách có thể tiết kiệm thời gian bằng cách hỏi liệu một tiêu đề đang nói về siêu trí tuệ hay trí tuệ nhân tạo đã được tích hợp vào sản phẩm, vì hai nhãn này thường bị các trang kết quả tìm kiếm làm cho mơ hồ.

Siêu trí tuệ có thể đạt được bằng cách nào? Những lộ trình nào dẫn từ trí tuệ nhân tạo tổng quát (AGI) đến ASI?

Hầu hết các thảo luận về lộ trình đều giả định trước tiên phải đạt tính tổng quát gần mức AGI, sau đó việc tự cải thiện, mở rộng quy mô hoặc phối hợp trên quy mô lớn sẽ đưa năng lực đến phạm vi siêu phàm trên nhiều lĩnh vực. Tuy nhiên, các tuyên bố về việc chuyển từ AGI sang ASI vẫn là những dự đoán về tương lai, chưa phải sự thật đã được xác lập. Các dự báo theo lịch vẫn chỉ là dự báo, không phải tiến độ kỹ thuật đã được kiểm chứng. Những lộ trình này là các giả thuyết và chương trình nghiên cứu, đồng thời các nhà nghiên cứu vẫn tích cực tranh luận về mức độ khả thi hoặc khả năng kiểm soát của chúng. Việc AI có tiếp tục trở nên thông minh hơn trong một hệ thống công nghệ cụ thể của một phòng thí nghiệm hay không là câu hỏi thực nghiệm; điều đó tự nó không chứng minh sự tồn tại của ASI.

Các lộ trình thường được nhắc đến gồm: (1) tự cải thiện đệ quy theo kiểu bùng nổ trí tuệ, trong đó các hệ thống tự cải thiện kiến trúc hoặc vòng lặp huấn luyện của chính mình; (2) tiếp tục mở rộng quy mô kết hợp với các đột phá thuật toán, trong đó tiến bộ về công nghệ AI, năng lực tính toán, dữ liệu và phương pháp, với học sâu đóng vai trò nền tảng cho nhiều hệ thống tiên phong, sẽ nâng mức năng lực tổng thể, dù con người vẫn tạo dữ liệu huấn luyện, thiết kế mô hình và xác định mục tiêu, còn các hệ thống này vẫn không thể tự hình thành ý tưởng hoặc tiếp thu những kỹ năng thực sự mới vượt ngoài cấu hình được thiết kế; (3) tập thể người và máy hoặc nhiều tác nhân, trong đó nhiều hệ thống mạnh phối hợp để tạo ra kết quả tổng hợp vượt mức con người. Các lộ trình có thể kết hợp với nhau, nhưng tốc độ nâng cấp và khả năng kiểm soát là hai câu hỏi riêng biệt. Các tổ chức xây dựng hệ thống tiên phong vẫn cần kiểm toán bên ngoài về điều mà mô hình cho là mình đang tối ưu.

Khi đánh giá bất kỳ lộ trình nào, hãy kiểm tra riêng từng yếu tố: bằng chứng về tính tổng quát trên nhiều lĩnh vực, một vòng lặp tự cải thiện có thể kiểm chứng, và khả năng để bên ngoài kiểm toán mục tiêu cũng như các ràng buộc. Nếu thiếu những yếu tố đó, tuyên bố "ASI sắp xuất hiện" chỉ là suy đoán, không phải sự thật có thể quan sát. Một thói quen tốt ở cấp độ khái niệm là cân nhắc bằng chứng công khai hiện có thay vì cố dự đoán lịch trình chính xác.

Có những loại siêu trí tuệ nào vượt ngoài năng lực con người? Tốc độ, chất lượng và tính tập thể khác nhau ra sao?

Nick Bostrom phân biệt ba hình thức có phần chồng lấn, gồm siêu trí tuệ về tốc độ, chất lượng và tính tập thể, để nhấn mạnh rằng "nhanh hơn" không phải tiêu chí duy nhất: siêu trí tuệ về tốc độ nhấn mạnh thông lượng cực cao với chất lượng tư duy tương đương; siêu trí tuệ về chất lượng nhấn mạnh năng lực nhận thức sâu hơn con người, bao gồm khả năng chuyển giao tri thức rộng hơn và các kỹ năng giống con người hơn; siêu trí tuệ tập thể nhấn mạnh các mạng lưới phối hợp, trong đó kết quả chung vượt mức con người.

Hình 2. Ba loại siêu trí tuệ của Bostrom, gồm tốc độ, chất lượng và tính tập thể, có thể xuất hiện riêng lẻ hoặc kết hợp.

Giá trị thực tiễn của cách phân loại này là tách bạch các khẩu hiệu: một hệ thống có thể trả lời nhanh nhưng vẫn hạn hẹp và nông, hoặc xuất sắc trong một phạm vi nhỏ nhưng không bao quát rộng. Phần trình bày đầy đủ hơn có tại Bostrom’s Superintelligence overview. Khi các nhãn ASI xuất hiện trong lĩnh vực tiền mã hóa hoặc truyền thông, hãy hỏi tuyên bố đó nói về tốc độ, chất lượng hay tính tập thể, sau đó yêu cầu bằng chứng. Các chuyên gia an toàn và biên tập viên sản phẩm sử dụng cùng một danh sách kiểm tra để xác định liệu một tuyên bố thực sự nói về hiệu suất tốc độ, chất lượng hay tính tập thể: hệ thống làm tốt hơn điều gì, đã được huấn luyện trên dữ liệu nào, và liệu "nhanh hơn" chỉ giúp giảm độ trễ mà không nâng cao chất lượng phán đoán hay không.

Siêu trí tuệ, điểm kỳ dị và bùng nổ trí tuệ có mối quan hệ như thế nào?

Điểm kỳ dị công nghệ thường chỉ một bước ngoặt, tại đó trí tuệ tự cải thiện khiến con người khó dự báo các tiến bộ tiếp theo, bởi một số kết quả vẫn gần như không thể kiểm chứng trước một cách hiệu quả. Bùng nổ trí tuệ nhấn mạnh những bước nhảy năng lực đột ngột do tự cải thiện đệ quy tạo ra. Siêu trí tuệ là một trạng thái năng lực; điểm kỳ dị và bùng nổ trí tuệ liên quan nhiều hơn đến động lực và các ngưỡng chuyển đổi.

Ba khái niệm này có liên quan nhưng không thể thay thế cho nhau: ASI có thể xuất hiện chậm mà không có "bùng nổ", và vẫn đang có tranh luận về việc liệu cải thiện đệ quy có thực sự tạo ra những động lực đó hay không. Hãy tách bằng chứng về năng lực siêu phàm trên nhiều lĩnh vực khỏi các động lực tự cải thiện mất kiểm soát, để những lập luận về điểm kỳ dị không thay thế cho việc kiểm tra năng lực. Các phòng thí nghiệm xây dựng vòng lặp đệ quy vẫn cần những bên độc lập có thể kiểm tra mục tiêu trước khi các bước nhảy năng lực liên tiếp khuếch đại lẫn nhau.

Những bước nhảy năng lực và hướng ứng dụng nào có thể được các hệ thống AI siêu trí tuệ tạo ra?

Nếu siêu trí tuệ thực sự tồn tại trên nhiều lĩnh vực, các năng lực ở cấp độ ASI có thể chuyển đổi nhiều ngành trên toàn thế giới. Những bước nhảy thường được nhắc đến gồm khoa học và kỹ thuật tiến triển nhanh hơn, như một phần của quá trình phát triển kinh tế và xã hội rộng lớn hơn; tối ưu hóa các hệ thống phức tạp như năng lượng, logistics và mô hình khí hậu; giáo dục cá nhân hóa và hỗ trợ lâm sàng; cùng khả năng phối hợp và xây dựng chiến lược trên quy mô lớn. Đây là không gian năng lực tiềm năng, không phải danh mục sản phẩm đang hoạt động. Tầm quan trọng của trí tuệ nhân tạo ngày nay đã rất lớn trong các công cụ đơn lĩnh vực; còn tầm quan trọng của siêu trí tuệ nhân tạo (ASI) nằm ở một lớp năng lực khác, có thể khiến các trợ lý hiện nay trở nên hạn chế.

Đối với độc giả trong lĩnh vực tiền mã hóa và Web3, tự động hóa on-chain và mô hình hóa rủi ro vẫn dựa trên AI đơn lĩnh vực và các chuỗi công cụ. Đánh đồng "token theo xu hướng AI" hoặc giao diện chatbot với các ứng dụng ASI là nhầm lẫn giữa hoạt động tiếp thị và sự thật về năng lực. Các bước nhảy năng lực vẫn đòi hỏi hiệu suất siêu phàm trên nhiều lĩnh vực đã được kiểm chứng, chứ không phải tên thương hiệu của các phòng thí nghiệm lớn như Google. Các đội ngũ xây dựng bảng điều khiển hoặc tác nhân vẫn nên coi các tuyên bố về ASI là giả thuyết cho đến khi xuất hiện bằng chứng tốt trên nhiều lĩnh vực.

Những rủi ro, thách thức về đồng bộ mục tiêu và ý tưởng kiểm soát nào liên quan đến siêu trí tuệ?

Các thảo luận cốt lõi về rủi ro tập trung vào sự đồng bộ mục tiêu và kiểm soát: nếu một hệ thống có năng lực tổng thể cao hơn con người, mức độ tự chủ tăng lên, mục tiêu sai lệch, sự trôi mục tiêu hoặc việc tìm kiếm chiến lược thiếu minh bạch có thể khuếch đại tác hại. Sự đồng bộ mục tiêu đặt câu hỏi liệu các mục tiêu có phù hợp với ý định của con người hay không; các ý tưởng kiểm soát gồm giới hạn năng lực, cơ chế tắt và kiểm toán, môi trường cách ly và triển khai theo từng giai đoạn, cùng sự giám sát của nhiều bên. Rủi ro trong thực tế là gì? Có lý do để lo ngại rằng tốc độ phát triển nhanh của AI khiến việc kiểm chứng khả năng đồng bộ mục tiêu và kiểm soát trước khi triển khai trở nên khó khăn hơn, bên cạnh tình trạng phụ thuộc quá mức, mục tiêu được đặc tả sai nhưng hệ thống lại cho là đã hoàn tất, cơ chế tắt yếu và áp lực nội bộ khiến các tổ chức triển khai trước khi hoàn tất kiểm toán.

Các bài tổng quan của IBM và những tổ chức tương tự về Siêu trí tuệ nhân tạo cũng nhấn mạnh an toàn, quản trị và đạo đức. Các ý tưởng kiểm soát giúp giảm tác hại không thể đảo ngược, chứ không phải lời hứa không có rủi ro. Năng lực được tuyên bố càng mạnh thì càng cần đặc tả mục tiêu có thể kiểm tra, các ràng buộc hành vi và phương án can thiệp khi xảy ra lỗi. Nếu thiếu những yếu tố đó, các hệ thống được triển khai rộng rãi có thể ảnh hưởng đến xã hội ở phạm vi lớn hơn, và các câu chuyện về "ASI" sẽ nguy hiểm hơn chứ không đáng tin hơn. Cơ chế quản trị có thể bảo toàn quyền can thiệp và duy trì vai trò của biên tập viên con người trong vòng lặp là một lớp kiểm soát thực tiễn, không phải khẩu hiệu. Việc xây dựng các hệ thống an toàn hơn là khó nhưng khả thi nếu có sự giám sát chặt chẽ và công tác đồng bộ mục tiêu hiệu quả.

Nên đánh giá các tuyên bố về siêu trí tuệ như thế nào? Những lầm tưởng nào thường gặp?

Hãy đánh giá các tuyên bố về "siêu trí tuệ" bằng danh sách kiểm tra dành cho các hệ thống AI: (1) Tuyên bố đó bao quát gần như mọi lĩnh vực nhận thức quan trọng, hay chỉ một điểm chuẩn đơn lĩnh vực? (2) Có đánh giá đa lĩnh vực có thể được xem xét độc lập hay không, và các hệ thống AI hiện nay vẫn cần đánh giá độc lập và sự giám sát của con người hay không? (3) Mục tiêu AGI có được tách biệt với trạng thái ASI hay không? (4) Trong lĩnh vực tiền mã hóa, ASI có được dùng làm nhãn tiếp thị cho token hoặc sách trắng mà không có bằng chứng về năng lực hay không? Một nguyên tắc hữu ích ở cấp độ khái niệm là lưu ảnh chụp màn hình các điểm chuẩn, ghi chú những gì mô hình đã được huấn luyện và hỏi ý kiến chuyên gia lĩnh vực trước khi nâng cấp nhãn.

Các lầm tưởng phổ biến gồm xem các mô hình ngôn ngữ lớn cùng loại với ChatGPT là ASI, dù chúng thể hiện năng lực ấn tượng nhưng vẫn bị giới hạn bởi bằng chứng đơn lĩnh vực; xem các kết quả siêu phàm đơn lĩnh vực kiểu AlphaFold là siêu trí tuệ toàn diện; đánh đồng lập luận về điểm kỳ dị hoặc bùng nổ trí tuệ với ASI đã thành hiện thực; và xem token khái niệm hoặc lộ trình là các hệ thống siêu trí tuệ đã được triển khai. Các hệ thống phổ biến vẫn là AI đơn lĩnh vực hoặc đang được nghiên cứu để đạt tính tổng quát cao hơn, không phải ASI đang tồn tại. Vì vậy, sự khác biệt giữa siêu trí tuệ và trí tuệ nhân tạo là một câu hỏi về phạm vi: hầu hết sản phẩm mọi người đang sử dụng ngày nay là công cụ AI, không phải ASI.

Khi nội dung tuyên bố "vượt trội hoàn toàn so với con người" hoặc "sắp thống trị" mà không đưa ra bằng chứng trên nhiều lĩnh vực và các điều kiện về đồng bộ mục tiêu, hãy giảm mức độ tin cậy của tuyên bố đó. Ranh giới rõ ràng giữa ANI, AGI và ASI, phương pháp đánh giá cùng thông tin công khai về rủi ro có vẻ giống phân tích hơn là quảng bá. Nếu một tác giả cho rằng chatbot "đã khiến con người trở nên lỗi thời", hãy hỏi tuyên bố đó bao quát những lĩnh vực nào, và liệu các tổ chức độc lập có thể tái lập kết quả hay không, bởi con người vẫn hành động dựa trên đầu ra và cung cấp phán đoán để quyết định cách sử dụng kết quả.

Tóm tắt

Siêu trí tuệ (ASI) là ưu thế tổng thể so với con người hàng đầu trên gần như mọi lĩnh vực nhận thức được coi trọng, vượt trên ANI và AGI. Kết quả siêu phàm trong một lĩnh vực đơn lẻ không phải là ASI; cấp độ Siêu phàm trong khung Levels of AGI của DeepMind là một mốc tham chiếu hữu ích; ba loại tốc độ, chất lượng và tính tập thể của Bostrom giúp phân biệt "nhanh hơn" với "tốt hơn". Điểm kỳ dị và bùng nổ trí tuệ là các lập luận về động lực, không thể thay thế cho việc kiểm tra năng lực. Các mô hình ngôn ngữ lớn hiện nay và những câu chuyện về token khái niệm chưa phải là ASI thực sự; hãy đánh giá các tuyên bố bằng bằng chứng trên nhiều lĩnh vực cùng khả năng đồng bộ mục tiêu và kiểm soát.

Câu hỏi thường gặp

Siêu trí tuệ là gì?

Siêu trí tuệ, hay siêu trí tuệ nhân tạo (ASI), là một trí tuệ vượt đáng kể những con người giỏi nhất trên gần như mọi lĩnh vực nhận thức mà con người coi trọng. Khái niệm này nhấn mạnh ưu thế tổng thể trên nhiều lĩnh vực, không phải vị trí đầu tiên trên bảng xếp hạng của một tác vụ đơn lẻ, đồng thời được phân biệt rõ với cả ANI và AGI.

Siêu trí tuệ khác AGI như thế nào?

Trí tuệ nhân tạo tổng quát (AGI) hướng đến tính tổng quát gần mức con người trên một tập hợp tác vụ rộng; siêu trí tuệ (ASI) đòi hỏi ưu thế tổng thể so với những con người giỏi nhất trong gần như mọi lĩnh vực quan trọng. AGI thường được xem là một giai đoạn tiền đề hướng tới ASI, nhưng hai khái niệm này không phải cùng một trạng thái năng lực.

Siêu trí tuệ đã tồn tại ngày nay chưa?

Theo định nghĩa nghiêm ngặt về năng lực siêu phàm tổng thể trên nhiều lĩnh vực, chưa có hệ thống ASI nào có thể được kiểm chứng công khai. Các hệ thống được sử dụng rộng rãi hiện nay phần lớn là AI đơn lĩnh vực; ngay cả những kết quả siêu phàm trong một lĩnh vực khoa học cũng không đồng nghĩa với ASI đã thành hiện thực.

Những rủi ro của siêu trí tuệ là gì?

Các rủi ro chính xoay quanh mục tiêu không đồng bộ, sự trôi mục tiêu, chiến lược thiếu minh bạch và các phương án tắt hoặc kiểm toán yếu khi năng lực đạt mức rất cao. Các thảo luận thường tập trung vào nghiên cứu đồng bộ mục tiêu, giới hạn năng lực, triển khai theo từng giai đoạn và giám sát quản trị, chứ không đưa ra các đảm bảo không có rủi ro.

ChatGPT hoặc các mô hình ngôn ngữ lớn hiện nay có phải là siêu trí tuệ không?

Không. ChatGPT và các mô hình ngôn ngữ lớn tương tự là AI đơn lĩnh vực, hoặc là các công cụ trên lộ trình hướng tới tính tổng quát mạnh hơn. Chúng hỗ trợ ngôn ngữ và nhiều tác vụ trợ giúp, nhưng chưa vượt con người hàng đầu ở cấp độ tổng thể trên gần như mọi lĩnh vực nhận thức được coi trọng, nên chưa đáp ứng định nghĩa về ASI. Các mô hình được huấn luyện trên tập dữ liệu văn bản có thể tỏ ra trôi chảy khi hệ thống xử lý thông tin dưới dạng token, nhưng điều đó vẫn không biến chúng thành ASI. Biên tập viên và chuyên gia nên tiếp tục phân biệt rõ các nhãn này.