Hội đồng tròn Hội nghị AI Thế giới (WAIC): Những vấn đề “sinh tử” của con người không thể giao cho AI ra quyết định

2026 世界人工智慧大會（WAIC）hôm nay khai mạc tại Thượng Hải, với các diễn giả tham gia tọa đàm tròn tập trung vào quản trị AI agent: ông （）薛瀾, giám đốc điều hành Viện Nghiên cứu Quản trị Trí tuệ Nhân tạo Quốc tế của Đại học Thanh Hoa; Nicholas B. Dirks, Chủ tịch kiêm Giám đốc điều hành Viện Khoa học New York; và Mark Nitzberg, Giám đốc điều hành Trung tâm AI Tương thích Con người (CHAI) thuộc Đại học California, Berkeley. Ba người đạt được sự đồng thuận cao: AI đang chuyển từ “phán đoán hỗ trợ” sang “hành động tự chủ”, nhưng mọi quyết định liên quan đến sinh tử, tình huống không thể đảo ngược và các giá trị đạo đức tuyệt đối không thể để AI đứng ra dẫn dắt. Con người có thể ủy quyền cho AI thực hiện hành động, nhưng không thể ủy quyền cho nó chịu trách nhiệm. Bài viết này tổng hợp từ cuộc đối thoại tọa đàm tròn về quản trị AI agent tại 2026 世界人工智慧大會.
（Tóm lược diễn biến trước: Giám đốc điều hành DeepMind cho rằng nên thành lập một cơ quan giám sát quốc tế để “kiểm tra” các mô hình AI tiên tiến, trước khi niêm yết cần phải được thông qua）
（Bổ sung bối cảnh: Thí nghiệm AI: cho Gemini 2万 đô la Mỹ để mở một quán cà phê thật, và nhận về một bi kịch mà con người không muốn đối mặt）

Mục lục

Toggle

• Có thể ủy quyền hành động, nhưng không thể ủy quyền chịu trách nhiệm
• Ba loại quyết định, tuyệt đối không giao cho AI
• Ba ranh giới kỹ thuật của AI đáng tin cậy

Tóm tắt trọng điểm

• Tọa đàm tròn WAIC chỉ ra AI đang chuyển từ “phán đoán hỗ trợ” sang “hành động tự chủ”, tức bản số hóa mới của bài toán ủy thác-đại diện.
• Sự đồng thuận về ba “vạch đỏ”: quyết định liên quan sinh tử, tình huống không thể đảo ngược, và phán đoán các giá trị đạo đức—tuyệt đối không để AI đứng ra dẫn dắt.
• AI đáng tin cậy cần có ba đặc tính kỹ thuật: nền tảng vững chắc, minh bạch thao tác, và kiểm soát được trong quá trình sử dụng.

Khi AI từ việc giúp bạn tìm thông tin, đưa ra khuyến nghị, trở thành thứ có thể tự gọi công cụ và trực tiếp đặt lệnh để thực thi, thì bài toán đạo đức cổ xưa sẽ phải bắt đầu được đối mặt với AI. Hôm nay, Đại hội Thế giới về Trí tuệ Nhân tạo 2026 (WAIC) khai mạc tại Thượng Hải. Trong một phiên tọa đàm tròn tập trung vào quản trị AI agent, viện trưởng Viện Nghiên cứu Quản trị Trí tuệ Nhân tạo Quốc tế thuộc Đại học Thanh Hoa, ông 薛瀾; Nicholas B. Dirks, viện trưởng kiêm giám đốc điều hành Viện Khoa học New York; và Mark Nitzberg, giám đốc điều hành Trung tâm AI Tương thích Con người (CHAI) thuộc Đại học California, Berkeley cùng xuất hiện trên một sân khấu, đẩy câu chuyện sang một bước ngoặt then chốt: AI đang chuyển từ “phán đoán hỗ trợ” sang “hành động tự chủ”, trở thành “trí tuệ” làm thay người.

Các diễn giả chỉ ra rằng đây thực chất là một phiên bản mới của bài toán “ủy thác-đại diện” trong thời đại số. Bài toán ủy thác-đại diện là câu chuyện bạn nhờ người khác làm việc giúp mình, nhưng bên được nhờ có thể không hoàn toàn làm đúng ý bạn. Khác biệt nằm ở chỗ: người đại diện của con người ít nhất chia sẻ với bạn một bộ quy ước thông thường và cơ chế giải trình, còn AI lại có hai vấn đề khó khăn

• Thứ nhất là “không khớp mục tiêu”: mục tiêu mà nó muốn đạt được có thể không trùng với điều bạn mong muốn
• Thứ hai là nó là một “hộp đen”: không nhìn thấu được cách nó vận hành, và khi xảy ra sự cố cũng không thể chịu trách nhiệm pháp lý.

Có thể ủy quyền hành động, nhưng không thể ủy quyền chịu trách nhiệm

Vì AI không thể gánh trách nhiệm, nên trách nhiệm buộc phải được chuyển sang toàn bộ chuỗi thực thi. Các khách mời cho rằng trách nhiệm cần rơi vào từng mắt xích như nhà phát triển, bên triển khai, bên giám sát… chứ không phải đổ hết cho cái mô hình “đưa ra quyết định” kia. Điều này cũng có nghĩa là việc coi AI như một “vật” có thể mang tiếng xấu ngay từ đầu là sai hướng.

Con người có thể ủy quyền cho AI hành động, nhưng không thể ủy quyền cho AI chịu trách nhiệm. Mỗi lần ủy quyền đều phải có thể thu hồi, và mỗi hành động đều phải có thể truy cứu.

Ba loại quyết định, tuyệt đối không giao cho AI

Ở những việc nào cần dừng lại, ba khách mời đạt được sự đồng thuận cao, xác định rõ ba “vạch đỏ” và nhấn mạnh: tuyệt đối không được để AI chủ đạo.

• Quyết định liên quan hậu quả sinh tử
• Tình huống mà nếu sai thì không thể sửa lại
• Các vấn đề liên quan mọi phán đoán về đạo đức và giá trị.

Đây không phải là vấn đề có dùng AI hay không, mà là ngay từ đầu những việc nào không nên để nó tự làm chủ.

Ba ranh giới kỹ thuật của AI đáng tin cậy

Chỉ có nguyên tắc thôi là chưa đủ, vậy làm sao triển khai? Về cơ chế an toàn, các khách mời đề xuất AI đáng tin cậy phải đáp ứng ba đặc tính kỹ thuật: nền tảng vững chắc, minh bạch thao tác, và kiểm soát được khi sử dụng. Ở cấp độ thể chế thì cần tính đến một “bàn cờ” lớn hơn nữa: xây dựng các chuẩn đánh giá an toàn AI thống nhất toàn cầu, hệ thống kiểm thử được công nhận lẫn nhau và cơ chế chia sẻ dữ liệu tai nạn, xác định rõ các ranh giới “vạch đỏ” trong phát triển AI, đồng thời thiết lập cơ chế giám sát cảnh báo sớm, để đẩy an toàn AI trở thành tài sản công toàn cầu.

Cuối cùng, 薛瀾 và các cộng sự nâng tầm câu chuyện: ranh giới của quản trị AI không phải là điểm kết thúc của kỹ thuật, mà là điểm khởi đầu để con người nhìn nhận lại chính giá trị, trách nhiệm và phương hướng văn minh của mình. Nói cách khác, quá trình kẻ đường ranh giới cho AI, thực chất là đang tự định vị lại con người.

Tất cả điều trên đều đang được bàn ở tầng đạo đức, và có thể vẫn còn khoảng cách với sự phát triển AI trong thực tế.

Các câu hỏi thường gặp

“Bài toán ủy thác-đại diện” trong AI agent là gì?

Bài toán ủy thác-đại diện là việc bạn ủy thác ai đó làm việc, nhưng người được ủy thác có thể không làm đúng ý bạn. Khi AI agent thay người tự hành động, do khả năng không khớp mục tiêu và do nó là một “hộp đen” không thể chịu trách nhiệm pháp lý, khiến bài toán cũ này trong thời đại số trở nên nan giải hơn.

Những quyết định nào không thể để AI chủ đạo?

Các khách mời tại tọa đàm WAIC có chung nhận định: mọi quyết định liên quan sinh tử, tình huống mà nếu sai thì không thể sửa lại, và tất cả các quyết định liên quan phán đoán về đạo đức và giá trị—đều không được giao cho AI chủ đạo. Con người có thể ủy quyền cho AI hành động, nhưng không thể ủy quyền cho nó chịu trách nhiệm.