Bàn tròn WAIC 2026: Những quyết định liên quan đến sống còn tuyệt đối không thể giao cho AI; con người có thể ủy quyền hành động nhưng không thể ủy quyền trách nhiệm

据 Beating 监测消息，清华大学人工智能国际治理研究院院长薛澜、纽约科学院院长兼首席执行官杜宁凯 (Nicholas B. Dirks)、加州大学伯克利分校人工智能研究实验室人类兼容人工智能中心执行主任 Mark Nitzberg đã tham gia tọa đàm tại Hội nghị Thế giới về Trí tuệ Nhân tạo năm 2026, thảo luận xoay quanh quản trị AI cho các tác nhân thông minh. Các khách mời cho rằng AI đang chuyển từ “hỗ trợ phán đoán” sang “hành động tự chủ”, trở thành những “tác nhân” thay con người làm việc, đây là một biểu hiện mới của vấn đề ủy thác–đại lý truyền thống trong kỷ nguyên số. Khác với tác nhân là con người, AI đối mặt với việc không “khớp mục tiêu”, và do là “hộp đen” nên không thể chịu trách nhiệm pháp lý; vì vậy, trách nhiệm phải chuyển sang toàn bộ chuỗi thực thi, như nhà phát triển, nhà triển khai, cơ quan quản lý, v.v.

Các khách mời đạt được sự đồng thuận cao: Các quyết định liên quan đến hậu quả sống còn, các tình huống một khi xảy ra sai sót thì không thể khắc phục, và mọi vấn đề liên quan đến đạo đức lẫn phán đoán giá trị tuyệt đối không được giao cho AI dẫn dắt. Con người có thể ủy quyền cho AI hành động nhưng không thể ủy quyền để AI chịu trách nhiệm; mỗi lần ủy quyền đều phải có thể thu hồi, mọi hành động đều phải có thể truy trách nhiệm, và tốc độ nhường quyền đại lý không bao giờ được nhanh hơn tốc độ con người xác minh năng lực của AI.

Ở cấp độ cơ chế an toàn, các khách mời đề xuất rằng để xây dựng AI đáng tin cậy cần đáp ứng ba đặc tính kỹ thuật: nền tảng vững chắc, vận hành minh bạch, và có thể kiểm soát trong quá trình sử dụng. Ở cấp độ xây dựng thể chế, cần thiết lập bộ tiêu chuẩn đánh giá an toàn AI thống nhất toàn cầu, hệ thống thử nghiệm được công nhận lẫn nhau và cơ chế chia sẻ dữ liệu sự cố; đồng thời xác định “vạch đỏ” trong phát triển AI và xây dựng cơ chế giám sát cảnh báo sớm, thúc đẩy an toàn AI trở thành sản phẩm công cộng toàn cầu. Ranh giới của quản trị AI không phải là điểm kết thúc về mặt kỹ thuật, mà là điểm khởi đầu để con người nhận thức lại giá trị, trách nhiệm và phương hướng văn minh của chính mình.

Nhấp vào liên kết nguyên văn bên dưới để tham gia kênh tin tức AI của Beating · Feishu, giám sát liên tục 7×24 giờ các điểm nóng và tin tức AI trên toàn cầu.