Круглый стол WAIC 2026: решения о жизни и смерти ни в коем случае нельзя отдавать ИИ; люди могут поручить действие, но не могут поручить ответственность

По данным наблюдения Beating, руководитель Института международного управления ИИ при Цинхуа Лань Сюэ, президент и генеральный директор New York Academy of Sciences Nicholas B. Dirks, а также исполнительный директор центра Human-Compatible Artificial Intelligence Лаборатории исследований ИИ Калифорнийского университета в Беркли Mark Nitzberg провели круглый стол на Всемирной конференции по ИИ 2026 года, обсудив вопросы управления AI-агентами. Гости отметили, что ИИ переходит от «помощи в принятии решений» к «самостоятельным действиям», становясь агентом, который заменяет человека в выполнении задач — это новое проявление традиционной проблемы «доверитель—посредник» в цифровую эпоху. В отличие от человеческих агенторов, ИИ сталкивается с проблемой несоответствия целей и, будучи «черным ящиком», не может нести юридическую ответственность; поэтому ответственность должна смещаться на всю цепочку исполнения — включая разработчиков, развертывающих стороны, регуляторов и т. д.

Гости пришли к высокой степени согласия: решения, затрагивающие жизнь и смерть, сценарии, где при ошибке последствия невозможно исправить, а также любые вопросы, связанные с этикой и оценкой ценностей, ни в коем случае нельзя отдавать в управление AI. Человек может уполномочить AI действовать, но не может уполномочить AI нести ответственность; каждое уполномочивание должно быть отзывным, каждое действие — подлежащим привлечению к ответственности, а скорость уступки агентских полномочий никогда не должна превышать скорость человеческой верификации способности AI.

На уровне механизмов безопасности гости предложили, что построение надежного AI должно опираться на три ключевые инженерные характеристики: прочная фундаментальная база, операционная прозрачность и управляемость в процессе использования. На уровне институционального строительства необходимо создать глобально унифицированные стандарты оценки безопасности AI, систему взаимного признания тестов и механизм обмена данными об инцидентах; обозначить «красные линии» развития AI и выстроить механизмы раннего предупреждения и мониторинга, чтобы сделать безопасность AI глобальным общественным благом. Граница AI-управления — это не технический финал, а отправная точка для того, чтобы люди заново осознали собственные ценности, ответственность и направление развития цивилизации.

Нажмите на ссылку на оригинальный текст ниже, присоединяйтесь к каналу Beating · 飞书 AI News, чтобы 7×24 часа без перерывов отслеживать глобальные AI-хиты и новости.