WAIC 2026 круглий стіл: рішення щодо життя і смерті ні в якому разі не можна передавати на розсуд ШІ; люди можуть дозволяти дії, але не можуть дозволяти відповідальність

За даними моніторингу Beating, ректор-голова Інституту міжнародного управління у сфері ШІ Пекінського університету Цинхуа (Tsinghua University) Сюе Лань, президент і генеральний директор Академії наук Нью-Йорка Денінкай Дун (Nicholas B. Dirks), а також виконавчий директор Центру Human Compatible AI Лабораторії досліджень штучного інтелекту Університету Каліфорнії в Берклі Марк Ніцберг (Mark Nitzberg) взяли участь у круглому столі на 2026 Всесвітній конференції зі штучного інтелекту, обговорюючи управління AI-агентами. Гості зазначили, що ШІ рухається від «підтримки прийняття рішень» до «самостійних дій», стає розумним агентом, який виконує справи замість людей, і це є новим виявом традиційної проблеми довіреного-посередника в цифрову епоху. На відміну від людських агентів, ШІ стикається з розбіжністю цілей, а також, як «чорний ящик», не може нести юридичну відповідальність, тож підзвітність має зміститися на весь ланцюг виконання — розробників, розгортальників, регуляторів тощо.

Гості дійшли висновку з високим рівнем консенсусу: Рішення, що стосуються життя і смерті, сценарії, в яких помилку неможливо виправити після допущення, а також усі питання, пов’язані з етикою та ціннісними судженнями, ні за яких умов не можна віддавати під керівництво ШІ. Люди можуть дозволити ШІ діяти, але не можуть дозволити ШІ нести відповідальність; кожне надання дозволу має бути можливим для відкликання, і кожна дія має бути підзвітною, щоб швидкість передавання повноважень агентства ніколи не була більшою, ніж швидкість людської верифікації здатності ШІ.

На рівні безпекових механізмів гості запропонували, щоб побудова довіреного ШІ відповідала трьом ключовим інженерним характеристикам: міцна основа, операційна прозорість і керованість під час використання. На рівні інституційного будівництва необхідно створити глобально уніфіковані стандарти безпеки оцінювання ШІ, взаємновизнану систему тестування та механізм обміну даними про інциденти, визначити «червоні лінії» розвитку ШІ та запровадити механізм раннього попередження й моніторингу, просуваючи безпеку ШІ як глобальне публічне благо. Межі управління ШІ — це не кінцева точка технологій, а початок для людей заново усвідомити власні цінності, відповідальність і напрям цивілізації.

Натисніть на посилання на першоджерело нижче, щоб долучитися до каналу новин Beating · Feishu AI та 7×24 безперервно моніторити глобальні гарячі теми й новини про ШІ.