Світовий саміт з питань штучного інтелекту (WAIC) круглий стіл: проблему людського «життя і смерті» не можна віддавати на рішення AI

2026 Світовий конгрес з питань штучного інтелекту (WAIC) сьогодні відкрився в Шанхаї. Директор Інституту міжнародного управління у сфері штучного інтелекту Університету Цинхуа Сюе Лань, президент і генеральний директор Нью-Йоркської академії наук Nicholas B. Dirks та виконавчий директор Центру людино-сумісного штучного інтелекту (CHAI) Каліфорнійського університету в Берклі Mark Nitzberg разом узяли участь у круглій столі, сфокусованому на управлінні AI-агентами. Троє учасників досягли високого рівня згоди: ШІ переходить від «підказування рішень» до «самостійних дій», але рішення, що стосуються життя й смерті, незворотності та етичних цінностей, категорично не можна віддавати під керівництво AI. Людина може делегувати ШІ дії, але не може делегувати йому відповідальність. Ця стаття підготовлена на основі розмови за круглим столом 2026 Світового конгресу з питань штучного інтелекту щодо управління AI-агентами.
(Що було до цього: керівник DeepMind стверджує, що треба створити міжнародний наглядовий орган «для перевірки» передових моделей ШІ, і до виходу на ринок вони мають пройти відбір)
(Додатковий контекст: AI-експеримент — давати Gemini 20 000 доларів США, щоб відкрити фізичну кав’ярню, і отримати трагедію, з якою люди не хочуть стикатися)

Зміст статті

Toggle

• Можна делегувати дії, але не можна делегувати відповідальність
• Три типи рішень — їх категорично не можна віддавати AI
• Три інженерні межі довіреного AI

Ключові тези

• Круглий стіл WAIC вказує, що AI рухається від «підказування рішень» до «самостійних дій», тобто це цифрова нова версія проблеми «довіритель—повірений».
• Загальна згода щодо трьох «червоних ліній»: рішення про життя й смерть, незворотні сценарії та оцінка етичних цінностей — категорично не можна віддавати AI.
• Довірений AI має мати три ключові інженерні характеристики: міцний фундамент, операційну прозорість, керованість під час використання.

Коли AI з того, щоб допомагати тобі шукати інформацію й давати поради, перетворюється на систему, яка сама викликає інструменти та напряму виконує замовлення, старі етичні проблеми починають поставати перед AI. Сьогодні в Шанхаї відкрився 2026 Світовий конгрес з питань штучного інтелекту. На круглій столичній дискусії, присвяченій управлінню AI-агентами, директор Інституту міжнародного управління у сфері штучного інтелекту Університету Цинхуа Сюе Лань, президент і генеральний директор Нью-Йоркської академії наук Nicholas B. Dirks та виконавчий директор Центру людино-сумісного штучного інтелекту (CHAI) Каліфорнійського університету в Берклі Mark Nitzberg — троє учасників вийшли на ключовий переломний момент: AI переходить від «підказування рішень» до «самостійних дій», стаючи розумним агентом, який виконує справи замість людей.

Спікери вказали, що це насправді нова версія традиційної проблеми «довіритель—повірений» у цифрову епоху. Проблема «довіритель—повірений» означає: ти доручаєш комусь діяти за тебе, але той не обов’язково робитиме рівно так, як ти хочеш. Відмінність у тому, що людський агент принаймні поділяє з тобою певний набір здорового глузду та механізмів підзвітності, тоді як AI має дві серйозні проблеми

• по-перше, «розбіжність цілей»: цілі, яких він намагається досягти, можуть не збігатися з тим, чого хочеш ти
• по-друге, це «чорний ящик»: процес роботи непроникний, і якщо станеться щось погане, він не може нести юридичну відповідальність.

Можна делегувати дії, але не можна делегувати відповідальність

Оскільки AI не здатний нести відповідальність, підзвітність має зміститися на весь ланцюг виконання. Гості стверджують, що відповідальність треба покладати на кожне ланцюгове ланок — розробників, тих, хто впроваджує, регуляторів тощо, а не перекладати «стрілки» на ту саму модель, яка «приймає рішення». Це також означає, що вважати AI об’єктом, який можна використати як цапа-відбувайла, — помилковий напрям з самого початку.

Людина може делегувати AI дії, але не може делегувати AI відповідальність. Кожне делегування має бути таким, яке можна відкликати, і кожна дія має піддаватися відповідальності.

Три типи рішень — їх категорично не можна віддавати AI

У яких випадках треба гальмувати, три запрошені учасники досягли високого рівня згоди: вони чітко окреслили три «червоні лінії» — їх категорично не можна віддавати під керівництво AI.

• Рішення, що мають наслідки для життя й смерті
• Сценарії, де помилка вже неможливо виправити
• Усі питання, які стосуються етики та оцінювання цінностей,

Це не питання «використовувати чи не використовувати AI», а питання того, що з самого початку не можна дозволяти йому керувати цими речами.

Три інженерні межі довіреного AI

Лише принципів замало — як їх реалізувати на практиці? У плані безпеки гості запропонували, що довірений AI має відповідати трьом інженерним характеристикам: міцність основи, операційну прозорість, керованість під час використання. На інституційному рівні ж треба розробити ще ширший план: створити глобальні уніфіковані стандарти оцінювання безпеки AI, систему взаємного визнання тестів і механізм обміну даними про інциденти, чітко визначити «червоні лінії» розвитку AI та запровадити раннє попереджувальне спостереження, щоб просувати безпеку AI як глобальне суспільне благо.

Наприкінці Сюе Лань та інші підняли розмову на вищий рівень: межі управління AI — це не кінцева точка технологій, а початок того, як люди заново усвідомлюють власні цінності, відповідальність і напрям розвитку цивілізації. Іншими словами, процес окреслення меж для AI — це насправді процес заново визначення місця людини.

Усе це обговорюється в площині етики й може бути далеко від реального розвитку AI.

Поширені запитання

Що таке «проблема довіритель—повірений» у AI-агентах?

Проблема довіритель—повірений означає: ти доручаєш іншому виконувати справи, але той може діяти не так, як ти хочеш. Коли AI-агент діє самостійно замість людини, через можливу незбіганку цілей і той факт, що це «чорний ящик», який не може нести юридичну відповідальність, це стара проблема стає ще складнішою в цифрову епоху.

Які рішення не можна віддавати під керівництво AI?

Учасники круглого столу WAIC дійшли спільної згоди: рішення, що стосуються життя й смерті, сценарії, де помилку вже неможливо виправити, а також усі рішення, що включають етичні та ціннісні оцінки, не можна віддавати під керівництво AI. Людина може делегувати AI дії, але не може делегувати йому відповідальність.