Фінансові експертні думки | Цзян Сяоцюань про доброчесний штучний інтелект: що таке добро, як його творити, хто має це робити

Автор/ Професор університету Китайської академії соціальних наук, колишній заступник секретаря Ради державної ради Цзянь Сяоцюань

Вступ: Нещодавно у Західно-Китайському університеті політики та права успішно відбувся Щорічний науковий форум з розвитку та управління цифрової економіки Китаю 2026 (Чунцин). Професор університету Китайської академії соціальних наук, колишній заступник секретаря Ради державної ради Цзянь Сяоцюань виступила з основною доповіддю на тему «ШІ на благо: що таке добро, як його здійснити, хто має це робити».

Цзянь Сяоцюань вважає, що дискусії щодо «ШІ на благо» вже багато, і концептуально існує високий рівень згоди, але щодо реалізації та виконавців цих «добрих» заходів обговорень недостатньо. Необхідно поставити це питання у контекст соціальних наук для аналізу та обговорення.

Що таке добро: з точки зору соціальних наук

З давніх часів дискусії про ШІ на благо вже багато, і концептуально існує високий рівень згоди. Наприклад, з 2016 року, коли ЮНЕСКО опублікувало «Попередній проект доповіді з етики робототехніки» (Preliminary Draft Report of COMEST on Robotics Ethics), до Парижського саміту з дій щодо ШІ 2025 року, ідеї управління ШІ мають високий рівень консенсусу.

Такі ідеї, як безпека, прозорість, недискримінація, пояснюваність, прослідковуваність, справедливість, інклюзивність, повага до приватності, спільне благо, орієнтація на людину, контроль з боку людства, постійно обговорюються, але щодо того, як їх реалізувати та хто має виконувати ці «добра», дискусії недостатньо. Основні обговорення ведуться компаніями та технічними групами у рамках «вирівнювання», що є однобічним і змінним, бракує стабільності та універсальності.

Я вважаю, що потрібно поставити це питання у контекст соціальних наук, оскільки широке поняття «добро» є основою багатьох досліджень у цій галузі. Чи є ШІ на благо залежить від того, чи сприяє воно економічному розвитку, соціальному прогресу та благополуччю людей, тобто чи здатне покращити людське щастя.

Соціальні науки не лише пропонують ідеї для досягнення добра, а й у загальній системі знань формулюють критерії оцінки, шляхи реалізації та суб’єктів дії, маючи при цьому академічний досвід і теоретичну базу.

1

Розумність — це добро: ефективне розподілення ресурсів, збільшення соціальних благ і справедливий розподіл

«Розумність» — це ключове поняття економіки, яка визначає її як підвищення ефективності розподілу ресурсів, збільшення соціальних благ і справедливий розподіл.

За цим ціллю економіка має чіткі критерії та показники: підвищення продуктивності всіх факторів, покращення співвідношення вкладень і результатів, зростання доходів, стимулювання інвестицій у інновації — все це показники ефективності розподілу ресурсів; підвищення рівня освіти і охорони здоров’я, розвиток систем соціального забезпечення — показники зростання соціальних благ. За цими критеріями, ШІ явно сприяє підвищенню продуктивності та зростанню соціальних благ, тобто його «добро» очевидне.

Як реалізувати «розумне добро», мають свої шляхи та суб’єктів дії економічні науки. Наприклад, забезпечення ролі ринку у визначенні напрямків розвитку ШІ — це шлях реалізації, що вимагає активної участі підприємств. Звичайно, ринок включає не лише підприємства, а й належне «ринкове середовище», таке як рівна конкуренція і справедливий доступ, тому необхідне належне регулювання ринку.

Щоб оцінити справедливий розподіл, використовують коефіцієнт Джині, показники доходів тощо. За цими показниками, вплив ШІ наразі переважно негативний, тобто існує «недобро». З одного боку, багатство концентрується у руках небагатьох, хто досяг успіху в інноваціях; з іншого — заміщувальна роль ШІ переважно впливає на середній і нижній доходи, і наразі немає ознак, що подальший розвиток ШІ покращить цю ситуацію.

З досвіду попередніх технологічних проривів, для вирішення цієї проблеми потрібно, щоб самі компанії ШІ докладали зусиль, а також щоб уряд краще виконував свою роль, підтримуючи баланс між застосуванням ШІ для заміщення праці та створенням нових робочих місць, а також покращуючи довгострокову систему соціального захисту.

2

Корисність — це добро: вигода споживачів, що виходить за межі ВВП

Деякі вигоди від технологічних проривів важко виміряти стандартними показниками ВВП, але вони приносять значну додаткову цінність для споживачів, так званий споживчий надлишок або корисність. Простими словами, це зручність, щастя, задоволення людей, і ШІ тут має особливий вплив.

ШІ приносить зручність. Вона дуже помітна, але багато з цього не враховується у ВВП. Наприклад, автоматизовані сервіси на основі інтернету, моделей ШІ та агентів забезпечують користувачам значну зручність, але не створюють економічної активності, що враховується у ВВП. Навпаки, вони замінюють послуги, які раніше враховувалися у ВВП, наприклад, автоматичне бронювання квитків замість традиційних сервісів, безкоштовна інформація замість підписки на газети, електронна пошта замість поштових листів, багато безкоштовних сервісів.

Культурна сфера — найяскравіший приклад. Платформи для розваг і генеративні моделі дозволяють кожному насолоджуватися більшою кількістю музики, книг, відео та культурних продуктів, що значно зростає. Водночас, обсяг культурних продуктів, оцінений за ВВП, не зростає відповідно.

Наприклад, за даними Американської асоціації звукозаписної індустрії, доходи музичної індустрії США з 1999 року знизилися з 14,6 млрд доларів до 7,5 млрд у 2016 році, а користь від цифрової музики для споживачів важко врахувати у ВВП. Хоча платформи, що пропонують безкоштовний контент, генерують ВВП через рекламу, дослідження показують, що ця цифра значно менша за ту, що можна отримати від заміщених сервісів і додаткових вигод. Очевидно, ШІ приносить корисність.

ШІ сприяє рівності. ШІ відкриває доступ до культурних та креативних сфер для широких мас, раніше доступних лише високим доходам і високій кваліфікації. Наприклад, у культурній сфері, люди з низькою грамотністю можуть отримати або створювати зображення й відео за допомогою ШІ; люди з низьким доходом можуть користуватися безкоштовними платформами для доступу до дорогих культурних подій, наприклад, виступів у висококласних театрах.

У сфері креативу, ті, хто не мають професійних навичок, можуть перетворювати свої ідеї у культурні продукти та ділитися ними. Інфлюенсери у соцмережах продають свої товари й послуги, спілкуються з фанатами, діляться життєвими історіями, модою, мріями — і задовольняють духовні та психологічні потреби.

Ці вигоди у формі безкоштовних, розважальних, взаємодопомогових сервісів важко виміряти у ВВП або доходах, але їх можна оцінити за допомогою методів оцінки умовної вартості або бажаної вартості. Наприклад, запитати споживачів, скільки вони були б готові заплатити за ці вигоди, або скільки їм потрібно було б заплатити, щоб відмовитися від безкоштовних сервісів. Це дозволяє обчислити загальну користь для суспільства.

Дослідження показують, що для низькооплачуваних груп вигода у співвідношенні з їхнім доходом значно вища, що свідчить про здатність ШІ сприяти рівності та підвищенню добробуту менш забезпечених.

Проте, є і недобро. Деякі розваги, що приносять короткочасне психологічне задоволення, можуть спричинити довгострокові шкоди для фізичного й психічного здоров’я, наприклад, залежність від онлайн-ігор або інформаційних капканів, що обмежують пізнання. Це питання має високу суспільну згоду, і постраждалі важко звільнитися від цього.

Технічні та користувацькі сторони мають нести відповідальність за стриманість і самодисципліну. Без відповідних заходів ці «недобра» практики слід обмежувати за допомогою технологій, подібно до того, як виробники несуть відповідальність за якість продукції, не продаючи шкідливі або небезпечні товари.

Також потрібна співпраця уряду й суспільства для реагування. Загальні «злі» явища, такі як порушення людських цінностей, вторгнення у приватність, пропаганда тероризму, — мають бути жорстко припинені державою.

3

Згода — це добро: суспільна згода щодо довгострокових наслідків технологій

У соціальних науках досліджують «згоду», зокрема, у соціології вона означає високий рівень суспільної згоди. Визначу «згоду» як «максимальне спільне розуміння та суспільну єдність, що випливає з цієї згоди», і використовую цю концепцію для аналізу етичних питань у епоху ШІ.

Проблеми етики технологій існували й раніше, але в епоху ШІ вони особливо актуальні через суттєві зміни. Раніше наука полягала у «відкритті природних законів», що є внутрішніми закономірностями природного порядку — результатом мільярдолітніх силових боротьб і еволюції. Тепер ШІ прагне створити нові порядки, яких раніше не існувало, і змінити природний стан речей або людське суспільство.

Наприклад, у найінтенсивнішій галузі — біології та медичних дослідженнях, застосовуваних у «ШІ для науки», багато досліджень намагаються змінити фізіологію, репродукцію, когнітивні структури, навіть впливати на свідомість, що змінює суб’єктність і контроль над поведінкою. Такі нові створення, можливо, матимуть довгострокові наслідки, про які навіть їхні творці не здогадуються. Це відрізняється від попередніх наукових відкриттів.

У такій ситуації важливо, чи підтримує суспільство певний напрям розвитку науки, тобто його згоду. Це і є «згода» у контексті цієї статті. Я колись сказав одному шанованому вченому, що його дослідження мене дуже цікавить і викликає захоплення, але з точки зору економіки воно «не відповідає згоді».

Коли наука намагається змінити еволюційно сформовані людські характеристики і природні закони, це вже питання, що стосується всього людства, і громадськість має бути поінформована і залучена до обговорення, висловлюючи свою згоду або незгоду. Такі дискусії з високим рівнем суспільної відкритості не можуть бути лише формальними, їх потрібно вести через колективні консультації.

Науковці мають відповідати перед громадськістю за всі можливі наслідки своїх досліджень, не лише за вигідні. Потрібно забезпечити широке обговорення, щоб сформувати максимально спільне розуміння. Тільки через відкритий діалог і тривалі дебати можна наблизитися до «згоди», уникнути поспішних і необоротних «інновацій» з боку недалекоглядних фахівців. Відповідно, для таких питань, як ШІ на благо, згода є обов’язковою умовою.

Механізми: співпраця всіх сторін для просування ШІ на благо

Розглянемо механізми досягнення «на благо». Крім природних наслідків «корисності», «розумне добро», особливо «згода», не виникає самостійно. Звідки ж беруться стимули до добра? Як їх правильно стимулювати?

Практика показує, що на різних рівнях існують механізми стимулювання «на благо» і чинники, що сприяють «недобру». У епоху ШІ сили «на благо» і «недобра» відрізняються від минулого, і «на благо» потребує саморегуляції та суспільної відповідальності.

Перш за все, інновації та виробники ШІ мають сильні й ефективні стимули до «на благо». Важливою причиною є те, що ШІ потребує масштабного застосування, і якщо його «добро» не буде підтримане суспільною згодою, воно не зможе довго і широко застосовуватися. Висока увага до безпеки та етики ШІ створює постійний тиск і ціннісні орієнтири для компаній і підприємців.

Репутація змушує виробників «на благо» швидко реагувати і коригувати свою діяльність. У 2023 році OpenAI через використання чутливих даних користувачів викликало багато критики, і компанія пообіцяла більше не використовувати такі дані. Аналогічні кейси є й у інших провідних компаній. Це свідчить, що стимулювання «на благо» у цій епосі є більш поширеним і сильним.

По-друге, розподілене управління — це особливість управління ШІ на благо. На відміну від традиційних галузей, де ресурси розподілялися у форматі «один на один», у сучасному застосуванні ШІ ресурси розподіляються у групах і за сценаріями.

Цифровий уряд, розумні міста, транспорт, охорона здоров’я, низькоавіаційна індустрія — все це вимагає участі багатьох учасників, що формують «розподілене» управління ресурсами. Вони створюють спільноти за сценаріями, де кожен визначає свої правила, наприклад, правила торгівлі, повернення товарів, покарання за порушення. Це і є «громадське управління» у розподіленій формі.

Третє, роль держави є незамінною. Деякі серйозні «недобра» явища, наприклад, порушення приватності, поширення фейків, тероризм, — мають бути заборонені законом. Не можна залишати це на волю ринку і суспільства.

Щоб управління було ефективним, уряд має забезпечити прозорість і обов’язкову відкритість. Компанії мають швидко інформувати споживачів про умови користування, публікувати договори та правила. Також важливо, щоб розробники пояснювали суспільству, що саме вони роблять і які наслідки.

Значущим є й сигнал уряду. Законодавство має бути стабільним, не потрібно поспішати з новими законами, поки ситуація не стабілізується. Але уряд може багато зробити — публікувати рекомендації, кейси, критикувати недобросовісні практики, проводити консультації з компаніями — і це сприяє розвитку ШІ на благо.

Підсумовуючи, соціальні науки мають важливу роль у просуванні ШІ на благо. Вони мають глибоку академічну базу, що дозволяє краще оцінювати добро і зло ШІ. У сферах розподілу ресурсів, соціального добробуту, справедливого розподілу багатства, громадської думки та підтримки гармонії суспільства — соціальні науки зробили значний внесок. У епоху ШІ ми маємо докладати ще більше зусиль і відповідальності, щоб у дискусіях, практиці та теорії формувати цю «згоду» і сприяти розвитку ШІ на благо.

Джерело: зібрано за доповіддю професора Цзянь Сяоцюань під час заходу

Редактор: Лань Іньфань

Перевірка: Цінь Тінь