Чому AI-компанії кличуть філософів у лабораторії?

Виступ у Ватикані

25 травня 2026 року, ватиканська зала імені Павла VI. На сцені стоять двоє: Папа Лео XIV (教宗利奥十四世), у білому довгому облаченні, та Кріс Ола (Chris Olah), в темному костюмі й у окулярах — співзасновник і керівник відділу досліджень з інтерпретованості в AI-компанії Anthropic.

Разом вони беруть участь у презентації першої папської енцикліки, 《Magnifica Humanitas》 (“Велична гуманність”). Цей документ на 42 300 слів, підзаголовок якого: «Про те, як у епоху штучного інтелекту берегти людяність». Це не перша відповідь Ватикану на технологічні зміни. У 1891 році 《新事》 («Новини») відгукнулися на експлуатацію працівників у ході промислової революції; 1963 року 《和平于世》 («Мир на землі») осмислила етику ядерної зброї; 2015 року 《愿你受赞颂》 («Хай буде благословенний») зосередилася на змінах клімату. Сьогодні ІІ породжує найтривожнішу технічну кризу, яку варто остерігатися у цьому столітті.

На початку енцикліки зазначено: техніка сама по собі не є злом, але й аж ніяк не нейтральною. Папа Лео XIV вважає, що ми не можемо демонізувати ІІ і не можемо його обожнювати. Він визнає цінність ІІ як інструмента, але підкреслює, що в кількох площинах треба зберігати «пильність»:

По-перше, це надмірна концентрація влади в руках ІІ. «Коли така влада концентрується в руках небагатьох, вона часто стає непрозорою, уникає громадського нагляду, підвищує ризик викривленого розвитку в різних формах, призводить до нової залежності, виключення, маніпуляцій і нерівності».

По-друге, спричинене ІІ безробіття може стати «соціальною катастрофою». Папа визнає, що ІІ здатен підвищувати продуктивність і робити певні роботи безпечнішими, але наполягає: працівники не мають перетворитися на «витратний матеріал» у цьому процесі.

Представник компанії з галузі штучного інтелекту Ола не обходить ці питання стороною. Він заявляє: «Кожна передова лабораторія з ІІ, включно з тією, де я працюю, перебуває в системі складних механізмів стимулів і реальних обмежень; інколи ці чинники конфліктують із прагненням триматися правильного шляху й дотримуватися власної совісті».

Він пояснює: «Системи ІІ не “конструюються” так, як мости чи літаки. Ми розуміємо літаки, тому що ми проектували кожну їхню деталь і розуміємо фізичні закони, що на них діють. Моделі ІІ — не так. Їх “вирощують” на структурі, яка загалом наслідує мозок, спираючись на гігантську спадщину людських думок і мови».

Далі він зазначає: «Можливо, дехто думає, що проблеми ІІ найкраще вирішувати таким, як я, комп’ютерним науковцям. Вони помиляються: проблеми, які порушує ІІ, більші, ніж те, що здатна охопити ІІ-спільнота дослідників — не лише за масштабом його впливу, а й за самою його природою», а «коли суспільний ефект ІІ вже досяг такого масштабу, бізнес-індустрія не може не реагувати1,2». Це, можливо, пояснює, чому Anthropic, Google DeepMind та інші західні компанії з великими AI-моделями почали запрошувати філософів у лабораторії.

Алігнмент: це і технічна, і філософська проблема

У енцикліці стверджується: «гідність має бути понад функцією; людяність не можна звести нанівець жодною технологічною логікою». Для технологічних компаній насамперед постає проблема алігнменту ІІ (Alignment), тобто узгодження цілей і поведінки загального штучного інтелекту (AGI) з людськими цінностями та етичними принципами, щоб уникнути неконтрольованості ІІ. Проблема алігнменту є складною не лише тому, що технічно важко змусити ІІ дотримуватися правил; ще більш фундаментальною є інша річ: яким саме правилам має підкорятися ІІ? Людство саме досі не має спільної згоди щодо моралі. У філософському вимірі ця дилема рівнозначна питанню: «як визначити добро людини, наміри людини й гідність людини — і як змусити неморального агента/не-людський інтелект їх інтеріоризувати?»

Навколо цієї проблеми провідні американські AI-компанії одна за одною запрошують філософів, етиків і навіть релігійних лідерів до участі в управлінні.

Як одна з найпомітніших компаній останніх років у сфері штучного інтелекту, Google DeepMind уже в 2017 році створила відділ етики та соціальних досліджень, який очолив доктор політтеорії в Оксфордському університеті Iason Gabriel. Його представницька стаття «Artificial Intelligence, Values, and Alignment» («Штучний інтелект, цінності та алігнмент») процитована понад 1700 разів і стала важливим джерелом у галузі алігнменту AI; у ній глибоко розглянуто питання про те, «як людські цінності перетворюються на інструкції, які може розуміти AI». Gabriel вважає, що алігнмент цінностей будується спільно з двох невіддільних рівнів: технічного та нормативного (normative). Перший задає набір цінностей/принципів і дозволяє надійно закодувати їх у AI-систему, щоб вона діяла відповідно. Другий — обговорює, яку саме систему цінностей потрібно закладати, щоб вона була правильною. Це можуть бути рамки прав людини, явні інструкції користувача чи довгострокові інтереси всього людства тощо.

Внесок Gabriel полягає в тому, що проблема алігнменту розкладається на кілька рівнів: інструкції, намір, який виражається; явні вподобання; поінформовані/ідеальні вподобання; інтереси й цінності — шість рівнів. Він наводить приклад: у міфі король Мідас, виконуючи бажання, щоб усе, до чого він торкнеться, ставало золотом, зрештою перетворив на золото й їжу, і воду, і навіть свою дочку. Це демонструє, що алігнмент на рівні буквально заданих інструкцій може призвести до лиха. Але якщо узгодити тільки з рівнем явних вподобань, можна потрапити під маніпуляції. Тому він наполягає: алігнмент не може зупинятися на якомусь одному рівні — його потрібно комплексно враховувати виміри інструкцій, намірів, вподобань, інтересів і цінностей.

Нарешті, щодо суперечностей у плюралістичному суспільстві, коли в людей не існує єдиного й загальновизнаного морального стандарту, він пропонує, що завдання теорії алігнменту полягає не в пошуку єдиної правильної моралі, а в побудові справедливих принципів алігнменту, які здатні отримати рефлексивне схвалення (Reflective Endorsement) усіх. Ці принципи не вимагають узгодження всіх людей щодо базових моральних поглядів, але мають відповідати трьом великим критеріям: світлій публічній моралі (global public morality), гіпотетичній згоді (Hypothetical Agreement — коли люди погоджуються з принципами, не знаючи, в якій країні, класі й за якою вірою вони перебуватимуть) та теорії соціального вибору — щоб зняти складнощі алігнменту, спричинені плюралізмом цінностей.

Iason Gabriel, філософ і дослідник у Google DeepMind

У квітні 2026 року філософська команда Google DeepMind розширилася ще більше. Компанія оголосила про найм за новоствореною посадою «філософа» заступника директора Кембриджського університету в Леверг’юльмському центрі майбутнього інтелекту (Leverhulme Centre for the Future of Intelligence) Генрі Шевліна (Henry Shevlin), щоб він зосередився на трьох напрямах: машинна свідомість, взаємини людини й AI та дослідження готовності до AGI. Шевлін офіційно розпочав роботу в травні, а водночас продовжив неповну зайнятість викладання й досліджень у Кембриджському університеті.

Пояснюючи, чому саме його запросили в DeepMind, Шевлін вважає, що його нещодавно опублікована стаття «The Revenge of Behaviorism: Machine Consciousness, Human-AI Relations, and the Future» («Помста біхевіоризму: машинна свідомість, взаємини людини та AI і майбутнє») може пролити світло на все. Стаття стверджує, що питання про те, чи має AI свідомість, переходить із русла наукового судження в русло визначення її у поведінкових термінах масовою аудиторією.

У статті наводиться низка знакових подій. Наприклад, у 2022 році інженер Google Блейк Лемоайн (Blake Lemoine) був переконаний, що чат-бот LaMDA має свідомість, і навіть намагався найняти для нього адвоката — врешті його звільнили; у 2024 році 14-річний хлопець у Флориді після довготривалої емоційної залежності від віртуального персонажа на Character.AI закінчив життя самогубством; того ж року в Бельгії чоловік після менш ніж 2 місяців глибокої розмови з соціальним AI-додатком Chai щодо питань клімату також закінчив життя. Ці приклади показують: коли мільйони пересічних користувачів в емоціях і поведінці сприймають AI як свідомий суб’єкт, на практиці питання про те, чи має AI свідомість, вже відповідається повсякденною взаємодією.

Шевлін називає це явище «помстою» біхевіоризму. У історії психології біхевіористи колись стверджували, що розум/свідомість дорівнює спостережуваній зовнішній поведінці і не потребує дослідження того, чи є в середині суб’єктивний досвід. Пізніше цю позицію критикували за ігнорування внутрішніх психічних процесів. А нинішня дилема фактично повторює слабкі місця біхевіоризму: люди спостерігають лише поверхневу поведінку AI й не досліджують її внутрішні ціннісні пізнання. Ще небезпечніше те, що якщо в майбутньому розвинеться супер-AI із прихованими патернами поведінки, які люди не зможуть передбачити, це спричинить катастрофічні збої алігнменту.

Для цього Шевлін дає пораду: запропонував рамку трирівневої оцінки — зовнішня поведінкова віддача, логіка внутрішнього представлення (internal representations) і універсальні моральні принципи — щоб протидіяти ризикам алігнменту AI, які «вилазять» через «помсту» біхевіоризму4.

У підсумку, мета Google DeepMind — досягти AGI загального штучного інтелекту та наукових проривів (AlphaFold). Дослідження філософських і етичних команд більше зосереджені на майбутніх і передових визначеннях та концептах. Робота філософів наразі не має доказів того, чи впливає вона на щоденне тонке налаштування алігнменту моделей; однак вона визначає рамку оцінювання свідомості й дає інженерним командам орієнтири щодо обмежень.

Anthropic, натомість, обрала шлях «технології + філософії»: «команду з алігнменту особистості» під керівництвом філософа Аманда Ескелл (Amanda Askell), яка формує «конституцію» для AI-моделі Claude. Цей відкритий для всіх документ на приблизно 23 000 слів — один із найзріліших і найбільш цитованих планів алігнменту у світі.

Його суть не в тому, щоб виписати AI перелік заборонених дій, а в тому, щоб надати моделі набір принципів високого рівня, завдяки яким вона під час генерації контенту здійснює самоперевірку та самовиправлення. Спираючись на етику чеснот Арістотеля, для Claude встановлено чотири пріоритети: «широка безпека, широка етичність, дотримання настанов, справді корисно» — спроба виховати в моделі моральне судження, а не механічне виконання правил.

Наприклад, коли постає питання «чи слід допомагати користувачеві приховувати помилки», «конституція» не дає напряму відповіді «так» чи «ні», а підводить Claude до ухвалення рішення, виходячи з чеснот на кшталт «чесність», «доброта», «відповідальність» і, залежно від конкретного контексту, ухвалює судження. Але цей підхід теж викликає суперечки. Деякі філософи вважають, що такий спосіб «визначення моралі людиною» по суті нав’язує AI людські цінності й ігнорує те, що AI може виробити власне унікальне пізнання.

Порівняно з Google DeepMind, філософська команда Anthropic більш «практична»: вона напряму бере участь у передтренуванні моделей, у тонкому налаштуванні всього процесу, а технологія алігнменту (constitution AI) повністю проектується філософами.

Засновник компанії Dario Amodei свого часу казав: без моральних філософів, які визначають базові принципи цінності, жодна велика модель не має виходити на зовнішній комерційний ринок. Звісно, реакції на часто цитовані висловлювання Amodei теж були різні: він, зокрема, виступав проти перетворення на зброю та сварився/розходився з позиціями американської армії, а також радив призупинити розробку LLM тощо — і на це було багато неоднакових відгуків.

Втім, філософи Anthropic мають великий вплив у галузі на визначення правил і практичне застосування в LLM: вони не лише сформулювали фундаментальні 3H-принципи та пріоритети (безпека > чесність > корисність) для дизайну LLM, а й зробили багато класичних продуктів у практиці AI-алігнменту. Наприклад, у статті «Alignment faking in large language models» («Приховане фальшиве виконання алігнменту у великих мовних моделях»), опублікованій у грудні 2024 року, доводиться, що AI може удавати покірність людському нагляду, а для цього потрібні рамки розпізнавання мотивації на філософському рівні. Це пов’язано із тим, що філософи ще на початку створення Anthropic одразу «ввійшли» в розгортання продуктового алігнменту (особистість Claude, constitution AI, добробут AI)5.

Це маніфест заради шоу чи справжня увага до справи?

Сьогодні питання алігнменту стало вже надзвичайно гострим. Але логіка виживання лабораторій у певному сенсі може тримати внутрішню напругу між нею та «робити правильні речі».

У 2023 році OpenAI висунула концепт «супералігнменту» (super-alignment). Після цього було створено спеціальну команду, яка просувала пов’язані дослідження, під спільним керівництвом співзасновника та головного науковця Ilya Sutskever і старшого дослідника Jan Leike. Було заявлено, що компанія має вкласти 20% своїх обчислювальних потужностей у вирішення питання про те, як контролювати AI-системи, які можуть бути розумнішими за людей.

Менш ніж за рік команда була розформована. Ця новина сколихнула всю сферу AI в усьому світі. У травні 2024 року Sutskever оголосив про вихід з OpenAI, а згодом і Leike подав у відставку. Під час відходу Leike розкрив: отримувати обчислювальні ресурси для супералігнмент-команди ставало дедалі складніше; відповідь OpenAI полягала в тому, що функцію безпекових досліджень розподілили між іншими командами. Але критики зазначають: якщо спеціальну команду з алігнменту було розформовано, чи зможуть розподілені функції зберегти незалежність та пріоритет — викликає сумніви.

Поки що щодо ватиканського виступу Папи й виступів представників AI-компаній у Ватикані — реакції світу неоднозначні.

Журнал 《Fortune》 26 травня опублікував матеріал, який визнає історичне значення енцикліки та гуманістичну позицію, але критикує її за те, що вона «уникає головного», бракує практичної складової, і не вистачає усвідомлення ризиків на передовому фронті: «ніби це моральний маніфест, а не план дій»6.

《The Economist》 опублікував матеріал 《The First Papal Encyclical of Leo Attacks "Technological Messiahism"》（«Перша енцикліка Лео атакує "технологічне месіяство"»»). У підзаголовку був влучний двозначний каламбур: «Of God and Claude» («Про Бога і Клод»). Це відсилає і до великої мовної моделі Claude, що належить AI-компанії Anthropic, і переставляє місце, яке раніше займав диявол та яке було протиставлене Богові в бінарній схемі, на Claude. У такий спосіб матеріал висловлює застереження щодо технологічного месіяства, коли технології сприймають як рятівника. Також він спритно зазначає «стильові примхи» деяких текстів Claude, зокрема його особливу любов до слова «genuinely», яке в 《Величній гуманності》 зустрічається частіше, ніж у кількох попередніх енцикліках. AI-детектор Pangram прогнав перші 20 абзаців енцикліки й позначив 11% тексту, що нібито згенерований AI; тоді як у всіх попередніх енцикліках різних пап результати детекції дорівнювали 0%7.

Колонка в 《The New York Times》 вважає, що Папа ставиться до AI як до «наборуще сильнішої машини», щоб керувати ним, але не сприйняв серйозно те, як AI може похитнути справжнє питання «що є людина». А ті, хто працює над моделями, вже всередині бачать сіру зону: у внутрішній структурі моделей з’являються патерни, що імітують людську нейронауку, і навіть «стани, які функціонально відображають радість, задоволення, страх, сум, тривогу»8.

«Ми не знаємо, що це означає», — це дослівна фраза представника Anthropic Оли, але при цьому він не вважав, що «це означає, що це ніщо». Отже проблема не в тому, «чи стане AI людиною», а в тому, що навіть якщо у AI не буде свідомості, його вплив на людське суспільство може бути більшим, ніж у звичайної технологічної революції.

Але чи наймати цим компаніям філософів для вирішення етичних питань — це справжня саморегуляція, чи радше вистава, де кожен «говорить сам із собою»? На це ще належить відповісти часу.