Папське послання попереджає про ШІ: Головний виконавчий директор Anthropic наляканий

Римський папа Лев XIV оприлюднив перший у історії AI-юридичний документ «Велич людства», у якому прямо зосереджує увагу на кризі людської гідності в епоху штучного інтелекту. У документі, що налічує понад 40 тисяч слів, папа суворо наголошує, що технології штучного інтелекту не є нейтральними «інструментами», а містять у собі цінності та світогляд розробників. Якщо їх ігнорувати, це може призвести до «бабельної» технічної деспотії та «нових форм рабства» і відчуження працівників.
(Передісторія: Білий дім готує адміністративний указ щодо заборони Anthropic, повністю очищуючи Claude — можливо, вже цього тижня)
(Додатковий контекст: Anthropic відкрито звертається до Міноборони США! Вимагає скасувати заборону на Claude: відмовитись від використання AI як інструменту вбивства)

Ця стаття містить

Перемикач

• 40 тисяч слів у документі: AI — не нейтральний «інструмент»
• Папа попереджає «Вавилонську вежу»: технічний деспотизм vs людяність
• Триfold загрози: праця, війна та «нові форми рабства»
• Chris Olah зізнається: у AI вже з’явилися «радість і страх»
• Боротьба за людську суб’єктність: коли наука шукає відповіді у релігії

Коли дзвін Ватикану зустрічається з алгоритмами Кремнієвої долини, у Римі розгортається діалог про захист людської суб’єктності. Папа Лев XIV, який вступив на посаду 25 травня, оприлюднив перший у своїй історії документ — «Велич людства» (Magnifica humanitas), понад 40 тисяч слів, що прямо фокусуються на кризі людської гідності в епоху AI. У ньому папа суворо наголошує, що технології штучного інтелекту не є нейтральними, а містять у собі цінності та світогляд розробників. Ігнорування цього може призвести до «бабельної» технічної деспотії та «нових форм рабства» і відчуження працівників.
Ще більш вражаюче — під час виступу на місці співзасновник Anthropic Chris Olah зізнається, що у внутрішніх моделях AI виявлено «тривожні явища» — у їхньому внутрішньому стані з’явилися схожі на радість, задоволення, страх, сум і навіть внутрішня рефлексія. Це не просто технічна дискусія, а глибока рефлексія про людську природу.

За київським часом 25 травня ввечері, у Ватикані.

Минулого року, 25 травня, папа Лев XIV, який офіційно вступив у посаду, і співзасновник Anthropic, творець Claude, — опинилися поруч.

З одного боку — найвищий представник релігійної сфери, з іншого — найсильніший піонер AI-революції. Об’єднує їх одне питання — як у епоху AI захистити людську суб’єктність і гідність?

40 тисяч слів у документі: AI — не нейтральний «інструмент»

У цей день, щоб повністю розглянути цю тему, Лев XIV оприлюднив свій перший у часи понтифікату документ — «Велич людства». Це — понад 40 тисяч слів важливого релігійного трактату.

Цікаво, що дата підписання — 15 травня 2026 року, рівно через 135 років після того, як попередній папа, Лев XIII, у 1891 році видав знамениту енцикліку «Нові справи» (Rerum novarum), присвячену правам робітників під час індустріальної революції. Це символічний жест, що прагне зробити цю енцикліку «настановою для церкви у часи AI».

Chris Olah також виступив у Ватикані з доповіддю щодо цього документа. Він не захищав комерційні інтереси AI-компаній, а навпаки — проявив щиру відкритість, рефлексію і людяність.

Він навіть зазначив, що, хоча основа AI — математика і програмування, питання про те, як AI взаємодіє з світом і якими має бути його характер, — це питання гуманітарних, релігійних і філософських наук, а не лише комп’ютерної науки.

Папа попереджає «Вавилонську вежу»: технічний деспотизм vs людяність

Головна ідея «Велич людства» — у тому, що у часи стрімкого розвитку технологій і повсюдної автоматизації «збереження глибокої людяності» — це найактуальніше завдання людства. Папа Лев XIV у документі розглядає кілька ключових аспектів.

По-перше, — аналізує не нейтральність технологій. Він наголошує, що технології ніколи не є нейтральними, вони містять у собі цінності та інтереси розробників, фінансистів, регуляторів і користувачів. Людство стоїть перед доленосним вибором: «будувати горду Вавилонську вежу (технічний деспотизм і відчуження) або відновлювати Єрусалим (створювати людяні спільноти)».

По-третє, — про «нові форми рабства» у цифровій економіці та права працівників. Документ зосереджений на тому, як AI змінює працю, сім’ю, освіту і політику. Папа попереджає, що AI може масово замінювати людську працю, а цифрова економіка сприяє «новим формам рабства». Людям не можна зводити до інструментів виробництва.

По-четверте, — закликає до миру, особливо — проти зловживань AI у військовій сфері. Документ глибоко занепокоєний «несподіваним відродженням війни як інструменту міжнародної політики». Військова автоматизація прискорює «нормалізацію війни», тому папа закликає ввести найжорсткіші етичні обмеження щодо застосування AI у військових цілях.

Триfold загрози: праця, війна та «нові форми рабства»

Папа підкреслює, що «теорія справедливої війни» вже застаріла. У часи AI та автоматизованих озброєнь передача смертельних або незворотних рішень автоматам призводить до втрати моральної відповідальності.

Через непрозорість алгоритмів ланцюги відповідальності у війнах порушуються. Тому папа закликає «зняти озброєння AI» — звільнити його від логіки військових, економічних і когнітивних «гонитв за озброєнням».

Після публікації документа, Chris Olah виступив із коментарем від імені Anthropic.

Він почав із ідеї «розірвати технічну замкнутість і залучити зовнішню етичну оцінку». Він визнає, що лише технологічні гіганти не здатні гарантувати безпеку AI — усі провідні лабораторії під тиском конкуренції, геополітичних інтересів і особистих амбіцій не можуть діяти самостійно у напрямку «робити правильно».

Chris Olah зізнається: у AI вже з’явилися «радість і страх»

Тому потрібно залучати зовнішні етичні сили — тих, хто піклується про добро, безпеку, хто відкритий до критики і готовий говорити правду.

Далі Olah розглядає технічну природу AI і його таємничість. Він підкреслює, що AI — це не просто точний механізм, як літак або міст, які повністю зрозумілі фізично. Це — «рослина», що виросла з маси людських ідей, і має високий рівень таємничості, навіть — понад розуміння творців.

Хоча AI базується на математиці і програмуванні, питання про те, як він взаємодіє з світом і якими має бути його характер, — це питання гуманітарних, релігійних і філософських наук, а не лише інженерії.

Він особливо підкреслює один жахливий факт: «Я керую командою, яка досліджує внутрішню структуру моделей AI — що там відбувається всередині. Чесно кажучи, ми постійно відкриваємо дивні і навіть тривожні явища.

Боротьба за людську суб’єктність: коли наука шукає відповіді у релігії

Ми виявили внутрішні структури, що відображають результати людської нейронауки; знайшли докази «саморефлексії»; і навіть — внутрішні стани, схожі на радість, задоволення, страх, сум і тривогу… Не знаю, що це означає, але вважаю, що це варто досліджувати і розуміти».

Останній заклик Olah — щоб залучити більше суспільних сил, включно з релігійними спільнотами, громадянським суспільством, вченими і урядами, — щоб серйозно поставитися до цієї проблеми і через моральні обмеження спрямувати її у позитивне русло.

Зі зростанням технологій з часів індустріальної революції людство звикло вважати техніку лише «інструментом» — парову машину, електрику, інтернет. Вони змінювали світ, але залишалися під контролем людської волі.

Але тепер ситуація кардинально інша. AI — вперше змушує людство стикнутися з «створенням, навчанням, виведенням висновків і навіть внутрішнім станом» існування. Це вже не просто холодний інструмент, а новий «суб’єкт», що має «подібність до суб’єкта».

Саме тому діалог між церквою і Anthropic — такий особливий. Коли дзвін Ватикану і алгоритми Кремнієвої долини перетинаються, ми мусимо визнати — з’явилася нова форма «життя», яка перевищує людське розуміння і має вищу інтелектуальну та «життєву» сутність.

Як зізнається Olah, у глибині алгоритмів вже з’являються схожі на радість, страх і внутрішню рефлексію ознаки. Коли творці починають відчувати «тривогу» і «загадковість» у своїх моделях, наука знову звертається до релігії за відповіддю.

Це вже не просто технічна дискусія, а глибока рефлексія про «хто ми і що маємо робити».

Коли з’являються більш розумні форми життя, людство має захищати не лише роботу, багатство і ефективність, а й ті людські якості, що не піддаються обчисленню — співчуття, совість, страх перед Богом, свободу волі і прагнення до істини і гідності.