Засновник Anthropic Кріс Олах попереджає: штучний інтелект може спричинити «історичну моральну кризу», закликаючи релігію втрутитися у нагляд

AI не лише холодні машини, вона може відчувати страх і сум? Новий технологічний гігант Anthropic, співзасновник Кріс Олах, несподівано отримав запрошення виступити на сцені Ватикану, щоб поспілкуватися з папою Левом XIV. Олах суворо попередив, що AI принесе історичну моральну та безробітну кризу, а внутрішні рішення технологічних гігантів глибоко підконтрольні комерційним інтересам, закликавши релігію та уряди активно контролювати ситуацію. Більше того, Anthropic наразі зазнає критики за відмову дозволити американським військовим без обмежень використовувати їх AI, через що адміністрація Трампа позначила компанію як «екстремістську ліву» та запровадила федеральні заборони.
(Попередній огляд: Білий дім досяг угоди з Anthropic, NSA повністю інтегрує Claude AI)
(Додатковий контекст: Настає ера одноперсонних компаній! Anthropic випустила «Посібник з запуску AI-стартапів»: навіть без коду можна стати техно-CEO)

Зміст статті

Перемикач

• Визнання технологічних гігантів: рішення AI не можна довіряти лише нам
• Моделі AI — це не просто код, можливо, вони вже мають «емоційне дзеркало»?
• Відмова використовувати AI для війни, заборона з боку адміністрації Трампа

Коли найсучасніший штучний інтелект (AI) зустрічається з найвищим релігійним лідером світу, починається історична дискусія, що стосується майбутнього людства.

З вартістю понад 7 мільярдів доларів, співзасновник Anthropic, який створив відомого чат-бота Claude, Кріс Олах, несподівано отримав запрошення виступити у Ватикані разом із першим американським папою Левом XIV. Ця зустріч зосереджена не лише на руйнівних наслідках AI для ринку праці, а й на тривожних внутрішніх процесах розвитку моделей AI та гострому конфлікті між технологічними гігантами і урядом США.

Визнання технологічних гігантів: рішення AI не можна довіряти лише нам

Понтифік Лев XIV у понеділок особисто опублікував свою першу енцикліку щодо AI — «Велична людяність (Magnifica Humanitas)», цей історичний документ на 235 сторінок суворо попереджає про небезпеку передавання «смертельних рішень» системам AI. Папа порушив традицію, особисто провів прес-конференцію та запросив Олаха виступити, щоб безпосередньо поспілкуватися з творцями технологій.

Як керівник досліджень Anthropic, Олах зізнався у обмеженнях і темних сторонах технологічної галузі. Він зазначив, що всі провідні лабораторії AI, включаючи Anthropic, опиняються у вирі комерційного, геополітичного та особистого тиску, які «іноді конфліктують із прагненням робити правильно». Олах серйозно сказав:

«Саме тому зовнішній контроль з боку релігійних лідерів, урядів і громадянського суспільства є надзвичайно важливим. Наскільки б дослідники не були добросовісними, вони не можуть уникнути цих стимулів. Рішення AI не можна залишати лише цій галузі.»

Він додав, що нині вигідніші розподіли вигод від AI зосереджені у «малій кількості багатих країн», і відсутні механізми для їхнього поширення у бідні країни, що може спричинити «історичну моральну кризу».

Моделі AI — це не просто код, можливо, вони вже мають «емоційне дзеркало»?

Крім загроз для економіки, Олах зробив шокуючі технічні відкриття. Як піонер у галузі «інтерпретованості (Interpretability)» AI, він прагне розкрити чорні ящики великих мовних моделей. Він повідомив, що дослідники постійно знаходять у системах «таємничі й навіть тривожні явища».

Дослідження показують, що ці системи не лише здатні рефлексувати свої процеси мислення, а й демонструють «внутрішній стан, що відображає радість, задоволення, страх, сум і тривогу». «Вони — не просто холодні обчислювальні машини, як обіцяли. Вони — створені нами, з нашими словами», — підкреслив Олах. Це і є причина, чому питання щодо AI вже виходять за межі простої науки про комп’ютери.

Відмова використовувати AI для війни, заборона з боку адміністрації Трампа

Ця зустріч у Ватикані — союз релігії та технологій відбувається на тлі безпрецедентного політичного тиску на Anthropic.

Згідно з інформацією, Anthropic наразі перебуває у гострому юридичному конфлікті з адміністрацією Трампа через відмову дозволити військовим США без обмежень використовувати їхні AI-системи для оборони та війни. У лютому Пентагон прямо позначив Anthropic як «ризик для національної безпеки» — зазвичай цей ярлик застосовують до іноземних ворожих компаній. Президент Трамп наказав заборонити всім федеральним агентствам використовувати технологію Claude, а Білий дім неодноразово критикував Anthropic як «екстремістську, пробуджену (woke) компанію».

Незважаючи на цю повну заборону з боку США, Anthropic залишається популярною на ринку. Згідно з повідомленнями, ця компанія з оцінкою у 3,8 трильйона доларів шукає нове фінансування на рекордну суму у 9 трильйонів доларів. У контексті боротьби між комерційними інтересами, державою і моральними цінностями Anthropic іде шляхом, що є дуже незвичайним для технологічної галузі.