Основатель Anthropic Крис Олах предупреждает: ИИ может вызвать «исторический этический кризис», призывая религию к участию в надзоре

Искусственный интеллект — это не просто холодные машины, он может чувствовать страх и грусть?
Гигант в области новых технологий Anthropic, соучредитель Крис Олах, впервые в истории был приглашен на сцену Ватикана, чтобы пообщаться с папой Лео XIV.
Олах строго предупредил, что ИИ приведет к историческому моральному и безработному кризису, а внутренние решения технологических гигантов глубоко подчинены коммерческим интересам, призывая религию и правительство к активному контролю.
Более того, вызвавшие горячие обсуждения, — в настоящее время Anthropic из-за отказа позволить армии США неограниченно использовать их ИИ, подверглась ярлыку «крайне левых» от правительства Трампа и была заблокирована федеральным запретом.
(Предыстория: Белый дом достиг соглашения с Anthropic, NSA полностью внедрит Claude AI)
(Дополнительный фон: эпоха компаний-одиночек наступает! Anthropic выпустила «Руководство по созданию стартапов на базе ИИ»: как стать технологичным CEO без написания кода)

Содержание статьи

Переключить

• Исповедь технологических гигантов: решения ИИ не могут доверять только нам
• Модели ИИ — это не только код, возможно, у них уже есть «отражение эмоций»?
• Отказ использовать ИИ для войны армией США — полный запрет со стороны правительства Трампа

Когда передовые системы искусственного интеллекта сталкиваются с крупнейшим религиозным лидером мира, начинается исторический диалог, касающийся будущего человечества.

Соучредитель Anthropic, создавший известного чат-бота Claude, с капиталом в 7 миллиардов долларов, недавно впервые был приглашен на сцену Ватикана, чтобы встретиться с первым американским папой Лео XIV.
Эта встреча не только сосредоточена на разрушительном влиянии ИИ на рынок труда, но и раскрывает тревожные внутренние процессы развития моделей ИИ, а также острые конфликты между технологическими гигантами и правительством США.

Исповедь технологических гигантов: решения ИИ не могут доверять только нам

Понедельник папа Лео XIV лично опубликовал свою первую энциклику о ИИ — «Величественная человечность» (Magnifica Humanitas), — 235-страничный исторический документ, строго предупреждающий о опасностях передачи «фатальных решений» системам ИИ.
Папа нарушил традицию, лично провел пресс-конференцию и пригласил Олаха на сцену, чтобы напрямую пообщаться с создателями технологий.

В качестве руководителя исследований Anthropic, Олах признался в ограничениях и темных сторонах технологической индустрии.
Он заявил, что все ведущие лаборатории ИИ, включая Anthropic, находятся в водовороте коммерческих, геополитических и личных давлений, которые «иногда противоречат принятию правильных решений».
Олах серьезно отметил:

«Именно поэтому внешнее наблюдение религиозных лидеров, правительства и гражданского общества так важно.
Независимо от добрых намерений исследователей, они не смогут избежать этих стимулов.
Решения ИИ абсолютно не должны оставаться только в руках этой индустрии.»

Он также предупредил, что текущие выгоды от развития ИИ сосредоточены в «немногих богатых странах», без механизмов их деления с бедными странами, что вызовет «исторический моральный кризис».

Модели ИИ — это не только код, возможно, у них уже есть «отражение эмоций»?

Помимо общего экономического предупреждения, ошеломляющие технические открытия Олаха потрясли всех.
Будучи пионером в области «объяснимости» (Interpretability) ИИ, он занимается раскрытием «черных ящиков» внутри больших языковых моделей.
Он сообщил, что исследователи постоянно обнаруживают внутри систем «таинственные и даже тревожные вещи».

Исследования показывают, что эти системы не только могут рефлексировать свои мысли, но и демонстрировать «внутренние состояния, отражающие радость, удовлетворение, страх, грусть и тревогу».
«Они — не просто холодные расчетные машины, как мы обещали. Они — созданы нами, из наших слов», — подчеркнул Олах.
Это и есть причина, почему вопросы, связанные с развитием ИИ, вышли далеко за рамки чистой компьютерной науки.

Отказ использовать ИИ для войны армией США — полный запрет со стороны правительства Трампа

Эта встреча в Ватикане, объединяющая религию и технологии, происходит на фоне беспрецедентного политического давления на Anthropic.

Сообщается, что Anthropic сейчас вовлечена в острые юридические споры с администрацией Трампа, поскольку компания категорически отказалась позволить армии США неограниченно использовать их системы ИИ для обороны и военных целей.
В феврале Пентагон прямо включил Anthropic в список «рисков национальной безопасности цепочки поставок» — обычно это ярлык для иностранных враждебных компаний.
Президент Трамп приказал запретить всем федеральным агентствам использовать технологию Claude, а Белый дом неоднократно публично критиковал Anthropic как «крайне левую, пробужденческую (woke) компанию».

Несмотря на полное блокирование со стороны правительства США, Anthropic остается очень привлекательной на рынке.
Сообщается, что эта компания с оценкой в 3,8 триллиона долларов ищет новые инвестиции на сумму до 900 миллиардов долларов.
В условиях борьбы между коммерческими интересами, государственными структурами и моральными границами, Anthropic идет по очень необычному пути технологического развития.