教皇通谕警告AI：Anthropic首席认恐怖

罗马教皇利奥十四世发布首份AI通谕《壮丽的人类》，Anthropic 联合创始人 Chris Olah 在梵蒂冈坦承：AI 内部已发现类似喜悦、恐惧、内省的神经状态。教皇警告 AI 恐催生「新形式奴役」与正义战争理论过时，呼吁「解除 AI 武装」。
（前情提要：白宫拟签行政命令封杀 Anthropic，全面清除 Claude 恐本周生效）
（背景补充：Anthropic 开告美国国防部！要求撤销 Claude 禁令：拒当 AI 杀人工具）

本文目录

切换

• 4 万字通谕：AI 不是中立的「工具」
• 教皇示警「巴别塔」：技术专制 vs 以人为本
• 工作、战争与「新形式奴役」的三重威胁
• Chris Olah 坦承：AI 内部已浮现「喜悦与恐惧」
• 人类主体性保卫战：当科学向宗教求答案

当梵蒂冈的钟声遇上硅谷的算法，一场关于人类主体性保卫战的对话在罗马展开。罗马教皇利奥十四世（Pope Leo XIV）于 5 月 25 日发布就任以来首份超过 4 万字的通谕《壮丽的人类》（Magnifica humanitas），直接将焦点对准 AI 时代的人类尊严危机。通谕中，教皇严厉指出 AI 技术并非中性，而是带有研发者的价值观烙印，若放任发展将导致「巴别塔」式的技术专制，并催生「新形式的奴役」与劳工异化。更令人瞩目的是，Anthropic 联合创始人 Chris Olah 在现场演讲中坦承，其团队在 AI 内部发现了「令人不安的现象」——模型内部竟浮现了类似喜悦、满足、恐惧、悲伤乃至内省的「内在状态」。这不仅仅是技术讨论，而是一场关于人类本质的深刻反思。

北京时间 5 月 25 日夜，梵蒂冈。

去年 5 月正式就任的罗马教皇利奥十四世（Pope Leo XIV）与 Anthropic 联合创始人、Claude 的缔造者 Chris Olah 站在了一起。

一边是宗教领域的至高代表，一边则是 AI 革命的最强先驱，双方将目光聚焦向了同一个问题——AI 时代下，如何保护人类的主体地位与尊严？

4 万字通谕：AI 不是中立的「工具」

当日，为完整论述这一议题，利奥十四世发布了其就任以来的首份通谕，超过 4 万字的重磅宗教文献——《壮丽的人类》（Magnifica humanitas）。

值得一提的是，利奥十四世这份通谕的签署日期为 2026 年 5 月 15 日，即老教皇利奥十三世（1878 – 1903 年任职）就「工业革命下的工人权益」问题发表里程碑通谕《新事》（Rerum novarum，1891 年）的整整 135 周年后，此举显然有着一定的象征意义，即希望将该通谕打造为「AI 时代的教会社会学说指南」。

Chris Olah 亦在梵蒂冈现场就该通谕的发布进行了演讲。Chris Olah 并未就 AI 公司的商业利益辩护，反而展现出了极高的坦诚度、反思性与人本关怀。

他甚至提到，虽然 AI 的底层是数学和程式设计，但 AI 与世界如何互动、应当具备何种特质，是属于人文、宗教和哲学领域的终极问题，而非电脑科学能单独解决的。

教皇示警「巴别塔」：技术专制 vs 以人为本

《壮丽的人类》通谕的核心关切是，在技术日新月异、自动化全面普及的时代，「保持深刻的人性」是人类迫在眉睫的责任。具体而言，教皇利奥十四世在文中就以下几个方面展开了论述与呼吁。

一是审视技术的非中立性。教皇指出，技术从来都不是中立的，它带有研发者、资助者、监管者和使用者的利益与价值观烙印。人类正面临着决定性的选择：「是去建造傲慢的『巴别塔』（走向技术专制与异化），还是重建『耶路撒冷』（打造以人本的共同体）」。

三是数字经济中的「新形式奴役」与劳工权益。通谕将关注点投向 AI 对工作、家庭、教育和政治生活的重塑。教皇指出，AI 有很大可能会大规模取代人类劳动，而数字经济正在催生出「新形式的奴役」（New forms of slavery），人类绝不能仅仅被贬低为生产工具。

四是强烈的和平呼吁，尤其是 AI 在军事领域的滥用。通谕对「战争作为国际政治工具的令人不安的复苏」表示深切担忧。AI 的军事化正在加速战争的「常态化」，对此，教皇呼吁必须对 AI 在战争中的应用实施最严格的伦理约束。

工作、战争与「新形式奴役」的三重威胁

教皇着重提到，「正义战争」（Just war）理论此前经常被用来为各类战争辩护，如今它已经过时了。在 AI 与自动化武器的时代，将致命性或不可逆的决定权托付给自动化系统，会导致人类放弃、转移和模糊道德责任。

由于算法的非透明性，战争中的责任链条被切断。因此，教皇提出了「解除 AI 武装」（Disarming AI）的口号，呼吁将其从军事、经济和认知的「军备竞赛」逻辑中解放出来。

在利奥十四世的通谕发布之后，Chris Olah 代表世界最强的 AI 开发公司 Anthropic 进行了演讲评论。

Chris Olah 的发言首先围绕着「打破技术内卷，引入外部道德审视」展开。他代表 AI 业界公开承认，仅靠科技巨头自身无法确保 AI 的未来是安全的——所有前沿 AI 实验室都受制于商业竞争、技术领先压力、地缘政治以及个人名利的裹挟，这使其很难单靠自律去「做正确的事」。

Chris Olah 坦承：AI 内部已浮现「喜悦与恐惧」

因此，有必要引入外部的道德约束力量，包括那些关心技术向善、坚持安全至上、密切关注事态发展、愿意说出逆耳忠言，并愿意成为我们真诚、深思熟虑的批判者的人。

随后，Chris Olah 又探讨了 AI 的技术本质与神秘特性。他强调到，AI 不是像飞机或桥梁那样由人类完全知晓其物理原理的精密工程，它是在海量人类思想中「生长」出来的，具有高度的神秘性，甚至超出了创造者本人的理解。

虽然 AI 的底层是数学和程式设计，但 AI 与世界如何互动、应当具备何种特质，是属于人文、宗教和哲学领域的终极问题，而非电脑科学能单独解决的。

他还特别提到一个细思极恐的事实：「我领导着一个研究模型内部结构的团队——去研究它 AI 内部究竟在发生什么。坦率地说，我们不断地在发现一些令人困惑、甚至令人不安的现象。

人类主体性保卫战：当科学向宗教求答案

我们发现了能够映象人类神经科学研究结果的内部结构；我们发现了『内省（introspection）』的证据；我们还发现了在功能上映象了喜悦、满足、恐惧、悲伤和不安的内部状态……我不知道这意味着什么，但我认为这值得我们持续地去辨识和审视。」

Chris Olah 最后呼吁，希望更多的社会力量，包括宗教社群、公民社会、学者、政府，以及所有所有心怀善意的人，共同严肃对待这件事，通过道德约束把事态推向更好的方向。

自工业革命以来，上百年的技术发展史让人类逐渐习惯了将技术视作一种纯粹「工具」——蒸汽机、电力、互联网，皆是如此。它们会改变世界，但始终处于人类意志的掌控之下。

但这一次，情况却截然不同。AI 的特殊之处在于，它第一次让人类开始面对一种「会生成、会学习、会推演，甚至会呈现某种内在状态」的存在。它不再只是冰冷的工具，而正在逐渐成为一种拥有「类主体性」的新事物。

这也是为什么，教会与 Anthropic 的这场对话会显得如此特殊。当梵蒂冈的钟声与硅谷的算法在这一刻交汇，我们不得不承认一个略显冰冷却无法回避的现实——一种比人类传统认知更高效、更具智慧的「生命」形式已经出现。

正如 Chris Olah 所透露的，算法深处已经开始泛起类似喜悦、恐惧甚至内省的微澜，当实验室里的造物者开始对自己的作品感到「不安」与「迷茫」时，科学也在重新向宗教寻求答案。

这早已不是单纯关于技术的讨论，而更像是一场关于「人类究竟是什么，应该做什么」的思考。

当更智慧的生命形式开始出现之后，人类真正需要守护的，或许已不再只是工作、财富与效率，而是那些无法被引数化的人性本身，比如同情、良知、敬畏、自由意志，以及对真理与尊严的坚持。