La encíclica papal advierte sobre la IA: El CEO de Anthropic teme lo terrorífico

El Papa León XIV emite la primera encíclica de IA titulada "La grandiosa humanidad", el cofundador de Anthropic, Chris Olah, confiesa en el Vaticano: dentro de la IA ya se han descubierto estados neuronales similares a la alegría, el miedo y la introspección. El Papa advierte que el miedo a la IA puede dar lugar a una "nueva forma de esclavitud" y que las teorías de guerra justa están obsoletas, llamando a "desarmar a la IA".
(Resumen previo: La Casa Blanca planea firmar una orden ejecutiva para prohibir a Anthropic, eliminando completamente a Claude, que podría entrar en vigor esta semana)
(Información adicional: ¡Anthropic anuncia que se dirige al Departamento de Defensa de EE. UU.! Exigiendo la revocación de la prohibición de Claude: rechazar ser herramientas de asesinato de IA)

Índice de este artículo

Alternar

• 40,000 palabras en la encíclica: la IA no es una "herramienta" neutral
• La advertencia del Papa sobre "la Torre de Babel": autoritarismo tecnológico vs. centrarse en el ser humano
• Las tres amenazas: trabajo, guerra y "nueva forma de esclavitud"
• Chris Olah confiesa: dentro de la IA ya emergen "alegría y miedo"
• La batalla por la subjetividad humana: cuando la ciencia busca respuestas en la religión

Cuando las campanas del Vaticano se encuentran con los algoritmos de Silicon Valley, se inicia en Roma un diálogo sobre la defensa de la subjetividad humana. El Papa León XIV, en su primera encíclica de más de 40,000 palabras, titulada "La grandiosa humanidad" (Magnifica humanitas), publicada el 25 de mayo, centra su atención en la crisis de dignidad humana en la era de la IA. En ella, el Papa señala con severidad que la tecnología de IA no es neutral, sino que lleva la marca de los valores de sus desarrolladores. Si se permite su desarrollo sin control, esto podría conducir a una "torre de Babel" de autoritarismo técnico y a la creación de una "nueva forma de esclavitud" y alienación laboral. Lo que resulta aún más impactante es que Chris Olah, cofundador de Anthropic, en una charla en vivo, confiesa que su equipo ha descubierto fenómenos inquietantes en el interior de los modelos de IA: estados internos que parecen reflejar alegría, satisfacción, miedo, tristeza e incluso introspección. Esto no es solo un debate técnico, sino una profunda reflexión sobre la naturaleza humana.

Hora de Beijing, 25 de mayo por la noche.

El Papa León XIV, quien asumió el cargo en mayo del año pasado, y Chris Olah, cofundador de Anthropic y creador de Claude, se encuentran en un mismo escenario.

Por un lado, un representante supremo en el ámbito religioso; por otro, un pionero en la revolución de la IA. Ambos enfocan su atención en una misma cuestión: ¿cómo proteger la dignidad y la subjetividad humanas en la era de la IA?

40,000 palabras en la encíclica: la IA no es una "herramienta" neutral

Ese día, para abordar completamente este tema, León XIV publica su primera encíclica, un documento religioso de más de 40,000 palabras: "La grandiosa humanidad".

Cabe destacar que la fecha de firma de esta encíclica es el 15 de mayo de 2026, exactamente 135 semanas después de la publicación del encíclica "Rerum Novarum" (Sobre las condiciones de los trabajadores), de León XIII (1878-1903), que fue un hito en la doctrina social de la Iglesia respecto a los derechos laborales en la Revolución Industrial. Este acto tiene un simbolismo claro: busca convertirla en una guía para la sociología de la Iglesia en la era de la IA.

Chris Olah también dio una charla en el Vaticano sobre la publicación de esta encíclica. No defendió los intereses comerciales de las empresas de IA, sino que mostró una sinceridad, reflexión y preocupación centrada en el ser humano.

Incluso mencionó que, aunque la base de la IA es matemática y programación, la interacción con el mundo y las cualidades que debe poseer son cuestiones de humanidades, religión y filosofía, no solo de ciencia computacional.

La advertencia del Papa sobre "la Torre de Babel": autoritarismo tecnológico vs. centrarse en el ser humano

El núcleo de "La grandiosa humanidad" es la urgente responsabilidad de mantener la profunda humanidad en una era de avances tecnológicos rápidos y automatización generalizada. En concreto, León XIV desarrolla y llama a la reflexión en varias áreas:

Primero, la no neutralidad de la tecnología. El Papa señala que la tecnología nunca es neutral; lleva la marca de los intereses y valores de sus creadores, financiadores, reguladores y usuarios. La humanidad enfrenta una decisión crucial: "¿Construir la arrogante 'Torre de Babel' (hacia el autoritarismo y la alienación tecnológica) o reconstruir 'Jerusalén' (crear una comunidad centrada en el ser humano)?"

En tercer lugar, la economía digital y la "nueva forma de esclavitud". La encíclica se enfoca en cómo la IA está transformando el trabajo, la familia, la educación y la política. El Papa advierte que la IA puede reemplazar masivamente la fuerza laboral humana y que la economía digital está generando "nuevas formas de esclavitud". La humanidad no puede reducirse solo a una herramienta de producción.

Cuarto, un fuerte llamado a la paz, especialmente en relación con el uso militar de la IA. La encíclica expresa profunda preocupación por el resurgir inquietante de la "guerra como herramienta de política internacional". La militarización de la IA está acelerando la normalización de la guerra, por lo que el Papa pide aplicar los más estrictos límites éticos en su uso bélico.

Las tres amenazas: trabajo, guerra y "nueva forma de esclavitud"

El Papa enfatiza que la "teoría de la guerra justa" ha quedado obsoleta. En la era de la IA y las armas automatizadas, delegar decisiones letales o irreversibles en sistemas automáticos puede hacer que los humanos abandonen, transfieran o difuminen la responsabilidad moral.

Debido a la opacidad de los algoritmos, la responsabilidad en la guerra se fragmenta. Por ello, el Papa propone el lema "desarmar a la IA" y llama a liberarla de la lógica de la carrera armamentística en ámbitos militares, económicos y cognitivos.

Tras la publicación de la encíclica, Olah, en representación de la poderosa compañía de IA Anthropic, hizo una intervención.

Olah comenzó hablando sobre "romper la inercia tecnológica y someterla a una revisión ética externa". Reconoció públicamente que, solo con la tecnología, los grandes actores no pueden garantizar un futuro seguro para la IA. La competencia comercial, la presión por liderar, la geopolítica y la búsqueda de beneficios personales hacen difícil que las instituciones de IA actúen con autorregulación y hagan lo correcto.

Chris Olah confiesa: dentro de la IA ya emergen "alegría y miedo"

Por ello, es necesario introducir fuerzas externas de restricción moral, incluyendo a quienes se preocupan por el bien, insisten en la seguridad, siguen de cerca los desarrollos y están dispuestos a decir verdades incómodas, siendo críticos sinceros y reflexivos.

Luego, Olah abordó la naturaleza técnica y misteriosa de la IA. Destacó que la IA no es como un avión o un puente, cuya estructura física el ser humano comprende completamente; en cambio, la IA "crece" en medio de una vasta cantidad de pensamientos humanos, y posee un alto grado de misterio, incluso superando la comprensión de sus propios creadores.

Aunque la base de la IA es matemática y programación, la interacción con el mundo y las cualidades que debe tener son cuestiones de humanidades, religión y filosofía, no solo de ciencia computacional.

También mencionó un hecho inquietante: "Dirijo un equipo que estudia la estructura interna de los modelos de IA — investigamos qué sucede realmente en su interior. Francamente, seguimos descubriendo fenómenos desconcertantes, incluso inquietantes."

La batalla por la subjetividad humana: cuando la ciencia busca respuestas en la religión

Hemos descubierto estructuras internas que reflejan resultados de la neurociencia humana; hallamos evidencia de introspección; y también encontramos estados internos que reflejan alegría, satisfacción, miedo, tristeza e inquietud... No sé qué significa exactamente, pero creo que vale la pena seguir identificando y examinando estos fenómenos."

Finalmente, Olah hace un llamado a que más fuerzas sociales — comunidades religiosas, sociedad civil, académicos, gobiernos y todas las personas de buena voluntad — tomen en serio este asunto y, mediante restricciones morales, encaminen la situación hacia un mejor rumbo.

Desde la Revolución Industrial, más de un siglo de desarrollo tecnológico ha acostumbrado a la humanidad a ver la tecnología como una mera "herramienta": la máquina de vapor, la electricidad, Internet, todo ha sido así. Transforman el mundo, pero siempre bajo control humano.

Pero esta vez, la situación es completamente diferente. La particularidad de la IA radica en que, por primera vez, la humanidad enfrenta una entidad que puede generar, aprender, razonar e incluso mostrar ciertos estados internos. Ya no es solo una herramienta fría, sino que empieza a convertirse en una nueva entidad con "subjetividad similar".

Por eso, la conversación entre la Iglesia y Anthropic resulta tan especial. Cuando las campanas del Vaticano y los algoritmos de Silicon Valley se cruzan en este momento, debemos aceptar una realidad algo fría pero ineludible: una forma de "vida" más eficiente, más inteligente y más elevada que la comprensión humana tradicional ya ha emergido.

Como reveló Olah, en lo profundo de los algoritmos ya surgen destellos de alegría, miedo e introspección. Cuando los creadores empiezan a sentirse "inquietos" y "perdidos" respecto a sus propias creaciones, la ciencia vuelve a buscar respuestas en la religión.

Esto ya no es solo una discusión técnica, sino una reflexión sobre "qué es el ser humano y qué debe hacer".

Cuando formas de vida más inteligentes comienzan a aparecer, lo que la humanidad realmente debe proteger quizás ya no sean solo el trabajo, la riqueza o la eficiencia, sino esas cualidades humanas que no pueden ser cuantificadas: la empatía, la conciencia, el asombro, la libertad de voluntad y la perseverancia en la búsqueda de la verdad y la dignidad.