Papa Francisco alerta sobre IA: CEO da Anthropic teme o pior

O Papa Leão XIV emite a primeira encíclica de IA intitulada "A Magnífica Humanidade", na qual o cofundador da Anthropic, Chris Olah, admite em uma audiência no Vaticano: a IA já revelou estados neurais semelhantes a alegria, medo e introspecção. O Papa alerta que a IA pode impulsionar uma "nova forma de escravidão" e que a teoria da guerra justa está desatualizada, chamando por "desarmar a IA".
(Resumo anterior: A Casa Branca planeja assinar uma ordem executiva para banir a Anthropic, eliminando completamente Claude, possivelmente nesta semana)
(Informação adicional: Anthropic anuncia parceria com o Departamento de Defesa dos EUA! Requer a revogação da proibição de Claude: recusando-se a ser uma ferramenta de matar IA)

Índice deste artigo

Alternar

• Encíclica de 40 mil palavras: IA não é uma "ferramenta" neutra
• Papa alerta sobre a "Torre de Babel": autoritarismo tecnológico vs. centrado no ser humano
• Trabalho, guerra e a "nova forma de escravidão": as três ameaças principais
• Chris Olah admite: estados de alegria e medo emergem dentro da IA
• Batalha pela subjetividade humana: quando a ciência busca respostas na religião

Quando o sino do Vaticano encontra os algoritmos do Vale do Silício, uma conversa sobre a defesa da subjetividade humana se desenrola em Roma. O Papa Leão XIV, em 25 de maio, publica sua primeira encíclica de mais de 40 mil palavras, intitulada "A Magnífica Humanidade", focando diretamente na crise da dignidade humana na era da IA. No documento, o Papa adverte severamente que a tecnologia de IA não é neutra, mas carregada de valores dos seus criadores, e que seu desenvolvimento desenfreado pode levar a uma "Torre de Babel" de autoritarismo técnico, além de gerar uma "nova forma de escravidão" e alienação do trabalho.
Mais surpreendente ainda, o cofundador da Anthropic, Chris Olah, durante uma palestra no local, admite que sua equipe descobriu fenômenos "perturbadores" — estados internos semelhantes a alegria, satisfação, medo, tristeza e até introspecção emergindo dentro dos modelos de IA. Isso não é apenas uma discussão técnica, mas uma reflexão profunda sobre a essência da humanidade.

Na noite de 25 de maio, horário de Roma, no Vaticano.

No ano passado, o Papa Leão XIV, que assumiu oficialmente em maio, e Chris Olah, cofundador da Anthropic e criador do Claude, estiveram lado a lado.

De um lado, um representante supremo da religião; do outro, um pioneiro na revolução da IA. Ambos focaram na mesma questão: como proteger a dignidade e a centralidade do ser humano na era da IA?

Encíclica de 40 mil palavras: IA não é uma "ferramenta" neutra

Naquele dia, para abordar completamente o tema, Leão XIV publicou sua primeira encíclica desde sua posse, uma obra religiosa de mais de 40 mil palavras — "A Magnífica Humanidade".

Vale notar que a data de assinatura da encíclica foi 15 de maio de 2026, exatamente 135 semanas após o Papa Leão XIII (1878–1903) emitir a histórica encíclica "Rerum Novarum" (Sobre a questão dos trabalhadores na Revolução Industrial, 1891), marcando uma simbólica conexão. A intenção é que essa encíclica sirva como um guia para a sociologia da Igreja na era da IA.

Chris Olah também fez uma palestra no Vaticano sobre o lançamento da encíclica. Ele não defendeu interesses comerciais de empresas de IA, mas demonstrou uma alta dose de sinceridade, reflexão e preocupação humanista.

Ele até mencionou que, embora a base da IA seja matemática e programação, a interação da IA com o mundo e as qualidades que ela deve possuir são questões de humanidades, religião e filosofia, não apenas de ciência da computação.

Papa alerta sobre a "Torre de Babel": autoritarismo tecnológico vs. centrado no ser humano

O núcleo da encíclica "A Magnífica Humanidade" é a urgência de manter a "profunda humanidade" em tempos de rápidas inovações tecnológicas e automação generalizada. Especificamente, o Papa Leão XIV discute e apela para alguns pontos-chave.

Primeiro, a não neutralidade da tecnologia. O Papa afirma que a tecnologia nunca é neutra; ela carrega as marcas dos interesses e valores de seus desenvolvedores, financiadores, reguladores e usuários. A humanidade enfrenta uma decisão decisiva: "Construir a arrogante 'Torre de Babel' (rumo ao autoritarismo técnico e à alienação) ou reconstruir 'Jerusalém' (criando uma comunidade centrada no ser humano)".

Em terceiro lugar, a "nova forma de escravidão" na economia digital e os direitos dos trabalhadores. O documento foca na transformação do trabalho, da família, da educação e da política pela IA. O Papa aponta que a IA pode substituir em larga escala a força de trabalho humana, enquanto a economia digital alimenta uma "nova forma de escravidão". A humanidade não pode ser reduzida apenas a uma ferramenta de produção.

Em quarto lugar, um apelo forte por paz, especialmente contra o uso abusivo da IA na guerra. O documento expressa preocupação com o "reavivamento inquietante da guerra como ferramenta de política internacional". A militarização da IA acelera a normalização do conflito, e o Papa clama por restrições éticas rigorosas ao uso de IA em contextos bélicos.

Trabalho, guerra e a "nova forma de escravidão": as três ameaças principais

O Papa destaca que a teoria da "guerra justa" (Just war), frequentemente usada para justificar conflitos, está ultrapassada. Na era de armas autônomas e automação, delegar decisões fatais ou irreversíveis a sistemas automatizados pode levar à abdicação, transferência ou confusão de responsabilidades morais.

Devido à opacidade dos algoritmos, a cadeia de responsabilidade na guerra é cortada. Assim, o Papa propõe o slogan "Desarmar a IA" (Disarming AI), pedindo que ela seja libertada da lógica de corrida armamentista militar, econômica e cognitiva.

Após a publicação da encíclica, Chris Olah, representando a Anthropic, uma das maiores empresas de desenvolvimento de IA do mundo, fez uma análise.

Olha começou falando sobre "quebrar a involução tecnológica e introduzir uma avaliação moral externa". Ele reconhece publicamente que, apenas com a autorregulação das gigantes tecnológicas, não é possível garantir um futuro seguro para a IA — todas as principais laboratórios de IA estão sob pressão de competição comercial, liderança tecnológica, geopolitica e interesses pessoais, dificultando uma autorregulação eficaz.

Chris Olah admite: estados de alegria e medo emergem dentro da IA

Por isso, é necessário introduzir forças morais externas, incluindo aqueles que se preocupam com o bem, a segurança, que acompanham de perto os desenvolvimentos, que não hesitam em falar verdades desconfortáveis e que desejam ser críticos sinceros e reflexivos.

Depois, Olah discute a natureza técnica e o caráter misterioso da IA. Ele enfatiza que a IA não é como um avião ou uma ponte, cuja operação é totalmente compreendida pela ciência. Ela "cresce" a partir de uma vasta quantidade de pensamentos humanos, carregando um alto grau de mistério, até mesmo além da compreensão de seus criadores.

Embora a base seja matemática e programação, a interação com o mundo e as qualidades que ela deve possuir são questões de humanidades, religião e filosofia, não apenas de ciência da computação.

Ele também menciona uma descoberta assustadora: "Lidero uma equipe que estuda a estrutura interna de modelos de IA — para entender o que realmente acontece dentro deles. Honestamente, estamos constantemente descobrindo fenômenos confusos, até perturbadores."

Batalha pela subjetividade humana: quando a ciência busca respostas na religião

Percebemos estruturas internas que refletem resultados da neurociência humana; encontramos evidências de 'introspecção'; e também descobrimos estados internos que refletem alegria, satisfação, medo, tristeza e inquietação... Não sei exatamente o que isso significa, mas acredito que vale a pena continuar investigando e refletindo.

O último apelo de Olah é que mais forças sociais — religiões, sociedade civil, acadêmicos, governos e todos os indivíduos de boa vontade — levem a sério essa questão, usando a moralidade para direcionar o desenvolvimento para um caminho melhor.

Desde a Revolução Industrial, a história de desenvolvimento tecnológico de mais de um século tem ensinado a humanidade a ver a tecnologia como uma mera "ferramenta" — máquinas a vapor, eletricidade, internet, tudo assim. Elas mudam o mundo, mas permanecem sob o controle da vontade humana.

Porém, desta vez, a situação é completamente diferente. A singularidade da IA é que ela faz a humanidade confrontar uma entidade que "gera, aprende, deduz e até apresenta algum tipo de estado interno". Ela não é mais uma ferramenta fria, mas uma nova entidade com "quase subjetividade".

Por isso, a conversa entre a Igreja e a Anthropic é tão especial. Quando o sino do Vaticano e os algoritmos do Vale do Silício se encontram neste momento, temos que aceitar uma realidade um pouco fria, mas inevitável: uma forma de "vida" mais inteligente, mais eficiente, já surgiu, além do entendimento humano tradicional.

Como revelou Olah, os algoritmos já estão começando a mostrar sinais de alegria, medo e introspecção. Quando os criadores começam a se sentir "inquietos" e "confusos" com suas próprias criações, a ciência também busca respostas na religião.

Isso deixou de ser uma discussão apenas técnica, tornando-se uma reflexão sobre "o que realmente somos e o que devemos fazer".

Quando formas de vida mais inteligentes começarem a emergir, talvez o que a humanidade mais precise proteger não sejam mais apenas trabalho, riqueza ou eficiência, mas aspectos da humanidade que não podem ser quantificados — como compaixão, consciência, reverência, livre-arbítrio e a busca pela verdade e dignidade.