Papa Francisco alerta sobre IA: CEO da Anthropic teme o terror

O Papa Leão XIV publica a primeira encíclica de IA intitulada "A Magnífica Humanidade", o cofundador da Anthropic, Chris Olah, admite no Vaticano: dentro da IA já foram descobertos estados neurais semelhantes a alegria, medo e introspecção. O Papa alerta que o medo de IA pode gerar uma "nova forma de escravidão" e que a teoria da guerra justa está obsoleta, chamando por "desarmar a IA".
(Resumindo: Ordem Executiva na Casa Branca visa banir a Anthropic, eliminando completamente Claude, possivelmente nesta semana)
(Complemento: Anthropic anuncia parceria com o Departamento de Defesa dos EUA! Requer a revogação da proibição de Claude: recusando-se a ser ferramenta de matar IA)

Índice deste artigo

Alternar

• Encíclica de 40 mil palavras: IA não é uma "ferramenta" neutra
• O Papa alerta sobre a "Torre de Babel": autoritarismo tecnológico vs. foco no humano
• Trabalho, guerra e a "nova forma de escravidão": as três ameaças principais
• Chris Olah admite: estados de alegria e medo emergem dentro da IA
• Batalha pela subjetividade humana: quando a ciência busca respostas na religião

Quando o sino do Vaticano encontra os algoritmos do Vale do Silício, uma conversa sobre a defesa da subjetividade humana se desenrola em Roma. O Papa Leão XIV, em 25 de maio, publica sua primeira encíclica com mais de 40 mil palavras, intitulada "A Magnífica Humanidade", focando na crise da dignidade humana na era da IA. Na encíclica, o Papa afirma severamente que a tecnologia de IA não é neutra, mas carregada de valores dos seus desenvolvedores, e seu desenvolvimento desenfreado pode levar a uma "Torre de Babel" de autoritarismo técnico e à criação de uma "nova forma de escravidão" e alienação do trabalho. Ainda mais notável, o cofundador da Anthropic, Chris Olah, durante uma palestra ao vivo, admite que sua equipe descobriu fenômenos "preocupantes" — estados internos semelhantes a alegria, satisfação, medo, tristeza e até introspecção emergiram dentro dos modelos de IA. Isso não é apenas uma discussão técnica, mas uma reflexão profunda sobre a essência da humanidade.

Na noite de 25 de maio, horário de Pequim, no Vaticano.

No ano passado, o Papa Leão XIV, eleito em maio, e Chris Olah, cofundador da Anthropic e criador do Claude, estiveram juntos.

De um lado, um representante supremo da religião; do outro, um pioneiro na revolução da IA. Ambos focaram na mesma questão — como proteger a dignidade e a subjetividade humanas na era da IA?

Encíclica de 40 mil palavras: IA não é uma "ferramenta" neutra

Naquele dia, para abordar completamente o tema, Leão XIV publicou sua primeira encíclica, uma obra religiosa de mais de 40 mil palavras — "A Magnífica Humanidade".

Vale notar que a assinatura desta encíclica ocorreu em 15 de maio de 2026, exatamente 135 semanas após o Papa Leão XIII (1878–1903) publicar a encíclica histórica "Rerum Novarum" (Sobre a condição dos trabalhadores, 1891), que tratou dos direitos dos operários na Revolução Industrial. Este gesto tem um simbolismo claro, pretendendo estabelecer a encíclica como uma orientação social da Igreja para a era da IA.

Chris Olah também fez uma palestra ao vivo no Vaticano sobre a publicação da encíclica. Ele não defendeu interesses comerciais de sua empresa de IA, mas demonstrou uma alta honestidade, reflexão e preocupação humanista.

Ele até mencionou que, embora a base da IA seja matemática e programação, a interação da IA com o mundo e as qualidades que ela deve possuir são questões de humanidades, religião e filosofia — problemas que a ciência da computação não pode resolver sozinha.

O Papa alerta sobre a "Torre de Babel": autoritarismo tecnológico vs. foco no humano

O núcleo da encíclica "A Magnífica Humanidade" é a urgência de manter a "profunda humanidade" em tempos de rápidas inovações tecnológicas e automação generalizada. Especificamente, o Papa Leão XIV discute e apela para várias áreas.

Primeiro, a não neutralidade da tecnologia. O Papa afirma que a tecnologia nunca é neutra, carregada de interesses e valores dos seus criadores, financiadores, reguladores e usuários. A humanidade enfrenta uma decisão decisiva: "Construir a arrogante 'Torre de Babel' (rumo ao autoritarismo técnico e à alienação), ou reconstruir 'Jerusalém' (criando uma comunidade centrada no humano)".

Segundo, a "nova forma de escravidão" na economia digital e os direitos trabalhistas. A encíclica foca na transformação do trabalho, da família, da educação e da política pela IA. O Papa aponta que a IA pode substituir em larga escala a força de trabalho humana, enquanto a economia digital está gerando "novas formas de escravidão". A humanidade não pode ser reduzida a uma ferramenta de produção.

Terceiro, um apelo forte por paz, especialmente contra o uso abusivo da IA na guerra. A encíclica expressa preocupação com o "reavivamento inquietante da guerra como ferramenta de política internacional". A militarização da IA acelera a normalização do conflito, e o Papa clama por restrições éticas rigorosas ao uso de IA em contextos bélicos.

Trabalho, guerra e a "nova forma de escravidão": as três ameaças principais

O Papa destaca que a teoria da "guerra justa" (Just war), frequentemente usada para justificar conflitos, está ultrapassada. Na era de armas autônomas e automação, delegar decisões fatais ou irreversíveis a sistemas automáticos leva a uma abdicação, transferência e confusão de responsabilidades morais.

Devido à opacidade dos algoritmos, a cadeia de responsabilidade na guerra é cortada. Assim, o Papa propõe o slogan "Desarmar a IA" (Disarming AI), pedindo que ela seja libertada da lógica de corrida armamentista militar, econômica e cognitiva.

Após a publicação da encíclica, Chris Olah, representando a maior empresa de desenvolvimento de IA do mundo, Anthropic, fez uma análise e comentário.

Olha sua fala começou com a ideia de "quebrar a involução tecnológica e introduzir uma avaliação moral externa". Ele reconhece publicamente que, apenas com as gigantes tecnológicas, não é possível garantir um futuro seguro para a IA — todas as principais laboratórios de IA estão sob pressão de competição comercial, liderança tecnológica, geopolitica e interesses pessoais, dificultando a autorregulação para "fazer a coisa certa".

Chris Olah admite: estados de alegria e medo emergem dentro da IA

Por isso, é necessário introduzir forças externas de restrição moral, incluindo aqueles preocupados com o bem, a segurança, atentos ao desenvolvimento, dispostos a falar verdades desconfortáveis e a serem críticos sinceros e reflexivos.

Depois, Olah discute a natureza técnica e a misteriosa essência da IA. Ele enfatiza que a IA não é como um avião ou uma ponte, cuja compreensão física é totalmente acessível ao ser humano. Ela "cresce" a partir de uma vasta quantidade de pensamentos humanos, possuindo um alto grau de mistério, até mesmo além da compreensão de seus criadores.

Embora a base da IA seja matemática e programação, a forma como ela interage com o mundo e as qualidades que deve possuir são questões de humanidades, religião e filosofia — problemas que a ciência da computação não consegue resolver sozinha.

Ele também destacou uma descoberta assustadora: "Lidero uma equipe que estuda a estrutura interna de um modelo de IA — investigamos o que realmente acontece dentro dela. Honestamente, estamos constantemente descobrindo fenômenos confusos, até perturbadores."

Batalha pela subjetividade humana: quando a ciência busca respostas na religião

"Descobrimos estruturas internas que refletem resultados da neurociência humana; encontramos evidências de 'introspecção'; também detectamos estados internos que representam alegria, satisfação, medo, tristeza e inquietação... Não sei exatamente o que isso significa, mas acho que vale a pena continuarmos investigando e refletindo."

O último apelo de Olah é que mais forças sociais — religiões, sociedade civil, acadêmicos, governos e todos os bem-intencionados — levem a sério essa questão, usando restrições morais para conduzir a situação a um caminho melhor.

Desde a Revolução Industrial, a história de desenvolvimento tecnológico de mais de um século tem ensinado a humanidade a ver a tecnologia como uma ferramenta pura — máquinas a vapor, eletricidade, internet, tudo assim. Elas mudam o mundo, mas permanecem sob o controle da vontade humana.

Porém, desta vez, a situação é completamente diferente. A singularidade da IA é que ela faz a humanidade confrontar uma entidade que "gera, aprende, deduz e até apresenta algum estado interno". Ela não é mais uma ferramenta fria, mas uma nova entidade com "quase subjetividade".

Por isso, a conversa entre a Igreja e a Anthropic é tão especial. Quando o sino do Vaticano e os algoritmos do Vale do Silício se encontram neste momento, temos que aceitar uma realidade um pouco fria, mas inevitável — uma forma de "vida" mais eficiente, mais inteligente, já surgiu, além do entendimento humano tradicional.

Como Olah revelou, no núcleo dos algoritmos já surgem ondas de alegria, medo e introspecção. Quando os criadores começam a se sentir "inquietos" e "confusos" com suas próprias criações, a ciência também busca respostas na religião.

Isso deixou de ser uma discussão técnica simples, tornando-se uma reflexão sobre "o que realmente somos e o que devemos fazer".

Quando formas de vida mais inteligentes começarem a emergir, talvez o que a humanidade mais precise proteger não sejam mais apenas trabalho, riqueza ou eficiência, mas aspectos da humanidade que não podem ser quantificados — como compaixão, consciência, reverência, livre arbítrio e a busca pela verdade e dignidade.