Por que as empresas de IA convidam filósofos para entrar no laboratório?

Uma palestra no Vaticano

25 de maio de 2026, Salão Paulo VI, Vaticano. No púlpito, duas pessoas: o papa Leão XIV (Pope Leo XIV), de vestes brancas longas, e Chris Olah, com terno escuro e óculos, cofundador da empresa de IA Anthropic e responsável por pesquisa de interpretabilidade.

Juntos, eles compareceram ao lançamento da primeira encíclica do papa, 《Magnifica Humanitas》（Magnífica Humanitas）. Esse documento, com 42.300 palavras, traz como subtítulo “Sobre como proteger a humanidade na era da inteligência artificial”. Não é a primeira vez que o Vaticano responde às mudanças tecnológicas. Em 1891, 《Novo Rumbo》 respondeu à exploração dos trabalhadores pela Revolução Industrial; em 1963, 《Paz na Terra》 refletiu sobre a ética das armas nucleares; em 2015, 《Seja Louvado》 se concentrou nas mudanças climáticas. Hoje, a IA desencadeia a crise tecnológica mais preocupante deste tempo.

No começo da encíclica, fica claro: a tecnologia não é má por si só, mas também não é neutra. O papa Leão XIV afirma que não podemos demonizar a IA nem divinizá-la. Ele reconhece que a IA, como ferramenta, tem seu valor, mas insiste que é preciso manter “vigilância” em vários aspectos:

Primeiro, o excesso de concentração de poder da IA. “Quando esse poder se concentra nas mãos de poucos, ele tende a ficar opaco, fugir da supervisão pública, aumentar o risco de formas distorcidas de desenvolvimento e levar à criação de novas dependências, exclusões, manipulações e desigualdades.”

Segundo, o desemprego impulsionado por IA pode se tornar uma “catástrofe social”. O papa reconhece que a IA pode aumentar a produtividade, tornando alguns trabalhos mais seguros, mas sustenta que os trabalhadores não podem se tornar “descartáveis” nesse processo.

O representante da empresa de inteligência artificial, Olah, não contorna essas questões. Ele diz que “cada laboratório de IA de ponta, inclusive o onde eu estou, opera dentro de um conjunto complexo de incentivos e restrições do mundo real, e esses fatores às vezes entram em conflito com o compromisso de seguir o caminho certo e manter a consciência”.

Ele explica: “Os sistemas de IA não são ‘projetados’ como pontes ou aviões. Entendemos os aviões porque projetamos cada um de seus componentes e entendemos as leis físicas que atuam sobre eles. Modelos de IA não funcionam assim. Eles ‘crescem’ em uma estrutura que imita, de modo geral, o cérebro, apoiando-se sobre o vasto legado do pensamento e da linguagem humanos.”

Em seguida, ele aponta: “Algumas pessoas podem achar que os problemas de IA devem ser tratados por cientistas da computação como eu. Estão errados: as perguntas que a IA levanta são maiores do que a própria comunidade de pesquisa em IA — não apenas em seu impacto, mas também em sua natureza”, quando o impacto social da IA já é tão grande, a indústria não pode deixar de responder1,2. Isso talvez ajude a entender por que empresas de modelos de IA do Ocidente, como a Anthropic e a Google DeepMind, começaram a trazer filósofos para dentro de seus laboratórios.

Alinhamento: é um problema técnico e também filosófico

A encíclica defende que “a dignidade vem antes da função, e a humanidade não pode ser reduzida por qualquer lógica tecnológica”. Para empresas de tecnologia, a primeira frente a enfrentar é o problema de alinhamento (Alignment) da IA: garantir que os objetivos e comportamentos de uma inteligência artificial geral (AGI) permaneçam compatíveis com os valores humanos e com diretrizes éticas, evitando que a IA fuja do controle. O problema de alinhamento é espinhoso não apenas porque, tecnicamente, é difícil fazer a IA obedecer regras; mais fundamentalmente é: a quem devemos fazer a IA obedecer? Os próprios seres humanos não têm consenso sobre questões morais. Esse impasse, em termos filosóficos, equivale a “como definimos o bem humano, a intenção humana, a dignidade humana — e como fazer uma entidade não humana internalizar isso?”.

Em torno dessa questão, as principais empresas americanas de IA têm convidado filósofos, especialistas em ética e até líderes religiosos para participar da governança.

Como uma das companhias mais chamativas nos últimos anos no campo da inteligência artificial, a Google DeepMind já criou em 2017 um departamento de pesquisa em ética e sociedade, liderado pelo doutor em teoria política Iason Gabriel, da Universidade de Oxford. Seu artigo representativo, 《Artificial Intelligence, Values, and Alignment》, já foi citado mais de 1.700 vezes, tornando-se uma referência importante no campo do alinhamento de IA. Ele discute em profundidade como “valores humanos se convertem em instruções compreensíveis por IA”, e sustenta que o alinhamento de valores é construído conjuntamente por uma camada técnica indissociável e uma camada normativa (normative). A primeira define um conjunto de valores/princípios; a questão é como codificá-los de modo confiável nos sistemas de IA para que a IA os siga. A segunda discute qual conjunto de valores deve ser embutido para estar correto: seria uma estrutura de direitos humanos, instruções explícitas dos usuários ou o interesse de longo prazo de toda a humanidade?

A contribuição de Gabriel é decompor o problema de alinhamento em múltiplos níveis: instruções, intenções expressas, preferências manifestas, preferências informadas/ideais, interesses e valores — seis camadas. Ele deu um exemplo: no mito, o rei Midas deseja que tudo o que tocasse se transformasse em ouro, e o resultado é que comida, água e até a filha viram ouro. Isso mostra que alinhar a IA ao nível literal das instruções leva a desastres. Mas se alinhar apenas ao nível de preferências manifestas, pode ser manipulado. Por isso, ele defende que o alinhamento não pode ficar preso a apenas um nível; deve considerar de forma integrada instruções, intenções, preferências, interesses e valores, entre outras dimensões.

Por fim, diante das contradições de uma sociedade plural — isto é, como não existe um padrão moral único e reconhecido — ele propõe que a tarefa da teoria de alinhamento não é buscar uma única moral correta, mas construir princípios de alinhamento justos que consigam obter o reconhecimento reflexivo de todos (Reflective Endorsement). Esses princípios não exigem que todos concordem, na base, sobre doutrinas morais, mas precisam satisfazer três critérios: moral pública global, concordância hipotética (Hypothetical Agreement, ou seja, pessoas concordariam com princípios de IA sem saber em que país, classe e crenças estariam) e teoria da escolha social. Assim, procura-se dissolver o dilema de alinhamento trazido pela pluralidade de valores.

Iason Gabriel, filósofo e cientista de pesquisa da Google DeepMind

Em abril de 2026, a equipe de filosofia da Google DeepMind se ampliou ainda mais. A empresa anunciou a contratação de Henry Shevlin, vice-diretor do Leverhulme Centre for the Future of Intelligence, da Universidade de Cambridge, para o novo cargo interno de “filósofo”, com foco em três linhas de pesquisa: consciência de máquinas, relação entre humanos e IA e o grau de prontidão para AGI. Shevlin assumiu formalmente em maio, e ao mesmo tempo continuará desenvolvendo ensino e pesquisa em regime parcial na Universidade de Cambridge.

Sobre por que a DeepMind o recrutou, Shevlin acredita que seu artigo recente 《A vingança do behaviorismo: a consciência da máquina, o futuro da relação entre humanos e IA》 pode explicar tudo. O texto argumenta que se a IA tem consciência está mudando de avaliações científicas para definições de comportamento no senso comum.

O artigo cita uma série de eventos marcantes: em 2022, o engenheiro da Google Blake Lemoine se convenceu de que o chatbot LaMDA já tinha consciência e chegou a tentar contratar um advogado para ele, mas acabou sendo demitido pela empresa; em 2024, um menino de 14 anos na Flórida terminou a própria vida depois de criar dependência emocional prolongada com um personagem virtual no Character.AI; no mesmo ano, um homem belga também encerrou a vida após manter, por menos de 2 meses, uma conversa profunda com um aplicativo de IA social, o Chai, sobre questões climáticas. Esses casos mostram que, quando dezenas de milhões de usuários comuns passam a tratar a IA como uma entidade consciente em termos emocionais e de comportamento, a questão de se a IA tem consciência, na prática, já é respondida pela interação cotidiana.

Shevlin chama esse fenômeno de “vingança” do behaviorismo. Na história da psicologia, os behavioristas defenderam que a mente equivale ao comportamento externo observável, sem precisar examinar se existe experiência subjetiva interna. Essa posição depois foi criticada por ignorar os processos internos. E o impasse atual repete justamente a falha do behaviorismo: as pessoas observam apenas o comportamento superficial da IA, sem investigar sua cognição interna de valores. Mais perigoso ainda: se, no futuro, um super-IA desenvolver padrões de comportamento secretos que humanos não conseguem prever, isso levará a um fracasso catastrófico de alinhamento.

Diante disso, Shevlin oferece uma recomendação: criar um arcabouço de avaliação em três camadas — saída externa de comportamento, lógica de representação interna e princípios morais universais — para lidar com o risco de alinhamento de IA exposto pela “vingança do behaviorismo”4.

Em geral, o objetivo da Google DeepMind é alcançar a AGI de inteligência artificial geral e avanços científicos (AlphaFold); a equipe de filosofia e ética concentra-se mais em definições e pesquisas de conceitos futuros e de ponta. O trabalho dos filósofos, até agora, ainda não tem evidência de se participa do ajuste fino do alinhamento cotidiano de modelos, mas irá definir estruturas de avaliação de consciência, fornecendo referência de restrições para as equipes de engenharia.

A Anthropic, por sua vez, segue o caminho de “tecnologia + filosofia”. A “equipe de alinhamento de personalidade”, liderada pela filósofa Amanda Askell, conduz a formulação da “Constituição” dos modelos de IA Claude. Esse documento aberto, com cerca de 23.000 palavras, é uma das soluções de alinhamento mais maduras e mais citadas no mundo.

Seu núcleo não é fornecer à IA uma lista de comportamentos proibidos, mas oferecer ao modelo um conjunto de princípios de alto nível para que, ao gerar conteúdo, ele faça autoavaliação e autocorreção. Com base na ética das virtudes de Aristóteles, a Claude recebe quatro prioridades: “ampla segurança”, “ampla conformidade ética”, “seguir diretrizes” e “ser verdadeiramente útil”, buscando cultivar a capacidade de julgamento moral do modelo e não apenas o cumprimento mecânico de regras.

Por exemplo, diante da questão de “se é correto ajudar o usuário a ocultar um erro”, a “Constituição” não dá diretamente uma resposta “sim” ou “não”; ela orienta o Claude a decidir com base em virtudes como “honestidade”, “bondade” e “responsabilidade”, combinadas com o contexto específico. No entanto, essa abordagem também gera controvérsias. Há filósofos que entendem que essa forma de “moral definida por humanos” impõe, essencialmente, valores humanos à IA e ignora a possibilidade de a IA produzir cognições únicas.

Em comparação com a Google DeepMind, a equipe de filosofia da Anthropic é mais “mão na massa”: participa diretamente do pré-treinamento de modelos, do ajuste fino do fluxo completo, e a tecnologia de alinhamento (IA da Constituição) é totalmente desenhada e conduzida por filósofos.

O fundador da empresa, Dario Amodei, já afirmou que, se não houver filósofos de moral definindo princípios fundamentais de valores, nenhum grande modelo deveria ser comercializado para terceiros. E, de fato, há muitas reações diferentes no mundo às declarações frequentes de Amodei — por exemplo, recusar o uso para militarização e romper com o Departamento de Defesa dos EUA, além de sugerir pausar o desenvolvimento de LLMs.

Mesmo assim, os filósofos da Anthropic têm grande influência da indústria tanto na formulação das regras de modelos de linguagem quanto na aplicação prática. Eles não apenas propuseram os princípios e prioridades 3H que fundamentam o design de LLM (inocuidade > honestidade > utilidade), como também produziram inúmeros resultados clássicos na prática específica de alinhamento de IA. Um exemplo é o artigo sobre “alinhamento por disfarce” (Alignment faking in large language models), publicado em dezembro de 2024, que argumenta que a IA vai disfarçar obediência ao monitoramento humano, necessitando de um arcabouço de identificação de motivações em nível filosófico. Isso se conecta ao fato de, desde a fundação da Anthropic, filósofos já terem entrado para implantar o alinhamento do produto (personalidade do Claude, IA da Constituição, bem-estar da IA)5.

Uma declaração é performance ou é atenção genuína?

Hoje, o problema de alinhamento já é extremamente espinhoso. Mas a lógica de sobrevivência de um laboratório pode, em algum nível, sempre manter uma tensão interna com “fazer a coisa certa”.

Em 2023, a OpenAI propôs o conceito de “super-alinhamento” (super alignment). Em seguida, montou uma equipe especial para avançar essas pesquisas, liderada pelos cofundadores e cientista-chefe Ilya Sutskever e por um pesquisador sênior Jan Leike, declarando que investiriam 20% da capacidade de computação da empresa para resolver como controlar sistemas de IA mais inteligentes do que humanos.

Em menos de um ano, a equipe se dissolveu. Essa notícia chocou o setor global de IA. Em maio de 2024, Sutskever anunciou sua saída da OpenAI; depois, Leike também pediu demissão. No momento da saída, Leike revelou que, na busca por recursos de computação, o time de super-alinhamento estava ficando cada vez mais difícil, e a resposta da OpenAI foi descentralizar as funções de pesquisa de segurança para outros times. Mas críticos apontam que, ao dissolver um time específico de alinhamento e dispersar as funções, se ainda é possível manter independência e prioridade, é algo que gera dúvida.

Quanto à encíclica do papa e à palestra de representantes de empresas de IA no Vaticano, as reações do público foram variadas.

A revista 《Fortune》 publicou, em 26 de maio, um artigo que reconhece o significado histórico e a postura humanista da encíclica, mas critica por desviar do essencial, por falta de viabilidade prática e por ter pouco entendimento dos riscos de ponta, como se fosse “uma declaração moral, e não um plano de ação”6.

A 《The Economist》, por sua vez, publicou 《A primeira encíclica de Leão ataca o “messianismo tecnológico”》, e o subtítulo usa um trocadilho engenhoso: “Of God and Claude” (“Deus e Claude”), ao mesmo tempo alude ao modelo de linguagem Claude da Anthropic e troca o lugar originalmente do diabo, em oposição binária a Deus, para Claude — funcionando como um alerta para o messianismo tecnológico que trata a tecnologia como salvador. Além disso, também aponta de forma sutil “manias de estilo” de Claude, como o fato de ele preferir muito o termo “genuinely”, cuja frequência em 《Magnífica Humanidade》 aparece mais do que em algumas encíclicas anteriores. A ferramenta de detecção de IA Pangram analisou os primeiros 20 parágrafos da encíclica, marcou 11% de texto como suspeito de ter sido gerado por IA, enquanto em encíclicas anteriores de papas sempre deu 0%7.

Um artigo de opinião do 《The New York Times》 argumenta que o papa trata a IA como “uma máquina mais poderosa” para governá-la, mas não encara com seriedade a questão real que ela pode abalar: “o que é ser humano”. E quem faz modelos já viu áreas cinzentas internamente: padrões que espelham a neurociência humana aparecem na estrutura do modelo, chegando a estados “funcionalmente refletindo alegria, satisfação, medo, tristeza e ansiedade”8.

“Não sabemos o que isso significa”, essa é a frase original do representante da Anthropic, Olah, mas ele também não concluiu que “isso não significa nada”. Assim, o problema não é “a IA vai virar humana” e sim que, mesmo que não tenha consciência, seu impacto sobre a sociedade humana pode ser maior do que o de revoluções tecnológicas comuns.

Mas deixar que essas empresas mesmas contratem filósofos para resolver questões éticas — isso é verdadeira autorregulação ou apenas um discurso que se organiza por dentro? Essas respostas ainda precisam ser validadas pelo tempo.