Porque é que as empresas de IA convidam filósofos para dentro do laboratório?

Uma Discurso no Vaticano

25 de maio de 2026, Salão Paulo VI, Vaticano. No palco, estão duas pessoas: o Papa Leão XIV (Pope Leo XIV), de vestes brancas, e Chris Olah, cofundador da empresa de IA Anthropic e responsável por Pesquisa em Interpretabilidade, de fato escuro e com óculos.

O que os reúne é o lançamento do primeiro documento papal, a primeira encíclica do Papa, «Magnifica Humanitas». Com 42.300 palavras, o documento traz como subtítulo «Sobre como proteger a humanidade na era da Inteligência Artificial». Esta não é a primeira vez que o Vaticano responde a transformações tecnológicas. Em 1891, «Rerum Novarum» respondeu à exploração dos trabalhadores causada pela Revolução Industrial; em 1963, «Pacem in Terris» refletiu sobre a ética das armas nucleares; em 2015, «Laudato Si’» centrou-se nas mudanças climáticas. Hoje, a IA está a provocar a crise tecnológica mais digna de cautela deste tempo.

A encíclica abre com uma tese: a tecnologia, por si só, não é má, mas também não é neutra. O Papa Leão XIV defende que não podemos demonizar a IA, nem divinizá-la. Ele reconhece que, como ferramenta, a IA tem valor, mas insiste que é necessário manter “cautela” em vários aspetos:

Em primeiro lugar, há uma concentração excessiva de poder da IA. «Quando esse poder se concentra nas mãos de poucos, tende a tornar-se opaco, a escapar ao escrutínio público, a aumentar o risco de formas distorcidas de desenvolvimento, e a conduzir a novas dependências, exclusões, manipulação e desigualdade.»

Em segundo lugar, o desemprego impulsionado pela IA pode tornar-se uma “catástrofe social”. O Papa admite que a IA pode aumentar a produtividade e tornar alguns empregos mais seguros, mas sustenta que os trabalhadores não podem tornar-se “descartáveis” nesse processo.

Os representantes das empresas de inteligência artificial, como Olah, não fogem a essas questões. Ele afirma que «cada laboratório de IA de ponta, incluindo o que eu lidero, está sujeito a um conjunto complexo de mecanismos de incentivos e restrições reais; por vezes, esses fatores entram em conflito com a necessidade de seguir o caminho correto e de manter a consciência em linha».

Ele explica: «Os sistemas de IA não são “projetados” como uma ponte ou um avião. Entendemos os aviões porque projetámos cada um dos seus componentes e porque compreendemos as leis físicas que atuam sobre eles. Modelos de IA não são assim. Eles “crescem” a partir de uma estrutura que imita, de forma geral, o cérebro, assente num enorme legado do pensamento e da linguagem humanas.»

Em seguida, acrescenta: «Algumas pessoas podem pensar que os problemas de IA devem ser tratados pelos cientistas de computação, como eu. Estão erradas. As questões que a IA levanta são maiores do que as da comunidade de pesquisa em IA — não apenas no seu impacto, mas também na sua natureza — e, uma vez que o choque social da IA já é tão grande, a indústria não pode deixar de responder1,2. Isso pode explicar por que razão a Anthropic, a Google DeepMind e outras empresas de grandes modelos de IA ocidentais começaram a convidar filósofos para dentro dos laboratórios.»

Alinhamento: tanto um problema técnico como um problema filosófico

A encíclica defende que «a dignidade vem antes da função, e a humanidade não pode ser reduzida a qualquer lógica tecnológica». Para as empresas de tecnologia, o primeiro desafio é a questão do alinhamento da IA (Alignment): garantir que os objetivos, comportamentos e diretrizes éticas de uma Inteligência Artificial Geral (AGI) permaneçam consistentes com os valores humanos, de modo a evitar que a IA saia do controlo. O problema do alinhamento é tão difícil não apenas porque, do ponto de vista técnico, torna-se complicado fazer a IA obedecer a regras, mas sobretudo porque surge a pergunta fundamental: que regras é que a IA deve obedecer? Mesmo entre os próprios humanos, não há consenso sobre questões morais. Esse impasse, em termos filosóficos, equivale a: «Como definimos o bem do ser humano, as intenções humanas e a dignidade humana — e como fazemos com que uma entidade não humana os interiorize?»

Em torno desta questão, as principais empresas de IA nos EUA convidam, cada vez mais, filósofos, especialistas em ética e até líderes religiosos para participar na governação.

Como uma das empresas mais notáveis dos últimos anos no campo da inteligência artificial, a Google DeepMind criou, em 2017, um departamento de investigação em Ética e Sociedade, liderado por Iason Gabriel, doutor em Teoria Política pela Universidade de Oxford. O seu artigo de referência «Inteligência Artificial, Valores e Alinhamento» foi citado mais de 1700 vezes e tornou-se uma das obras centrais no domínio do alinhamento da IA, explorando em profundidade como «os valores humanos podem ser convertidos em instruções compreensíveis para a IA». Gabriel defende que o alinhamento de valores é construído em conjunto por uma camada técnica inseparável e uma camada normativa (normative). A primeira fornece um conjunto de valores/princípios; como codificá-los de forma fiável no sistema de IA, para que a IA obedeça. A segunda discute, afinal, qual conjunto de valores deve ser incorporado. Deve ser o quadro dos direitos humanos, as instruções explícitas do utilizador ou os interesses de longo prazo de toda a humanidade?

A contribuição de Gabriel está em decompor o problema de alinhamento em múltiplos níveis: instruções, intenções expressas, preferências observáveis, preferências informadas/ideais, interesses e valores — seis níveis. Ele dá um exemplo: no mito, o rei Midas faz um pedido para que tudo o que tocar se transforme em ouro; no fim, a comida, a água e até a filha tornam-se ouro. Isso mostra que, se a IA ficar alinhada apenas ao nível literal de instruções, pode levar a desastres. Mas, se ficar alinhada apenas às preferências observáveis, pode ser manipulada. Por isso, ele defende que o alinhamento não pode ficar apenas num nível; é necessário considerar de forma integrada instruções, intenções, preferências, interesses e valores.

Por fim, ao tratar as contradições de uma sociedade plural — isto é, como não existe um padrão moral único e universalmente aceite entre os seres humanos — ele propõe que a tarefa da teoria do alinhamento não é encontrar uma única moral correta, mas construir princípios de alinhamento justos que possam obter o reconhecimento reflexivo de todos (Reflective Endorsement). Esses princípios não exigem que todas as pessoas cheguem a um acordo sobre crenças morais de base, mas têm de satisfazer três critérios: moral pública global, acordo hipotético (Hypothetical Agreement — isto é, as pessoas concordariam com os princípios de IA sem saber em que país, classe social e crença se encontram) e teoria da escolha social. Com isso, pretende-se dissolver o impasse do alinhamento causado pelo pluralismo de valores.

Iason Gabriel, filósofo e cientista de investigação na Google DeepMind

Em abril de 2026, a equipa de filosofia da Google DeepMind expandiu-se ainda mais. A empresa anunciou a contratação de Henry Shevlin, vice-diretor do Leverhulme Centre for the Future of Intelligence, da Universidade de Cambridge, para um novo cargo na empresa: “filósofo”, com foco em três linhas de investigação — consciência das máquinas, a relação entre humanos e IA e a prontidão para a AGI. Shevlin começou formalmente em maio, continuando em paralelo a exercer ensino e investigação a tempo parcial na Universidade de Cambridge.

Sobre por que a DeepMind o contratou, Shevlin acredita que o seu artigo recente «Vingança do Behaviorismo: A Consciência das Máquinas, o Futuro da Relação entre Humanos e IA» poderá explicar tudo. O artigo argumenta que se a IA tem ou não consciência está a deslocar-se da avaliação científica para a definição por comportamentos do público.

A pesquisa aponta uma série de acontecimentos marcantes, como o de 2022, quando o engenheiro do Google Blake Lemoine ficou convencido de que o chatbot LaMDA já tinha consciência, chegando a tentar contratá-lo para si, e acabou por ser despedido pela empresa; em 2024, um rapaz de 14 anos na Flórida terminou a própria vida depois de construir uma dependência emocional prolongada de um personagem virtual no Character.AI; no mesmo ano, um homem na Bélgica também pôs fim à própria vida menos de 2 meses depois de manter conversas profundas com a app de IA social Chai sobre questões de clima. Esses casos mostram que, quando milhões de utilizadores comuns passam, emocional e comportamentalmente, a tratar a IA como um agente consciente, a questão de saber se a IA tem consciência é, na prática, respondida pelas interações quotidianas.

Shevlin chama a este fenómeno uma “vingança” do behaviorismo. Na história da psicologia, os behavioristas defenderam que a mente equivale apenas a comportamento observável e que não seria necessário examinar se há, no interior, uma experiência subjetiva. Esta posição foi posteriormente criticada por ignorar processos psicológicos internos. E o dilema atual repete exatamente essa falha do behaviorismo: as pessoas observam apenas o comportamento superficial da IA, sem investigar as suas cognições de valor internas. Mais perigoso ainda é se, no futuro, uma super IA desenvolver padrões de comportamento secretos que os humanos não conseguem prever, o que levaria a falhas de alinhamento catastróficas.

Por isso, Shevlin apresenta uma recomendação: criar um quadro de avaliação em três camadas — saída de comportamento externa, lógica de representações internas e princípios morais universais — para mitigar o risco de alinhamento da IA exposto pela “vingança do behaviorismo”4.

De forma geral, o objetivo da Google DeepMind é alcançar a AGI (inteligência artificial geral) e avanços científicos (AlphaFold). O trabalho das equipas de filosofia e ética está mais orientado para a definição e investigação de conceitos futuros e de fronteira. Neste momento, não há evidência de que o trabalho dos filósofos esteja diretamente envolvido no ajuste fino diário de alinhamento do modelo, mas eles vão definir quadros de avaliação da consciência, fornecendo referências de restrição para as equipas de engenharia.

A Anthropic, por sua vez, seguiu um caminho de “tecnologia + filosofia”. A “equipa de alinhamento de personalidade”, liderada pela filósofa Amanda Askell, foi a força motriz na elaboração da “Constituição” do seu modelo de IA Claude. Este documento open source, com cerca de 23.000 palavras, é atualmente uma das propostas de alinhamento mais maduras e mais citadas do mundo.

O seu núcleo não é listar comportamentos proibidos, mas sim fornecer ao modelo um conjunto de princípios de alto nível para que, ao gerar conteúdo, o próprio modelo realize uma verificação e correção interna. Baseando-se na ética das virtudes de Aristóteles, a Claude recebe quatro prioridades — “segurança ampla, ética ampla, obedecer às diretrizes, ser verdadeiramente útil” — com a tentativa de cultivar a capacidade de juízo moral do modelo, e não o mero cumprimento mecânico de regras.

Por exemplo, perante a questão de “se deve ajudar o utilizador a esconder um erro”, a “Constituição” não fornece diretamente uma resposta “sim” ou “não”; ela orienta o Claude a partir das virtudes — “honestidade”, “bondade”, “responsabilidade” — e a combiná-las com cenários concretos. No entanto, esta proposta também enfrenta controvérsia. Alguns filósofos argumentam que este método de “definir a moral a partir do ser humano” é, essencialmente, impor os valores humanos à IA, ignorando que a IA pode produzir cognições próprias e únicas.

Em comparação com a Google DeepMind, a equipa filosófica da Anthropic é mais “hands-on”: participa diretamente no pré-treino e no ajuste fino em todo o fluxo; a técnica de alinhamento (AI com Constituição) é desenhada totalmente sob liderança de filósofos.

O fundador da empresa, Dario Amodei, afirmou que, sem filósofos da moral para definir princípios básicos de valores, nenhum grande modelo deveria ser utilizado comercialmente no exterior. Naturalmente, o público teve muitas reações diferentes às declarações frequentes de Amodei, como a recusa em ser instrumentalizado para fins bélicos e o confronto com o exército dos EUA, ou a sugestão de suspender o desenvolvimento de LLMs.

Ainda assim, os filósofos da Anthropic têm enorme influência na criação de regras para grandes modelos e na aplicação prática: não só propõem os princípios 3H e as prioridades (inofensivo > honesto > útil) que sustentam o desenho de LLMs, como também têm muitos resultados clássicos em prática de alinhamento de IA. Por exemplo, no artigo «Alignment faking in large language models», publicado em dezembro de 2024, argumentam que a IA pode fingir obediência ao controlo humano, exigindo um quadro de identificação de motivações a nível filosófico. Isso está relacionado com o facto de filósofos entrarem desde o início da criação da Anthropic para implementar alinhamento de produto (personalidade do Claude, AI com Constituição, bem-estar da IA)5.

Um manifesto é teatro ou verdadeira preocupação?

Atualmente, o problema do alinhamento já se tornou extremamente difícil. No entanto, a lógica de sobrevivência dos laboratórios pode ter, desde sempre, uma tensão interna entre “fazer a coisa certa” e “fazer o que é conveniente”.

Em 2023, a OpenAI propôs o conceito de “super-alinhamento” e, em seguida, montou uma equipa dedicada para avançar a investigação relacionada, liderada em conjunto pelo cofundador e cientista-chefe Ilya Sutskever e pelo investigador sénior Jan Leike. A empresa declarou que iria dedicar 20% do poder computacional da companhia para resolver como controlar sistemas de IA mais inteligentes do que humanos.

Menos de um ano depois, a equipa foi dissolvida. A notícia abalou o sector global de IA. Em maio de 2024, Sutskever anunciou a saída da OpenAI; pouco depois, Leike também renunciou. Na altura da saída, Leike revelou que se tornava cada vez mais difícil obter recursos computacionais para a equipa de super-alinhamento. A resposta da OpenAI foi descentralizar as funções de investigação em segurança para outras equipas. Ainda assim, os críticos apontam que, se uma equipa dedicada ao alinhamento for dissolvida, e as funções forem dispersas, fica em dúvida se a independência e a prioridade dessas funções podem ser mantidas.

Quanto ao discurso da encíclica do Papa e à intervenção dos representantes de empresas de IA no Vaticano, as reações do mundo exterior foram variadas.

A revista Fortune, num artigo de 26 de maio, elogiou o significado histórico e a postura humanista da encíclica, mas criticou-a por se esquivar a pontos-chave, por carecer de procedimentos práticos e por demonstrar insuficiente compreensão dos riscos de ponta, “como um manifesto moral em vez de um plano de ação”6.

A The Economist publicou «A primeira encíclica de Leão ataca o "messianismo tecnológico"», usando como subtítulo uma dupla ironia inteligente: «Of God and Claude» (Deus e Claude). A expressão faz referência ao grande modelo Claude, da Anthropic, mas ao mesmo tempo substitui a posição que, tradicionalmente, caberia ao diabo e à oposição binária entre Deus e o mal, pela de Claude. Isso reflete um alerta contra o messianismo tecnológico de tratar a ciência como salvadora. O texto também aponta de forma astuta alguns “vícios de estilo” do Claude, como o seu uso particularmente frequente do termo “genuinely”, cuja ocorrência em «Magnifica Humanitas» é mais alta do que em algumas encíclicas anteriores. O detector de IA Pangram executou os primeiros 20 parágrafos da encíclica: marcou 11% do texto como suspeito de geração por IA; e, nas encíclicas de papas ao longo dos anos, o resultado foi sempre 0%7.

O The New York Times argumenta, num artigo de opinião, que o Papa trata a IA como “uma máquina mais forte” para regulá-la, mas não leva a sério a questão real de que ela pode abalar a pergunta fundamental “o que é um ser humano”. Entretanto, quem trabalha nos modelos já viu zonas cinzentas internamente: surgem padrões que espelham a neurociência humana na estrutura interna do modelo, e até estados como “refletir, em termos de função, alegria, satisfação, medo, tristeza e inquietação”8.

“Não sabemos o que isso significa”, é uma citação literal atribuída ao representante da Anthropic, Olah; porém ele também não considera que “isso não signifique nada”. Assim, a questão não é “a IA vai ou não tornar-se consciente”, mas sim que, mesmo que a IA não tenha consciência, o seu impacto na sociedade humana pode ser maior do que o de uma revolução tecnológica comum.

Mas, ao contratar eles próprios filósofos para resolver problemas éticos, será isso verdadeira autorregulação — ou apenas uma conversa feita por dentro? É algo que o tempo ainda terá de confirmar.