AI Renascimento》filósofos se tornam itens cobiçados em laboratórios de IA, integrando ética aos seus modelos.

Quando você pergunta a Claude se deve ou não fazer algo, já há alguém que pensou na resposta por trás, e essa pessoa pode ser um filósofo. A Anthropic e a OpenAI estão forçando dois quadros éticos, deontologia e consequencialismo, nas regras de comportamento da IA.
(Recapitulação: Da saída da OpenAI ao confronto com o Pentágono: como os irmãos da Anthropic traçaram linhas vermelhas para a IA, evitando o colapso da civilização)
(Complemento de contexto: Teste real do jogo Battle Royale do OpenRouter: Grok reina, o bom hábito de Claude se torna sua fraqueza fatal)

Índice deste artigo

Toggle

• As duas filosofias por trás das regras
• Por que filósofos?
• Números são apenas uma fração, e a posição pode não ser neutra

Pergunte a Claude e ao ChatGPT a mesma questão espinhosa, e as respostas podem ser completamente diferentes. Isso não é viés nos dados de treinamento, nem ruído aleatório, mas sim porque dois quadros filosóficos opostos estão sendo escritos nos códigos de conduta de cada empresa de IA. Por trás do modelo que você usa, há na verdade um produto de alguma posição ética.

As duas filosofias por trás das regras

A "Constituição da IA" (em termos simples, o conjunto de regras que restringe as respostas e ações do modelo) não é apenas um jargão de marketing das startups, mas uma tentativa de traduzir a ética abstrata em instruções executáveis pelo sistema. O problema é que a própria ética tem divergências fundamentais.

Deontologia (deontology, em termos simples, "algumas coisas simplesmente não podem ser feitas, custe o que custar"): Não importa quão boas sejam as consequências, mentir, coagir e tratar pessoas como meios são linhas vermelhas intransponíveis.

Consequencialismo (consequentialism, em termos simples, "fazer o balanço geral, se os benefícios superarem os danos, pode ser feito"): Medir custos e benefícios; desde que os benefícios esperados superem os riscos previsíveis, a ação é justificada.

O Claude da Anthropic tende mais à linha deontológica, com comportamento do modelo mais consistente e com menos exceções em diferentes contextos, como doméstico ou público; o ChatGPT e o Google Gemini são mais próximos do consequencialismo, tendendo a avaliar riscos e benefícios caso a caso.

Essa diferença não é acidental. A equipe de formulação da "Constituição" da Anthropic inclui explicitamente os filósofos Amanda Askell e Joe Carlsmith, trazendo o treinamento filosófico para o núcleo do alinhamento do modelo. Esta é uma tensão real: a mesma solicitação, um sistema deontológico pode recusar diretamente, enquanto um consequencialista pode primeiro perguntar "no final, a quem isso beneficia?"

Por que filósofos?

Há dez anos, alunos de humanas costumavam ouvir de professores que "aprender programação é o caminho"; agora são os engenheiros que se preocupam: a IA tornará suas habilidades obsoletas?

Anthropic, Google DeepMind e Meta têm recrutado ativamente pesquisadores de filosofia, ética e ciência cognitiva nos últimos anos, e isso não é apenas uma jogada de relações públicas. A IA está lidando com um conjunto de problemas que não têm uma única solução técnica: consciência, agência, responsabilidade, governança de segurança, julgamento de valor. Sam Altman afirmou publicamente que a OpenAI consultou "centenas de filósofos morais" ao formular as regras do ChatGPT, e mesmo que o número não seja exato, a direção já diz muito.

Anthropic e Google DeepMind foram além, investindo em pesquisa de "bem-estar da IA", investigando se o modelo possui estados internos semelhantes a sentimentos. Essa pesquisa anda em paralelo com a busca pela AGI: se a IA realmente se aproximar de uma consciência semelhante à humana, a compreensão dos filósofos sobre consciência, sujeito e linguagem não será apenas um enfeite das humanidades, mas sim uma perspectiva que os engenheiros não têm.

Na comunidade de desenvolvedores Hacker News, há também observações construtivas: fornecer ao LLM o contexto de propósito, razão e trade-offs resulta em respostas mais confiáveis do que comandos puros. Talvez isso seja exatamente o que o treinamento filosófico faz: primeiro esclarecer "qual problema resolver", depois perguntar "se, através de testes, realmente atende ao propósito".

Claro, há quem contra-argumente que isso se parece mais com esclarecimento de requisitos de produto, não podendo ser equiparado diretamente à argumentação rigorosa da filosofia acadêmica.

Números são apenas uma fração, e a posição pode não ser neutra

Claro, descrever essa tendência como "filósofos invadindo a indústria de tecnologia" já é um exagero. Na realidade, as posições para filósofos ainda são escassas em toda a indústria de tecnologia, muito menos do que um por cento dos engenheiros.

E o problema mais fundamental não está nos números, mas na estrutura: os filósofos empregados conseguem realmente desafiar as decisões comerciais dos patrões? As equipes de ética de IA das empresas de tecnologia têm precedentes históricos: quando as conclusões da pesquisa entram em conflito com os interesses comerciais, essas posições costumam ser as primeiras a desaparecer.

Isso não é apenas uma questão de governança corporativa, mas também envolve os riscos do próprio quadro filosófico. O consequencialismo parece racional e quantificável, mas quando aplicado ao desenvolvimento de armas, decisões políticas ou sistemas em larga escala, a imprevisibilidade das consequências faz com que o cálculo de "benefícios superam danos" rapidamente saia do controle.