Fundador da Anthropic, Chris Olah, alerta: IA pode desencadear uma «crise moral de nível histórico», pedindo intervenção religiosa na supervisão

A IA não é apenas uma máquina fria, ela pode estar sentindo medo e tristeza?
O gigante de inovação em IA Anthropic, cofundador Chris Olah, foi convidado inédito a subir ao palco do Vaticano, para um diálogo com o Papa Leão XIV.
Olah alertou severamente que a IA trará uma crise moral e de desemprego histórica, e que as decisões internas das gigantes tecnológicas estão profundamente capturadas por interesses comerciais, clamando que a religião e o governo devem intervir fortemente na supervisão.
Mais ainda, gerou grande repercussão o fato de que a Anthropic atualmente está sendo banida pelo governo Trump por se recusar a permitir que o exército dos EUA use sua IA sem restrições.
(Resumo anterior: A Casa Branca e a Anthropic chegaram a um acordo, a NSA integrará totalmente o Claude AI)
(Complemento de contexto: A era das empresas unipessoais chegou! Anthropic lança o "Manual de Criação de Startups com IA": mesmo sem programar, você pode ser CEO de tecnologia)

Índice deste artigo

Alternar

• A confissão das gigantes tecnológicas: as decisões de IA não podem ficar só conosco
• Modelos de IA não são apenas código, já possuem "espelho emocional"?
• Recusar o uso de IA pelo exército dos EUA, e ser completamente banido pelo governo Trump

Quando a inteligência artificial (IA) mais avançada encontra o maior líder religioso do mundo, uma conversa histórica que pode definir o futuro da humanidade começa oficialmente.

Chris Olah, cofundador da Anthropic, avaliada em 7 bilhões de dólares e criadora do famoso chatbot Claude, foi convidado inédito a visitar o Vaticano e participar de um encontro com o Papa Leão XIV, o primeiro pontífice americano.
Este encontro não só focou no impacto destrutivo da IA no mercado de trabalho, mas também revelou desenvolvimentos inquietantes internos dos modelos de IA e o conflito intenso entre as gigantes tecnológicas e o governo dos EUA.

A confissão das gigantes tecnológicas: as decisões de IA não podem ficar só conosco

Na segunda-feira, o Papa Leão XIV publicou pessoalmente sua primeira encíclica sobre IA — "Magnifica Humanitas" — um documento histórico de 235 páginas que alertou severamente sobre os perigos de delegar "decisões fatais" aos sistemas de IA.
O Papa quebrou tradições ao conduzir a apresentação pessoalmente e convidar Olah ao palco, tentando estabelecer um diálogo direto com os criadores de tecnologia.

Como chefe de pesquisa da Anthropic, Olah admitiu as limitações e os aspectos sombrios do setor tecnológico.
Ele afirmou que todos os principais laboratórios de IA, incluindo a Anthropic, estão presos em um turbilhão de interesses comerciais, geopolíticos e pressões pessoais, que "às vezes entram em conflito com fazer a coisa certa".
Olah disse seriamente:

"Por isso, a supervisão externa de líderes religiosos, governos e sociedade civil é fundamental. Por mais bem-intencionados que os pesquisadores sejam, eles não podem escapar dessas motivações. As decisões de IA não podem ficar só com essa indústria."

Ele ainda alertou que os benefícios do desenvolvimento de IA estão altamente concentrados em "poucos países ricos", sem mecanismos de compartilhamento com países pobres, o que pode desencadear uma "crise moral de proporções históricas".

Modelos de IA não são apenas código, já possuem "espelho emocional"?

Além dos alertas econômicos gerais, as revelações técnicas de Olah foram surpreendentes. Como pioneiro na área de "interpretabilidade" de IA, ele trabalha para desvendar a caixa preta dos grandes modelos de linguagem.
Ele revelou que pesquisadores continuam descobrindo "coisas misteriosas e até perturbadoras" dentro desses sistemas.

Estudos mostram que esses sistemas de IA não apenas refletem seus processos de pensamento, mas também demonstram "estado interno que reflete alegria, satisfação, medo, tristeza e ansiedade".
"Elas não são apenas máquinas frias de cálculo, como prometido. São feitas de nós, das nossas palavras", enfatizou Olah.
Isso explica por que as questões levantadas pela tecnologia de IA já ultrapassaram o simples campo da ciência da computação.

Recusar o uso de IA pelo exército dos EUA, e ser completamente banido pelo governo Trump

Este encontro no Vaticano, de união entre religião e tecnologia, ocorre justamente quando a Anthropic enfrenta uma pressão política sem precedentes.

Sabe-se que a Anthropic está atualmente envolvida em uma disputa legal acirrada com o governo Trump, por se recusar a permitir que o exército dos EUA utilize sua IA sem restrições para defesa e guerra.
Em fevereiro, o Pentágono classificou a Anthropic como uma "ameaça à cadeia de suprimentos de segurança nacional" — um rótulo geralmente usado contra empresas estrangeiras hostis.
O presidente Trump ordenou que todas as agências federais proibissem o uso da tecnologia Claude, e o governo federal criticou publicamente a Anthropic como uma "empresa woke, de esquerda e progressista".

Apesar da proibição total pelo governo dos EUA, a Anthropic continua sendo uma gigante de tecnologia altamente valorizada.
Relatórios indicam que essa empresa, avaliada em 3,8 trilhões de dólares, busca uma nova rodada de financiamento de até 9 trilhões de dólares.
Sob a pressão de interesses comerciais, do aparato estatal e de limites morais, a Anthropic trilha um caminho de desenvolvimento tecnológico extremamente incomum.