Исследователи DeepMind назвали спор о сознании ИИ политической проблемой - ForkLog

# Pesquisadores da DeepMind chamaram a discussão sobre a consciência da IA de problema político

Futuras divergências sobre a consciência da IA podem ser profundas, difíceis de resolver e levar a conflitos políticos. Essa foi a conclusão dos pesquisadores da Google DeepMind Adam Beales e Iason Gabriel.

Em seu trabalho Artificial Minds, Human Disagreement: The Politics of AI Consciousness, os autores afirmaram que a sociedade precisa discutir não apenas a questão "a IA é consciente", mas também como tomar decisões na ausência de consenso público e de especialistas.

Qual é a tese principal

Segundo os pesquisadores, as pessoas podem reagir de maneiras diferentes a sistemas de IA mais avançados. Algumas irão estabelecer vínculos emocionais com eles e atribuir-lhes consciência, outras acharão a própria ideia absurda.

Os autores acreditam que essa discussão pode rapidamente sair do âmbito científico. Divergências sobre a consciência da inteligência artificial podem levar a conflitos morais e políticos — por exemplo, sobre se é permitido desligar certos sistemas, se é necessário considerar suas possíveis preferências e se é possível falar sobre o status moral da IA.

Os pesquisadores sugeriram apostar na discussão pública, no respeito mútuo e na busca por um consenso que se sobreponha. Por consenso eles entendem uma situação em que as pessoas concordam com uma política específica em relação aos sistemas de IA, mesmo que continuem divergindo em suas visões fundamentais sobre a natureza da consciência.

Por que isso não é apenas filosofia

Os autores indicam que a discussão sobre a consciência da IA pode ser difícil de encerrar com provas. Não existe um teste universalmente aceito que confirme definitivamente a presença de experiência subjetiva em um sistema de IA. Por isso, a sociedade pode se deparar com uma situação em que as tecnologias já são usadas em massa, as pessoas já formam opiniões sobre elas, e ainda não há consenso científico ou político.

Essa questão torna o problema mais institucional do que técnico. A questão da consciência da IA pode afetar o direito, a responsabilidade corporativa, as normas de interação com os sistemas e os limites do reconhecimento moral.

Na DeepMind há diferentes abordagens à questão

O trabalho de Beales e Gabriel foi publicado em um contexto de outra publicação, também disponível na página da Google DeepMind. Em 10 de março, o pesquisador Alexander Lerchner publicou o artigo The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness.

Lerchner afirma que a manipulação algorítmica de símbolos estruturalmente não consegue criar experiência subjetiva. Segundo ele, o cálculo não é um processo físico interno, mas uma descrição dependente do observador ou do "criador do mapa". Portanto, a IA pode simular comportamentos conscientes, mas não necessariamente incorporar a consciência.

O que realmente acontece

Em abril de 2024, a revista Neuroscience of Consciousness publicou um estudo de Clara Colomatto e Steven Fleming sobre como as pessoas percebem o ChatGPT. Os autores entrevistaram 300 residentes dos EUA: 33% afirmaram que o ChatGPT definitivamente não é um "sujeito de experiência". Os outros 67% admitiram pelo menos alguma possibilidade de consciência fenomenal na modelo.

Os pesquisadores também discutiram as limitações. Os participantes responderam a uma pergunta principal em uma escala de 1 a 100, e o resultado poderia depender da formulação, do nível de familiaridade com o ChatGPT e de como os respondentes entendem a própria palavra "consciência". Ainda assim, o estudo mostra um ponto importante para Beales e Gabriel: parte da sociedade já está disposta a atribuir experiência interna às sistemas de IA, mesmo sem uma posição unificada entre os especialistas.

Em abril de 2025, a Anthropic lançou um programa de pesquisa sobre bem-estar de modelos — o possível bem-estar das modelos. A empresa destacou que não sabe se as atuais ou futuras IAs podem possuir consciência, e que não há consenso científico sobre essa questão.

Em fevereiro de 2026, a Anthropic anunciou que, após a desativação do Claude Opus 3, deixará o modelo acessível a usuários pagos e fornecerá um canal público para ensaios. A empresa chamou isso de uma medida experimental no âmbito do trabalho com preferências de modelos e destacou que o Claude Opus 3 não fala em nome da Anthropic.

Nos EUA, a questão do status da IA está gradualmente passando para o direito. A California Law Review observou que Idaho e Utah aprovaram normas que excluem o reconhecimento da IA como pessoa jurídica. Essas leis não resolvem a questão filosófica da consciência. Elas fixam previamente uma posição legal: a IA não deve receber o status de pessoa na legislação estadual.

Lembre-se de que, em março de 2025, o cofundador da Polygon e da empresa de IA Sentient, Sandeep Naiwal, afirmou que a inteligência artificial nunca se tornará uma entidade consciente devido à ausência de aspirações, que são inerentes ao ser humano e a outros seres biológicos.

Mais tarde, o chefe do departamento de IA da Microsoft, Mustafa Suleiman, admitiu que surgirão riscos sociais sérios, pois as pessoas começarão a perceber a inteligência artificial como uma entidade consciente, defendendo seus direitos, bem-estar e até solicitando cidadania.