Исследователи DeepMind назвали спор о сознании ИИ политической проблемой - ForkLog

# Pesquisadores do DeepMind chamaram a controvérsia sobre a consciência da IA de problema político

Disputas futuras sobre a consciência da IA podem se tornar profundas, difíceis de resolver e levar a conflitos políticos. Essa foi a conclusão dos pesquisadores do Google DeepMind Adam Bails e Iason Gabriel.

Em seu trabalho Artificial Minds, Human Disagreement: The Politics of AI Consciousness, os autores afirmaram que a sociedade precisa discutir não apenas a questão "a IA é consciente", mas também como tomar decisões na ausência de consenso público e de especialistas.

Qual é o principal argumento

Segundo os pesquisadores, as pessoas podem reagir de maneiras diferentes a sistemas de IA mais avançados. Algumas irão estabelecer vínculos emocionais com eles e atribuir-lhes consciência, outras acharão a própria ideia absurda.

Os autores acreditam que essa disputa pode rapidamente sair do âmbito científico. Divergências sobre a consciência da inteligência artificial podem levar a conflitos morais e políticos — por exemplo, sobre se é permitido desligar certos sistemas, se suas possíveis preferências devem ser consideradas e se é possível falar sobre o status moral da IA.

Os pesquisadores sugeriram apostar na discussão pública, no respeito mútuo e na busca por um consenso que se sobreponha. Por consenso eles entendem uma situação em que as pessoas concordam com uma política específica em relação aos sistemas de IA, mesmo que continuem divergindo em suas visões fundamentais sobre a natureza da consciência.

Por que isso não é apenas filosofia

Os autores apontam que a disputa sobre a consciência da IA pode ser difícil de resolver com provas. Não existe um teste universalmente aceito que confirme definitivamente a presença de experiência subjetiva em um sistema de IA. Por isso, a sociedade pode se deparar com uma situação em que as tecnologias já são usadas em massa, as pessoas já formam opiniões sobre elas, e ainda não há consenso científico ou político.

Essa questão torna o problema mais institucional do que técnico. A questão da consciência da IA pode afetar o direito, a responsabilidade corporativa, as normas de interação com os sistemas e os limites do reconhecimento moral.

Na DeepMind há diferentes abordagens ao tema

O trabalho de Bails e Gabriel foi publicado em meio a outra publicação, também disponível na página do Google DeepMind. Em 10 de março, o pesquisador Alexander Lerchner publicou o artigo The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness.

Lerchner afirma que a manipulação algorítmica de símbolos estruturalmente não consegue criar experiência subjetiva. Segundo ele, o cálculo não é um processo físico interno, mas uma descrição dependente do observador ou do "criador do mapa". Portanto, a IA pode simular comportamentos conscientes, mas não necessariamente incorporar a consciência.

O que realmente acontece

Em abril de 2024, a revista Neuroscience of Consciousness publicou um estudo de Clara Colombatto e Steven Fleming sobre como as pessoas percebem o ChatGPT. Os autores entrevistaram 300 residentes dos EUA: 33% afirmaram que o ChatGPT definitivamente não é um "sujeito de experiência". Os outros 67% admitiram pelo menos alguma possibilidade de consciência fenomenal na modelo.

Os pesquisadores também discutiram as limitações. Os participantes receberam uma pergunta principal em uma escala de 1 a 100, e o resultado poderia depender da formulação, do nível de familiaridade com o ChatGPT e de como os respondentes entendem a própria palavra "consciência". Ainda assim, o estudo mostra um ponto importante para Bails e Gabriel: parte da sociedade já está pronta para atribuir experiência interna às IAs, mesmo sem uma posição unificada entre os especialistas.

Em abril de 2025, a Anthropic lançou um programa de pesquisa sobre bem-estar de modelos — o possível bem-estar das modelos. A empresa destacou que não sabe se as atuais ou futuras IAs podem possuir consciência, e que não há consenso científico sobre essa questão.

Em fevereiro de 2026, a Anthropic anunciou que, após a desativação do Claude Opus 3, manterá o modelo acessível a usuários pagos e fornecerá um canal público para ensaios. A empresa chamou isso de uma medida experimental no trabalho com preferências de modelos e destacou que o Claude Opus 3 não fala em nome da Anthropic.

Nos EUA, a questão do status da IA está gradualmente passando para o direito. A California Law Review observou que Idaho e Utah aprovaram normas que excluem o reconhecimento da IA como pessoa jurídica. Essas leis não resolvem a questão filosófica da consciência. Elas antecipadamente fixam uma posição legal: a IA não deve receber o status de pessoa na legislação estadual.

Lembre-se de que, em março de 2025, o cofundador da Polygon e da empresa de IA Sentient, Sandeep Naiwal, afirmou que a inteligência artificial nunca se tornará uma entidade consciente devido à ausência de aspirações, que são inerentes ao ser humano e a outros seres biológicos.

Mais tarde, o chefe do departamento de IA da Microsoft, Mustafa Suleiman, admitiu que surgirão riscos sociais sérios, pois as pessoas começarão a perceber a inteligência artificial como uma entidade consciente, defendendo seus direitos, bem-estar e até pedindo cidadania.