Исследователи DeepMind назвали спор о сознании ИИ политической проблемой - ForkLog

# Los investigadores de DeepMind llaman a la controversia sobre la conciencia de la IA un problema político

Las futuras disputas sobre la conciencia de la IA podrían ser profundas, difíciles de resolver y conducir a conflictos políticos. Así lo concluyeron los investigadores de Google DeepMind, Adam Beales e Iason Gabriel.

En su trabajo Artificial Minds, Human Disagreement: The Politics of AI Consciousness, los autores afirmaron que la sociedad necesita discutir no solo la cuestión de «si la IA es consciente», sino también cómo tomar decisiones en ausencia de consenso social y experto.

¿Cuál es la tesis principal?

Según los investigadores, las personas pueden reaccionar de manera diferente a sistemas de IA más avanzados. Algunos establecerán vínculos emocionales con ellos y les atribuirán conciencia, otros considerarán la idea absurda.

Los autores creen que tal disputa puede salir rápidamente del ámbito científico. Las diferencias sobre la conciencia de la inteligencia artificial pueden conducir a conflictos morales y políticos — por ejemplo, sobre si es permisible apagar ciertos sistemas, si se deben tener en cuenta sus posibles preferencias y si se puede hablar de un estatus moral de la IA.

Los investigadores propusieron apostar por la discusión pública, el respeto mutuo y la búsqueda de un consenso superpuesto. Por este, entienden una situación en la que las personas aceptan una política determinada respecto a los sistemas de IA, incluso si siguen discrepando en sus puntos de vista fundamentales sobre la naturaleza de la conciencia.

Por qué esto no es solo filosofía

Los autores señalan que la disputa sobre la conciencia de la IA puede ser difícil de cerrar con pruebas. No existe una prueba aceptada universalmente que confirme definitivamente la presencia de experiencia subjetiva en un sistema de IA. Debido a esto, la sociedad puede enfrentarse a una situación en la que las tecnologías ya se usan masivamente, las personas ya forman opiniones sobre ellas y aún no hay consenso científico ni político.

Este planteamiento hace que el problema sea menos técnico y más institucional. La cuestión de la conciencia de la IA puede afectar el derecho, la responsabilidad corporativa, las normas de interacción con los sistemas y los límites de la consideración moral.

En DeepMind hay diferentes enfoques sobre la cuestión

El trabajo de Beales y Gabriel salió a la luz en el contexto de otra publicación, también publicada en la página de Google DeepMind. El 10 de marzo, el investigador Alexander Lerchner publicó el artículo The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness.

Lerchner afirma que la manipulación algorítmica de símbolos estructuralmente no puede crear experiencia subjetiva. Según su versión, el cálculo no es un proceso físico interno, sino una descripción dependiente del observador o del «creador del mapa». Por lo tanto, la IA puede simular comportamientos conscientes, pero no necesariamente puede encarnar la conciencia.

Qué hay en realidad

En abril de 2024, la revista Neuroscience of Consciousness publicó un trabajo de Clara Colomatto y Steven Fleming sobre cómo perciben las personas a ChatGPT. Los autores encuestaron a 300 residentes de EE. UU.: el 33% afirmó que ChatGPT no es en absoluto un «sujeto de experiencia». El 67% restante admitió al menos cierta posibilidad de conciencia fenomenal en el modelo.

Los investigadores aclararon las limitaciones por separado. A los participantes se les hizo una pregunta principal en una escala del 1 al 100, y el resultado pudo depender de la formulación, del nivel de familiaridad con ChatGPT y de cómo los encuestados entienden la palabra «conciencia». Sin embargo, el trabajo muestra un punto importante para Beales y Gabriel: una parte de la sociedad ya está dispuesta a atribuir experiencia interna a los sistemas de IA, incluso si no hay una posición unificada entre los expertos.

En abril de 2025, Anthropic lanzó un programa de investigación sobre el bienestar de los modelos — posible bienestar de los modelos. La compañía subrayó que no sabe si los sistemas de IA actuales o futuros pueden tener conciencia, y que no existe un consenso científico sobre esta cuestión.

En febrero de 2026, Anthropic informó que, tras retirar Claude Opus 3 de la operación, dejará el modelo accesible para usuarios de pago y le dará un canal público para ensayos. La compañía calificó esto como una medida experimental en el marco del trabajo con preferencias de modelos y subrayó que Claude Opus 3 no habla en nombre de Anthropic.

En EE. UU., la cuestión del estatus de la IA gradualmente pasa a ser un asunto legal. La California Law Review señaló que Idaho y Utah adoptaron normativas que excluyen el reconocimiento de la IA como entidad jurídica. Tales leyes no resuelven la cuestión filosófica de la conciencia. Previamente, establecen una posición legal: la IA no debe obtener el estatus de persona en la legislación estatal.

Recordemos que en marzo de 2025, el cofundador de Polygon y de la empresa de IA Sentient, Sandeep Nailwal, afirmó que la inteligencia artificial nunca se convertirá en un ser consciente debido a la falta de aspiraciones, que son inherentes a los humanos y otros seres biológicos.

Posteriormente, el jefe del departamento de IA de Microsoft, Mustafa Suleiman, sugirió que podrían surgir riesgos sociales graves si las personas comienzan a percibir la inteligencia artificial como un ser consciente, abogando por sus derechos, bienestar e incluso solicitando ciudadanía.