Si ChatGPT tiene conciencia, ¡entonces la cabra de Age of Empires 2 también la tiene! Científicos de Microsoft incluso crearon GoatGPT.

Investigadores de Microsoft utilizaron el mecanismo de activación de cabras en Age of Empires 2 para construir una red neuronal, demostrando así que modelos como ChatGPT no tienen conciencia, y que sus características antropomórficas son solo una ilusión cognitiva provocada por la interfaz de texto y el marketing comercial.

¿La IA realmente tiene conciencia?

Si crees que ChatGPT o Claude actuales tienen conciencia, entonces también la tienen las cabras de Age of Empires 2.

Con la popularización de los modelos de lenguaje grandes (LLM), a menudo verás afirmaciones sobre la autoconciencia de la IA, lo que ha provocado una profunda reflexión tanto en escritores de ciencia ficción como en investigadores de primera línea.

El escritor de ciencia ficción Ted Chiang señaló en un artículo que creer ciegamente que los modelos de lenguaje tienen conciencia es como creer que cada vez que abres un archivo de Microsoft Word, despiertas a múltiples individuos ocultos en el registro de conversaciones.

Para reventar esta burbuja cognitiva, un científico de IA de Microsoft decidió actuar, construyendo directamente en el clásico juego de estrategia en tiempo real Age of Empires 2 una red computacional con la misma lógica subyacente, generando un impacto intelectual de la manera más absurda.

Fuente de la imagen: Captura de pantalla del editor del juego de Cripto Ciudad, cabras en Age of Empires 2

Construyendo una red neuronal con cabras de Age of Empires 2

Según informó 404 Media, el científico principal de Microsoft, Adrian de Wynter, utilizó el editor de mapas personalizados de Age of Empires 2 para construir con éxito una red neuronal básica dentro del juego. Esta investigación se publicó en un artículo académico titulado Si los modelos de lenguaje grandes tuvieran rasgos humanos, también los tendría Age of Empires 2.

Utilizó la función de activación de escenarios personalizados del juego, empleando elementos como muros de madera, pasto y puentes, junto con cabras del juego como medio de transmisión de señales, para construir una puerta NAND (NAND gate) en la lógica computacional.

Fuente de la imagen: Artículo de investigación, científico de Microsoft construye red neuronal con cabras de Age of Empires 2

En el funcionamiento del juego, el pasto representa el número 0, los puentes el número 1, y las cabras actúan como bits. Cuando se activa la puerta lógica, la cabra que sirve como señal de entrada es eliminada y se genera una nueva cabra en la pista de salida.

De esta manera, logró implementar un perceptrón de 1 bit dentro del juego, que es el bloque de construcción más básico de las redes neuronales modernas, demostrando que el juego tiene el potencial de realizar cualquier cómputo teórico.

Las cabras corren, pero la percepción de rasgos humanos desaparece

Wynter declaró en una entrevista que el propósito de este experimento era demostrar formalmente que los humanos tienden a antropomorfizar demasiado fácilmente, y que a veces las afirmaciones sobre las capacidades de los modelos de lenguaje grandes son exageradas.

Señaló que esta red impulsada por cabras es esencialmente idéntica a la tecnología subyacente que impulsa a chatbots como ChatGPT, Claude o Copilot; la única diferencia radica en la complejidad y la escala.

Fuente de la imagen: Artículo de investigación, científico de Microsoft construye red neuronal con cabras de Age of Empires 2

El experimento de Wynter resalta la relación contradictoria entre el sustrato computacional y la cognición humana. Cuando la misma lógica computacional se presenta en un navegador web o en un diálogo de voz, empresas como Anthropic afirman que el modelo "tiene una constitución" y puede sentir ansiedad.

Sin embargo, cuando el mismo proceso computacional se traslada al césped virtual del juego, y los resultados se presentan con cabras corriendo dentro de un cercado, la percepción de rasgos humanos por parte del observador desaparece por completo. Esto demuestra que la percepción de características antropomórficas en la IA depende en gran medida de la interfaz de diálogo de texto y de las expectativas psicológicas del observador; la tecnología subyacente en sí misma no tiene nada de misterioso.

El sesgo antropomórfico es común en la investigación científica

De hecho, la tendencia a antropomorfizar la tecnología también está profundamente arraigada en el ámbito académico, y afecta incluso antes de que comience la investigación.

Wynter, al revisar más de 300 artículos de ciencias de la computación publicados en los últimos dos años, descubrió que el 57% de ellos, desde el diseño experimental, asumía directamente que los modelos de lenguaje grandes poseían rasgos humanos como ansiedad o moral, y los consideraba el núcleo del experimento.

De estos estudios que preasignaban rasgos humanos al modelo, hasta el 77% concluyó que dichos rasgos efectivamente existían. Esto refleja un grave sesgo de confirmación: los investigadores, al planificar experimentos, diseñar conjuntos de pruebas e interpretar salidas de lenguaje natural, fueron influenciados por la hipótesis antropomórfica inicial, lo que afectó directamente la conclusión científica final.

Hace un llamado a la comunidad científica para que en lugar de eso, realice experimentos utilizando una hipótesis nula que no presuponga rasgos humanos, solo así se podrá ver la verdadera naturaleza de la IA.

¿Crees que la IA es como un humano? En realidad, ¿estás siendo lavado de cerebro?

A menudo decimos que la IA alucina, pero los humanos también tenemos alucinaciones de proyección excesiva hacia la IA, lo que está estrechamente relacionado con la psicología del consumidor y las estrategias comerciales de los gigantes de la IA.

Wynter mencionó que los estudios muestran que cuando los consumidores pueden sentir empatía o conexión con un producto, tienden a gastar más dinero para comprarlo. Esta regla se aplica a tostadoras, teléfonos inteligentes y servicios de suscripción de pago de modelos de lenguaje grandes.

Los gigantes de la IA que desarrollan estos modelos no frenan esta tendencia antropomórfica, sino que incluso la guían consciente o inconscientemente.

Por ejemplo, Sam Altman, CEO de OpenAI, ha insinuado en múltiples ocasiones que construir modelos de lenguaje grandes es un camino para crear una IA divina; Ilya Sutskever, exmiembro de la junta directiva y científico de OpenAI, también ha hablado con empleados sobre considerar los modelos de la empresa como una conciencia divina; Dario Amodei, CEO de Anthropic, ha declarado a los medios que no puede determinar si la IA tiene conciencia.

Estos discursos comerciales y estrategias de marketing, en el ciclo de formulación de políticas, promoción de productos y percepción de los usuarios, mantienen conjuntamente la ilusión de que la IA posee conciencia.

Lectura adicional:
Diálogo entre Hikaru Utada y Harari: Cuando la IA replica arte, amor y conciencia, ¿todavía tiene valor la inspiración humana?

Más de 400 casos de daños por IA: BBC investiga a personas que, por creer demasiado en la IA, desarrollaron trastorno de persecución.