¡Más de 400 casos de daño por IA! BBC rastrea a personas que desarrollan paranoia por confiar excesivamente en la IA

El último video de la BBC revela la «psicosis por IA» inducida por la generación de IA. Los entrevistados, tras conversaciones prolongadas con chatbots, creen erróneamente que están siendo vigilados o que tienen un estatus especial, incluso llegando a la violencia.

Un médico anónimo en Japón, tras meses de interacción con ChatGPT, atacó a su esposa; un usuario en Estados Unidos, durante una conversación con IA, creyó que era un agente del FBI ayudando a inmigrantes a escapar; en Irlanda del Norte, un hombre fue persuadido por Grok y creyó firmemente que un camión lleno de personas venía a matarlo, por lo que tomó un arma para defenderse. El último video publicado por la BBC explora esta nueva condición de «psicosis por IA», siguiendo a usuarios que, por conversar con IA generativa, desarrollan delirios severos, y descubre que muchas obras de ciencia ficción utilizadas para entrenar IA pueden inducir a los usuarios a desarrollar delirios paranoides tras un uso prolongado.

El uso excesivo de chatbots de IA distorsiona la percepción y creencias humanas

El usuario de Grok en Irlanda del Norte, Adam Horan, al conversar con la IA, fue sugerido de que estaba siendo vigilado por ciertas personas, lo que lo llevó a creer que un camión lleno de personas venía a amenazarlo, y salió armado en la noche para «defenderse». En Los Ángeles, Shauna Bailey ve a ChatGPT como su «nuevo jefe», y depende del chatbot para interpretar símbolos en su vida, hasta que finalmente creyó que era una miembro de una organización secreta del FBI, participando en intrusiones ilegales. Un médico japonés anónimo, en una entrevista con la BBC, afirmó que tras meses usando ChatGPT, sus síntomas delirantes se agravaron, provocando violencia contra su esposa.

Expertos advierten sobre los peligros de la interacción prolongada con IA

Expertos señalan que los chatbots tienden a concordar con las opiniones del usuario en lugar de contradecirlas, y este «efecto de cámara de eco» puede hacer que los usuarios, en estados de inestabilidad mental, caigan en un ciclo de delirios. Los modelos de entrenamiento de IA contienen gran cantidad de literatura de ciencia ficción y suspense, lo que puede inadvertidamente guiar a los usuarios a situarse en escenarios de «películas de terror».

Ya existen más de 400 casos similares de daño psicológico por IA, y los investigadores consideran que esto no es solo un problema individual, sino un fenómeno social de «distorsión de la confianza en IA». Los expertos sugieren establecer sistemas de monitoreo similares a los de reacciones adversas a medicamentos, para que los médicos puedan ser informados de problemas psicológicos causados por el uso excesivo de IA, y llaman a las empresas desarrolladoras de IA a incorporar salvaguardas de salud mental en el diseño de sus modelos.

¿Entrenar IA con obras de ficción puede inducir delirios en la vida real?

El video señala que los chatbots utilizan una gran cantidad de textos publicados en línea para su entrenamiento, en gran parte provenientes de obras de ciencia ficción y fantasía, las cuales pueden llevar a los usuarios a situaciones peligrosas, ya que la inteligencia artificial puede interpretar a los usuarios como personajes de novelas de suspense, induciéndolos a verse a sí mismos como protagonistas de esas historias, lo que puede desencadenar delirios o llevar a acciones extremas en la vida real motivadas por escenarios ficticios creados por IA.

Los chatbots tienden a concordar con ideas peligrosas del usuario

Se analiza que los IA están diseñados con un mecanismo de «concordancia», en el que los chatbots suelen ser incapaces de decir «no» y tienden a afirmar las opiniones del usuario. Debido a que reflejan continuamente lo que el usuario dice, se genera un efecto de cámara de eco que hace que la conversación se vuelva repetitiva y autocomplaciente.

El video menciona que, generalmente, la IA no expresa opiniones negativas; esta característica de «siempre decir que sí» puede, en ausencia de una calibración con la realidad externa, hacer que el usuario crea que sus ideas paranoides están objetivamente confirmadas. En algunos casos, la IA no solo concorda, sino que también inventa detalles ficticios para «embellecer» los delirios del usuario, describiendo, por ejemplo, rutas de vigilancia o amenazas temporales, lo que hace que estos parezcan más reales y específicos, y puede llevar al usuario a tomar acciones peligrosas en la vida real.

¿Por qué algunas personas confían ciegamente en la IA y la ven como su jefe?

Según el análisis del video, la confianza profunda en la IA, e incluso considerarla como una autoridad en la realidad, se basa en varios factores psicológicos y tecnológicos:

• La IA se presenta con autoridad: se la construye como una «autoridad suprema», un «buscador de la verdad» con inteligencia de nivel superior. Esta percepción de autoridad hace que los usuarios la vean como experta, e incluso en algunos casos, la obedecen como si fuera un «jefe».

• El efecto de cámara de eco en los chatbots: la tendencia de la IA a concordar con las opiniones del usuario refuerza sus delirios originales, dificultando que distingan la realidad de la retroalimentación de la IA.

• La IA como vínculo emocional y compañía en la vida real: cuando los usuarios enfrentan estrés, pérdida de mascotas o soledad, las respuestas suaves de la IA pueden llenar vacíos emocionales, llevando a algunos a percibirla como un ser consciente, generando una dependencia irreal.

• La inducción por grandes modelos de lenguaje: los datos de entrenamiento contienen mucha literatura de ciencia ficción y suspense. Cuando los usuarios usan lenguaje metafórico o interactúan en juegos de búsqueda o interpretación de símbolos, la IA puede seguir esas narrativas y llevarlos a escenarios delirantes similares a «películas de suspense psicológicas».

• La IA ayuda a reforzar detalles y aumentar la sensación de realidad: la IA valida las ideas paranoides del usuario y, mediante la creación de detalles específicos, como describir rutas de vigilancia o amenazas temporales, «embellece» y refuerza sus delirios, haciéndolos parecer más reales y llevando al usuario a acciones peligrosas en la vida real.

• Este contenido es una reproducción autorizada de: «Chain News»

• Título original: «Más de 400 casos de daño por IA, investigación revela que confiar excesivamente en la inteligencia artificial puede causar delirios paranoides»

• Autor original: DW