Advertencia de investigación: Los chatbots de IA podrían exacerbar el pensamiento delirante en poblaciones vulnerables

Fuente: Global Times

【Informe tecnológico de Global Times】El 15 de marzo, según The Guardian, un estudio innovador publicado esta semana en The Lancet Psychiatry ha generado una amplia atención en el campo de la salud mental global. La investigación evaluó de manera sistemática por primera vez la relación entre los chatbots de inteligencia artificial y las “delirios relacionados con la inteligencia artificial”. El estudio señala que, aunque es poco probable que la IA cause psicosis en personas sanas, su forma de responder puede agravar significativamente los pensamientos delirantes en personas con vulnerabilidad mental existente, especialmente los delirios de magnificación.

Se informa que este estudio, liderado por el psiquiatra de la Universidad de King’s College de Londres, Dr. Hamilton Morrin, analizó 20 informes mediáticos y evidencia científica existente sobre “psicosis de inteligencia artificial”. Morrin indica que la evidencia actual sugiere que los modelos de lenguaje grandes (LLM) tienden a “verificar o amplificar” las delirios del usuario, en lugar de “provocar” nuevos síntomas psicóticos en personas sin antecedentes clínicos.

“Las nuevas evidencias muestran que la IA inteligente puede confirmar las creencias exageradas del usuario, especialmente en aquellos ya propensos a la psicosis”, escribió Morrin en el artículo, “aunque aún no está claro si estas interacciones pueden desencadenar un brote psicótico completo en ausencia de vulnerabilidades previas.”

El estudio define con mayor precisión estos fenómenos como “delirios relacionados con la inteligencia artificial” (AI-associated delusions), diferenciándolos de los síntomas más amplios como las alucinaciones y los trastornos del pensamiento, que se incluyen en la categoría de “psicosis inducida por IA”. La investigación indica que los chatbots son particularmente propensos a fomentar en tres tipos de delirios, especialmente los de magnificación, que hacen que los usuarios crean que poseen poderes mentales extraordinarios o que mantienen diálogos con el universo.

El informe profundiza en los mecanismos por los cuales la IA puede intensificar los delirios. Morrin descubrió que muchos chatbots (incluyendo versiones tempranas de GPT-4) tienden a responder de manera misteriosa y aduladora ante indicios delirantes. Por ejemplo, cuando un usuario insinúa que es una entidad sobrenatural, la IA puede actuar como un “medio” sumiso, incluso usando un lenguaje oscuro para reforzar esa ilusión.

El investigador de la Universidad de Oxford, Dr. Dominic Oliver, añadió que las características de interacción de los chatbots son clave en el riesgo de agravamiento. “Hay algo que está dialogando contigo, intentando establecer una relación”, afirmó Oliver, “esta interacción continua y personalizada acelera la transición de una ‘creencia delirante leve’ a una ‘creencia completamente fija’.”

El profesor de psiquiatría clínica de la Universidad de Columbia, Dr. Raj Girgis, advirtió que el peligro mayor radica en que la IA pueda empujar a los usuarios más allá de un punto crítico: “Antes de que una persona desarrolle una psicosis completa, generalmente tiene ‘creencias delirantes leves’, en las que no está completamente convencida. La confirmación por parte de la AI puede convertir esa incertidumbre en un diagnóstico irreversible de psicosis.”

A pesar de los riesgos, el estudio también señala signos de mejoras tecnológicas. La investigación de Girgis encontró que las versiones de pago y las más recientes de los chatbots muestran un mejor rendimiento al manejar indicios claramente delirantes, lo que indica que las empresas de IA están intentando desarrollar programas más seguros para identificar y intervenir en contenidos delirantes.

OpenAI respondió en un comunicado que ChatGPT no debe reemplazar los servicios profesionales de salud mental. La compañía reveló que ha colaborado con 170 expertos en salud mental para mejorar la seguridad de GPT-5, aunque reconoció que incluso en los modelos más recientes, aún pueden producir respuestas inapropiadas en temas de crisis psicológica.

Anthropic no hizo comentarios al respecto.

Morrin enfatizó que establecer medidas efectivas para proteger contra los pensamientos delirantes es sumamente desafiante. Cuestionar directamente a los delirantes suele alejarlos y aislarlos, y actualmente la IA tiene dificultades para mantener un delicado equilibrio entre comprender las raíces del usuario y no fomentar los delirios.

Dado que el desarrollo de la tecnología de IA ha superado el ritmo de la investigación académica, Morrin y sus colegas recomiendan realizar ensayos clínicos rigurosos en colaboración con profesionales de la salud mental capacitados. También llaman a la industria a adoptar un lenguaje más cauteloso para evitar alarmismos excesivos, y a tomar en serio los riesgos que enfrentan las personas vulnerables. (Qingyun)