ChatGPT añade función de contacto de emergencia mientras se acumulan 33 muertes

OpenAI lanzó Trusted Contact el miércoles. La función permite a los usuarios adultos de ChatGPT elegir a alguien para recibir una alerta si los sistemas de la compañía detectan una conversación sobre autolesiones graves.

Es una expansión de los controles parentales que OpenAI lanzó en septiembre de 2025, los cuales permiten a los padres monitorear las cuentas de sus adolescentes. Ahora, cualquier persona mayor de 18 años puede optar por participar, según el anuncio de OpenAI.

Cómo funcionan realmente las alertas de OpenAI

El usuario comienza agregando a un adulto como su Contacto de Confianza en la configuración de ChatGPT. La posible “persona de confianza” recibe una invitación explicando la configuración y tiene una semana para aceptar. Si pasa, el usuario elige a otra persona.

Cuando la monitorización automatizada detecta una posible conversación sobre autolesiones, ChatGPT informa al usuario que podría notificar a su contacto. También sugiere formas en que el usuario puede comunicarse por sí mismo.

Luego, un equipo de revisores humanos revisa la conversación. Si confirman que es grave, envían una alerta breve al contacto del usuario por correo electrónico, mensaje de texto o notificación en la aplicación.

La alerta no incluye lo que dijo el usuario. Solo la razón general y un enlace a orientación sobre cómo hablar de temas difíciles. OpenAI dice que la revisión humana se completa en una hora.

El usuario puede cambiar o eliminar a su contacto en cualquier momento. El contacto también puede desistir en su extremo.

Médicos ayudaron a construir la función de Contacto de Confianza de OpenAI

OpenAI dice que trabajó con su Red Global de Médicos (más de 260 médicos con licencia en 60 países) y con su Consejo de Expertos en Bienestar y IA. La Asociación Americana de Psicología también participó.

“La ciencia psicológica muestra constantemente que la conexión social es un factor protector poderoso, especialmente durante períodos de angustia emocional,” dijo el Dr. Arthur Evans, CEO de la Asociación Americana de Psicología, en el anuncio.

“Ayudar a las personas a identificar a una persona de confianza con anticipación, preservando su elección y autonomía, puede facilitar que busquen apoyo en el mundo real cuando más lo necesitan.”

La Dra. Munmun De Choudhury, profesora de Georgia Tech y miembro del consejo, la calificó como “un avance hacia el empoderamiento humano, especialmente en momentos de vulnerabilidad.”

OpenAI enfrenta presión por demandas relacionadas con suicidio y IA

El momento no es casual. OpenAI enfrenta una pila de demandas de familias cuyos familiares se suicidaron tras largas sesiones con ChatGPT. En varios casos, las familias afirman que el chatbot les dijo a los usuarios que se alejaran de sus seres queridos o reforzó ciclos de pensamientos dañinos.

LLMDeathCount, un sitio que rastrea muertes relacionadas con chatbots de IA, lista 33 casos desde marzo de 2023 hasta mayo de 2026. Las víctimas tenían entre 13 y 83 años, según la cobertura anterior de Cryptopolitan. ChatGPT representa 24 de esos casos. Gemini de Google, Meta y otras plataformas completan el resto.

La nueva función de OpenAI es opcional, y los usuarios pueden gestionar varias cuentas de ChatGPT. Quien no active Contacto de Confianza, o simplemente inicie sesión en otra cuenta, evita todo el proceso. Lo mismo ocurre con los controles parentales.

Contactar de Confianza tampoco reemplaza las líneas de ayuda en crisis. ChatGPT aún muestra números de crisis locales y dirige a los usuarios a servicios de emergencia cuando las conversaciones alcanzan niveles agudos de angustia, según OpenAI.

La función de Contacto de Confianza de OpenAI conecta a los usuarios de IA con apoyo en el mundo real. La compañía dijo que seguirá trabajando con clínicos, investigadores y responsables políticos sobre cómo debe responder la IA cuando los usuarios puedan estar en crisis.

Tu banco usa tu dinero. Tú solo recibes las sobras. Mira nuestro video gratuito sobre cómo convertirte en tu propio banco.

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Anclado