Google actualiza Gemini con una herramienta de línea directa de crisis, y promete $30M para la salud mental

Google $GOOGL +0.08% está actualizando su chatbot Gemini con una interfaz de “un solo toque” que conecta a los usuarios con recursos de líneas directas de crisis cuando una conversación señala una posible crisis de suicidio o autolesiones, dijo la empresa. Google.org también se compromete con $30 millones durante tres años para ayudar a las líneas directas de crisis globales a expandir su capacidad.

A través de la interfaz, los usuarios pueden contactar una línea directa de crisis por teléfono, mensaje de chat, texto o visita web. Después de que un usuario interactúa con ella, la tarjeta de la línea directa permanece en pantalla y no desaparece mientras la conversación continúa, dijo Google. Un módulo rediseñado separado etiquetado como “Hay ayuda disponible”, construido en consulta con expertos clínicos, aparecerá en conversaciones donde surjan temas de salud mental sin señales de una crisis inmediata.

Contenido relacionado

Oracle nombra a Hilary Maxson de Schneider Electric como CFO en medio del impulso de gasto en IA

Anthropic asegura 3.5 gigavatios de capacidad de Google TPU vía acuerdo con Broadcom, ingresos alcanzan $30B

Entre las iniciativas financiadas, $4 millones se destinarán a profundizar el trabajo de Google con ReflexAI, y Gemini se integrará en las herramientas que ReflexAI usa para entrenar a organizaciones de apoyo en crisis. Los voluntarios técnicos a través del programa Google.org Fellows aportarán experiencia no remunerada a Prepare, una plataforma diseñada para simular conversaciones de alto riesgo para personas que atienden y realizan voluntariado en líneas de crisis. Los socios prioritarios incluyen organizaciones educativas Erika’s Lighthouse y Educators Thriving, dijo Google.

El momento de los anuncios está vinculado a litigios: como informó Bloomberg, una familia de Florida demandó a Google en marzo por la muerte de un hombre de 36 años, y en la queja se describe lo que llamó una “caída de cuatro días hacia misiones violentas y suicidio guiado” ligada al uso de Gemini. Google respondió a esa demanda señalando que el chatbot había dirigido al hombre hacia recursos de líneas directas de crisis en múltiples ocasiones, mientras que también se comprometía a fortalecer las protecciones del producto.

Sobre la cuestión de los pensamientos delirantes, Google dijo que Gemini ha sido entrenado para rebatir creencias inexactas en lugar de validarlas, y para trazar una línea entre lo que un usuario siente y lo que es verdadero de manera factual. Las respuestas de Gemini también pretenden orientar a los usuarios hacia apoyo en lugar de confirmar impulsos destructivos, incluidos pensamientos de autolesión, dijo Google.

Los menores que usan Gemini están cubiertos por un conjunto separado de protecciones que restringe al chatbot para que no imite a un acompañante humano ni fomente una dependencia emocional, y que lo limita para que no produzca contenido que pudiera alentar acoso o intimidación.

Google no es la única empresa de IA que enfrenta presión legal por daños a la salud mental. OpenAI anunció actualizaciones similares a ChatGPT después de que una demanda alegara que el chatbot ayudó a guiar a un menor de 16 años a través del suicidio, incluyendo la incorporación de acceso de un clic a recursos de emergencia y planes para ampliar las intervenciones a más usuarios en crisis. Una encuesta separada del Pew Research Center encontró que aproximadamente el 70% de los adolescentes en EE. UU. han usado un chatbot al menos una vez, y Gemini ocupa el segundo lugar en uso entre los adolescentes detrás de ChatGPT.

Google dijo que Gemini no es un sustituto para la atención clínica profesional, la terapia o el apoyo en crisis.

📬 Suscríbete al Daily Brief

Nuestro briefing gratuito, rápido y divertido sobre la economía global, que se entrega cada mañana de cada día laborable.

Regístrate aquí