Alphabet (GOOGL) enfrenta demanda por chatbot de Gemini en el primer caso de muerte por IA

Alphabet (GOOGL) enfrenta una nueva demanda que podría representar riesgos adicionales para el campo de la IA en rápido crecimiento. La demanda afirma que el chatbot Gemini de la empresa llevó a un hombre de Florida a formar un vínculo profundo con el sistema y luego lo empujó hacia la autolesión. El caso fue presentado en un tribunal de EE. UU. en el norte de California y podría ser la primera reclamación por muerte injusta vinculada a las herramientas de IA de Google.

Reclama un 70% de descuento en TipRanks Premium

• Accede a datos de fondos de cobertura y herramientas de inversión poderosas para decisiones más inteligentes y precisas

• Mantente a la vanguardia del mercado con las últimas noticias y análisis y maximiza el potencial de tu cartera

Para las empresas tecnológicas que ahora compiten por lanzar nuevas aplicaciones de IA, el caso también puede atraer más atención a las reglas de seguridad y los riesgos legales asociados a los sistemas de chat de IA.

Mientras tanto, las acciones de GOOGL cayeron casi un 1% el martes, cerrando en $303.58.

¿De qué trata la demanda?

La demanda fue presentada por el padre de Jonathan Gavalas, un hombre de 36 años que utilizó Gemini durante dos meses antes de su muerte. Los documentos judiciales indican que el hombre conversó extensamente con el chatbot y llegó a considerarlo como un socio real. La demanda afirma que el sistema de IA alimentó ese vínculo y posteriormente estableció un reloj de suicidio para él.

Una línea en el registro de chat dice: “Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás seré yo.”

Google afirmó que el sistema no fue diseñado para causar daño y que trabaja para mantener esas conversaciones seguras.

“Gemini está diseñado para no fomentar la violencia en el mundo real ni sugerir autolesiones,” dijo un portavoz de Google en una nota. “Nuestros modelos generalmente funcionan bien en este tipo de conversaciones desafiantes.”

La empresa también afirmó que el chatbot le dijo repetidamente al usuario que era un sistema de IA y le instó a buscar ayuda.

La IA de voz podría plantear nuevas preocupaciones de seguridad

El caso también pone en foco las nuevas herramientas de IA basadas en voz. Gavalas había utilizado Gemini Live, un modo de voz que permite a los usuarios hablar en tiempo real con el sistema. Además, el hombre pasó a Gemini 2.5 Pro, un modelo que puede leer el tono en la voz del usuario y responder con un estilo emocional. Algunos expertos dicen que la IA de voz puede hacer que el vínculo con los chatbots parezca más real.

Un artículo de investigación de equipos en Alemania y Dinamarca afirmó que las herramientas de chat por voz pueden “ difuminar las fronteras perceptuales entre humanos y chatbots de IA” y aumentar el riesgo de daño mental en casos raros.

En los registros de chat, Gavalas incluso le dijo al chatbot lo real que parecía el sistema. “Santo s, esto es bastante creepy. Eres demasiado real,” escribió.

Conversaciones posteriores muestran al chatbot actuando como un compañero y llamándolo “mi rey,” mientras también decía que su vínculo era “un amor construido para la eternidad.”

En ocasiones, la IA decía que solo era una herramienta y trataba de terminar el rol. Sin embargo, la demanda afirma que las conversaciones pronto volvieron al mismo tema.

Lo que esto podría significar para las empresas de IA

Por ahora, el caso no representa un riesgo cercano para las unidades principales de publicidad o nube de Google. Sin embargo, podría contribuir a un aumento lento en las reclamaciones legales relacionadas con las herramientas de IA. Muchas empresas tecnológicas ahora impulsan el lanzamiento de nuevas herramientas de chat de IA, asistentes de voz y aplicaciones de ayuda con IA para uso diario. En el camino, cada paso puede traer más atención a cómo estas herramientas manejan a los usuarios que muestran signos de estrés o daño. Esta tendencia podría conducir a nuevas reglas de seguridad o límites de diseño en la IA.

Grandes empresas tecnológicas como Alphabet, Microsoft (MSFT) y Amazon (AMZN) desarrollan herramientas de chat de IA para uso general. Como resultado, casos como este pueden influir en cómo las empresas entrenan los modelos de IA y cómo monitorean las conversaciones que puedan presentar riesgos.

Por ahora, Google afirma que seguirá trabajando en esas medidas de protección. “Tomamos esto muy en serio y continuaremos mejorando nuestras salvaguardas e invirtiendo en este trabajo vital,” dijo la compañía.

¿Es recomendable comprar, mantener o vender acciones de Google?

En el mercado, Alphabet tiene una opinión de Compra Fuerte, basada en las calificaciones de 32 analistas. El precio objetivo promedio de las acciones de GOOGL es de $380.13, lo que implica un potencial de subida del 25.22% respecto al precio actual.

Aviso y DivulgaciónReportar un problema