Presuntamente genera contenido de deepfake de pornografía infantil, xAI es demandado por la ciudad de Baltimore, EE.UU. por daños y perjuicios

Fenghuang Wang Keji Xun 25 de marzo, según Reuters, la ciudad de Baltimore, en Estados Unidos, ha presentado una demanda formal contra la empresa de inteligencia artificial xAI, propiedad de Elon Musk, acusándola de que su chatbot de IA, Grok, genera ilegalmente imágenes pornográficas explícitas sin consentimiento y contenido de explotación infantil. Como la mayor ciudad hasta ahora en presentar una demanda contra xAI por problemas de “deepfake”, Baltimore, con una población de aproximadamente 568,000 habitantes, señala en la demanda presentada ante el tribunal de circuito que xAI ha presentado a Grok como un asistente de IA general seguro, cuando en realidad su funcionamiento ha violado presuntamente las leyes de protección al consumidor.

Los documentos judiciales revelan una gran cantidad de datos sobre la generación de contenido por parte de esta herramienta. Según una estimación del Centro Anti-Odio Digital basada en 20,000 muestras, en los 11 primeros días de este año se generaron aproximadamente 3 millones de imágenes sexualizadas realistas en la plataforma social X, incluyendo más de 23,000 contenidos ilícitos que involucran a menores. El alcalde de Baltimore, Brandon Scott, emitió un comunicado acusando a la empresa tecnológica de facilitar la explotación sexual infantil y subrayó que se debe responsabilizar legalmente a los responsables. Además, la demanda cita una autorretrato generado por Grok, publicado por Musk el 31 de diciembre de 2025, en el que aparece vestido con un bikini azul, como evidencia, acusando que esto constituye una “aprobación pública” de la capacidad de la IA para generar imágenes de personas reales expuestas.

A medida que la situación se intensifica, Grok, lanzado en 2023, enfrenta investigaciones regulatorias en América, Europa, Asia y Australia. Aunque xAI anunció a mediados de enero que limitaría las funciones de edición de imágenes de Grok en algunas jurisdicciones y Musk afirmó en ese momento que no tenía conocimiento de que Grok generara imágenes ilícitas de menores, las disputas legales continúan. En esta demanda, Baltimore no solo busca una multa sin monto especificado, sino que también solicita una orden judicial que obligue a xAI a modificar completamente las características de diseño de Grok, que se consideran “explotadoras”. Hasta ahora, ni SpaceX, la empresa matriz valorada en aproximadamente 1.25 billones de dólares tras la reciente fusión, ni xAI han emitido una respuesta oficial a la demanda.

(Editar: He Chong)

【Aviso de responsabilidad】Este artículo refleja únicamente las opiniones del autor y no tiene relación con Hexun. El sitio web de Hexun mantiene una postura neutral respecto a las declaraciones y opiniones expresadas en el texto, y no garantiza la precisión, fiabilidad o integridad del contenido. Los lectores deben considerarlo solo como referencia y asumir toda la responsabilidad por su uso. Correo electrónico: news_center@staff.hexun.com