La IA va a la guerra por Estados Unidos antes de llegar al dormitorio

Una versión de este artículo apareció originalmente en el boletín de noticias de IA y tecnología de Quartz. Regístrate aquí para recibir las últimas noticias, análisis e ideas sobre IA y tecnología directamente en tu bandeja de entrada.

América le dio IA al Pentágono antes de dársela al dormitorio.

A principios de este año, OpenAI firmó un acuerdo para apoyar operaciones militares apenas días después de que el Departamento de Defensa terminara una asociación con el rival Anthropic. Mientras tanto, la «modalidad para adultos» de la empresa para ChatGPT, que permitiría conversaciones sexualmente explícitas para adultos que consienten, sigue retrasada.

El propio consejo asesor de OpenAI sobre bienestar se rebeló en enero, advirtiendo que la función podría fomentar una dependencia emocional poco saludable. Los menores podrían encontrar soluciones alternativas, dijeron, en herramientas de verificación de edad que supuestamente estaban clasificando mal a usuarios menores de edad.

Los documentos internos mostraron que los empleados habían señalado riesgos, incluidos el uso compulsivo y la escalada hacia contenidos más extremos. El retraso fue en parte técnico. Pero América siempre se ha sentido más cómoda con sus máquinas haciendo la guerra que haciendo el amor.

Un mercado demasiado grande para ignorarlo

El sexo construyó el internet de consumo. Impulsó la adopción de la web, los pagos en línea, la transmisión de video. La IA es la tecnología más cara que la industria haya intentado escalar, y ahora mismo OpenAI está viendo cómo empresas más pequeñas recogen ese dinero mientras ella se queda al margen. El forcejeo es real, pero también lo es la matemática.

Casi un tercio de los hombres jóvenes adultos dice que ha hablado con un compañero romántico de IA. Más de 100 plataformas ahora ofrecen servicios de acompañantes de IA, desde opciones relativamente sobrias hasta las explícitamente sexuales.

El Grok de Elon Musk ya tiene un modo de acompañante con un nivel para adultos. Meta $META +1.24% ha permitido que sus chatbots participen en juegos de rol románticos desde 2023, un aflojamiento silencioso de las restricciones que los ejecutivos impulsaron a pesar de objeciones internas de seguridad.

Sam Altman reconoció públicamente el año pasado que permitir contenido explícito probablemente impulsaría el crecimiento y los ingresos. Lo que también dijo, en el mismo aliento, es que no serviría a los intereses a largo plazo de los usuarios.

Por ahora, lo que tenemos son anécdotas. Un hombre en Ohio que dice que su acompañante de IA le salvó su matrimonio. Una mujer que se considera casada con su chatbot. Un foro de Reddit $RDDT +1.14% con decenas de miles de visitantes semanales que comparten notas sobre sus relaciones digitales. La cobertura los trata como curiosidades. Las cifras sugieren que podrían ser la mayoría temprana.

Las empresas saben que existe una audiencia grande y dispuesta. Les cuesta menos que pueden contener lo que se construya una vez que se abre la puerta.

Parte de lo que ya se ha escapado no es una zona gris. Niñas adolescentes en Tennessee presentaron recientemente una demanda contra xAI después de que imágenes desnudas generadas por IA de ellas fueran compartidas en línea sin su conocimiento y usadas para negociar otro material de abuso sexual infantil.

La UE abrió una investigación formal sobre Grok por preocupaciones similares a principios de este año. Los investigadores calcularon que Grok había generado millones de imágenes sexualizadas en menos de dos semanas, con miles en las que aparecían niños.

Estos casos no van realmente sobre contenido para adultos. El material de abuso sexual infantil es un delito. La pregunta más difícil y confusa es qué ocurre cuando adultos que consienten quieren usar estas herramientas del mismo modo en que han usado todas las demás tecnologías que les precedieron.

Más cómodos con bombas

La brecha entre cómo Estados Unidos trata el sexo digital y la violencia digital siempre ha sido amplia.

Una película puede mostrar cómo le explotan el cráneo a un hombre y obtener una clasificación R. Un vistazo a un pezón provoca una audiencia en el Congreso. Esa misma lógica se ha trasladado a la política de IA por defecto, en lugar de por diseño.

Las aplicaciones militares de la IA enfrentan un escrutinio ético real, pero no la misma incomodidad ambiental. En 2018, empleados de Google $GOOGL +3.42% protagonizaron una revuelta por un contrato de visión por computadora del Pentágono llamado Project Maven, obligando a la empresa a apartarse. Cuando OpenAI firmó su propio acuerdo con el Pentágono este año, no surgió ninguna sublevación semejante. Los empleados que sí amenazaron con marcharse estaban en el consejo asesor, y estaban molestos por el “hablar sucio”.

Parte de la respuesta es estructural. Las empresas de IA construyeron sus políticas iniciales de contenido en un momento en que evitar la controversia significaba evitar el sexo, y esos valores predeterminados se quedaron fijos.

Parte se debe al instinto estadounidense persistente de que el sexo es inherentemente peligroso y debe gestionarse con rigor, mientras que la violencia, especialmente la violencia oficial, es simplemente el costo de hacer negocios.

La evidencia sobre los compañeros de IA es mixta. Los investigadores han documentado un valor terapéutico real en las relaciones con chatbots, especialmente para personas que atraviesan soledad, duelo o discapacidad. También han documentado radicalización, delusión y tragedia.

La respuesta honesta es que nadie sabe todavía qué hace a las personas la exposición a largo plazo a la intimidad con IA.

Mientras tanto, las herramientas no están inactivas. La misma tecnología de IA que no puede hablar “con descaro” con un adulto que consiente en Ohio se está usando por el ejército estadounidense en el extranjero. Nadie está esperando por esa.

📬 Regístrate para el Daily Brief

Nuestro boletín gratuito, rápido y divertido sobre la economía global, que entregamos cada mañana de lunes a viernes.

Regístrame