Videos de IA de mujeres negras sexualizadas eliminados de TikTok tras investigación de la BBC

Hace 45 minutos

CompartirGuardar

Sharihan Al-AkhrasBBC News Árabe

CompartirGuardar

Riya Ulan (izquierda) / Instagram (derecha)

Riya Ulan (izquierda) notó que su video había sido manipulado para mostrar una persona digital generada por IA (derecha)

TikTok ha prohibido 20 cuentas después de que la BBC destacara el uso de influencers negras generadas por IA para dirigir a los usuarios a sitios que promueven contenido sexual explícito.

Forman parte de una tendencia creciente de cuentas en Instagram y TikTok que ha sido criticada por ser racista, explotadora y engañosa debido a los estereotipos raciales y el lenguaje utilizado.

La BBC y investigadores de la publicación independiente de IA Riddance encontraron docenas de cuentas en ambas plataformas que presentan personajes digitales o avatares de mujeres negras altamente sexualizados.

Las imágenes y videos fueron generados por IA pero no etiquetados como tales, en aparente incumplimiento de las directrices de las plataformas.

Casi todas las cuentas estaban en Instagram y aproximadamente un tercio también tenían versiones en TikTok. La empresa matriz de Instagram, Meta, dijo a la BBC que estaba investigando, pero no informó haber tomado ninguna medida.

Los avatares suelen mostrarse vestidos con trajes de baño escasos u otra ropa reveladora y representados con formas corporales exageradas.

Algunos tienen tonos de piel excepcionalmente oscuros que han sido manipulados digitalmente, dándoles una apariencia artificial.

Los nombres de las cuentas incluyen términos como “black”, “noir”, “dark” y “ebony”. Varias incluyen comentarios sobre hombres blancos en sus publicaciones, como “ama a los hombres blancos” y “por qué necesito un hombre blanco en mi vida”. Muchas de las cuentas se siguen o dan me gusta mutuamente.

La BBC, en colaboración con los analistas Jeremy Carrasco y Angel Nulani de Riddance, identificó 60 cuentas, principalmente en Instagram, que han compartido enlaces o cadenas de enlaces a contenido sexual explícito de pago en sitios de terceros. Los sitios etiquetaron las imágenes como generadas por IA, pero las cuentas de Instagram no.

La investigación también identificó muchas más cuentas en Instagram y TikTok con avatares similares generados por IA que no enlazaban a contenido de pago.

‘Estaba enojada’

Una de las cuentas cerradas por TikTok —aunque todavía operaba en Instagram al momento de la publicación— causó más enojo al robar videos de personas reales.

Se presenta como la cuenta de un personaje llamativo generado por IA y había acumulado tres millones de seguidores en pocas semanas desde su creación en diciembre.

Pero ha modificado y publicado videos de una creadora de contenido genuina, Riya Ulan, una modelo basada en Malasia.

La cara del avatar, que tiene un tono de piel excepcionalmente oscuro y artificial, está superpuesta sobre el cuerpo de Riya, y sus movimientos, ropa y fondo son replicados.

“Estaba enojada”, dijo Riya a la BBC. “Por supuesto, mis videos están por ahí… No significa que puedas simplemente tomarlos, robártelos y publicarlos como propios.”

Instagram

Algunas cuentas, incluida la que robó el contenido de Riya, rechazan las sugerencias de que son generadas por IA

Uno de los videos manipulados alcanzó más de 35 millones de vistas en TikTok y 173 millones en Instagram, aproximadamente 47 veces las vistas de la publicación original de Riya.

Mientras que los tres videos que claramente coinciden con el contenido de Riya no son sexuales, otros videos en la cuenta de IA que usan el mismo personaje digital muestran ropa reveladora o acciones provocativas. Una cadena de enlaces de la cuenta lleva a contenido adulto de pago.

“No estoy segura si me preocupa más que hayan tomado mi video para promover su contenido explícito o que la gente realmente crea en eso”, dice.

Se está volviendo más difícil para los usuarios distinguir si el contenido es real y “la gente sigue cayendo en estas modelos de IA”, añade.

Muchos espectadores parecen tratar a los avatares como reales, a pesar de sus características poco realistas. En publicaciones o historias de Instagram, algunas cuentas niegan usar IA, incluida la que tomó el contenido de Riya.

Riya dice que reportó la cuenta a ambas plataformas varias veces, pero en ese momento el contenido no fue eliminado. TikTok la prohibió después de que la BBC se acercara para comentar.

‘Representaciones irreales’

“Creo que estas cuentas son racistas porque su existencia perpetúa una larga historia de explotación de las personas negras”, dice Nulani, una de las investigadoras.

“El uso de caricaturas, terminología de juego racial y representaciones poco realistas de mujeres negras demuestra que no les preocupa nuestra seguridad o bienestar, sino nuestra capacidad de ser capitalizados como parte de la máquina de pornografía en línea”, añade.

Carrasco, quien critica las tendencias y técnicas de IA en sus cuentas de redes sociales, dice que “lo nuevo son las cantidades de representaciones descaradas y racistas de personas extremadamente negras”.

Aunque “ese fetiche” pudo haber existido en el pasado, la IA “le da una nueva fuerza”, afirma. Explica que la IA facilita eliminar matices en imágenes y videos para crear tonos de piel oscuros que no son naturales y efectos que antes requerían animación o pintura de piel.

También, dice, no hay consecuencias sociales para un avatar: “No hay vergüenza… eso es algo que la IA explota de manera única.”

Houda Fonone / BOCHIC

La creadora de contenido Houda Fonone dice que teme que las reflecciones en línea de experiencias vividas sean reemplazadas por imágenes artificiales

Houda Fonone, modelo y creadora de contenido marroquí que aboga por representaciones más auténticas de las mujeres negras, dice que la tendencia se trata de “borrado”.

“Cabello sedoso, cuerpos extremadamente delgados y piel increíblemente perfecta… es como si la belleza negra solo pudiera ser aceptada cuando está ‘refinada’.”

Ella dice que esto corre el riesgo de reforzar estereotipos mientras “nuestras historias y experiencias reales son reemplazadas por una imagen artificial”.

La BBC envió ejemplos de las cuentas identificadas a Meta y TikTok, y solicitó sus respuestas.

Dos días después, un portavoz de TikTok dijo a la BBC que la compañía había “eliminado contenido y prohibido cuentas que violan nuestras reglas”.

En pocos días, 20 cuentas fueron etiquetadas como “prohibidas” en la aplicación.

“TikTok prohíbe contenido generado por IA de personas utilizado sin su permiso, tenemos tolerancia cero con contenido que promueva servicios sexuales fuera de la plataforma”, dijo el portavoz.

La compañía afirma que prohíbe y elimina contenido generado por IA que sea dañino o engañoso, y requiere que los usuarios etiqueten contenido de IA realista. También afirmó que había aplicado etiquetas correctas a varios videos.

Meta dijo que estaba investigando el contenido que se le informó.

Dice que quiere que los usuarios sepan cuándo están viendo publicaciones hechas con IA y que tiene políticas para el etiquetado de contenido generado por IA. Nueve cuentas de Instagram que la BBC rastreó parecen ya no existir.

Ninguna de las plataformas dio detalles sobre su respuesta a los informes iniciales de Riya.

TikTok

Inteligencia artificial

Mujeres negras

Instagram

Interés negro