Vídeos de IA de mulheres negras sexualizadas removidos do TikTok após investigação da BBC

45 minutos atrás

CompartilharSalvar

Sharihan Al-AkhrasBBC News Árabe

CompartilharSalvar

Riya Ulan (esquerda) / Instagram (direita)

Riya Ulan (esquerda) percebeu que seu vídeo tinha sido manipulado para mostrar uma persona digital gerada por IA (direita)

O TikTok baniu 20 contas após a BBC destacar o uso de influenciadoras negras geradas por IA para direcionar usuários a sites que promovem conteúdo sexualmente explícito.

Elas fazem parte de uma tendência crescente de contas no Instagram e TikTok que têm sido criticadas por racismo, exploração e engano devido ao uso de estereótipos raciais e linguagem inadequada.

A BBC e pesquisadores da publicação independente de IA Riddance encontraram dezenas de contas nas duas plataformas com personagens digitais ou avatares altamente sexualizados de mulheres negras.

As imagens e vídeos foram gerados por IA, mas não rotulados como tal, em aparente violação das diretrizes das plataformas.

Quase todas as contas estavam no Instagram e cerca de um terço também tinha versões no TikTok. A matriz do Instagram, Meta, disse à BBC que estava investigando, mas não informou se havia tomado alguma ação.

Os avatares costumam estar vestidos com roupas de banho reveladoras ou outras roupas provocantes, com formas corporais exageradas.

Alguns possuem tons de pele extremamente escuros, manipulados digitalmente, dando-lhes uma aparência artificial.

Os nomes das contas incluem termos como “black”, “noir”, “dark” e “ebony”. Várias incluem comentários sobre homens brancos, como “ama homens brancos” e “por que preciso de um homem branco na minha vida”. Muitas contas seguem ou curtiram umas às outras.

A BBC, em colaboração com os analistas Jeremy Carrasco e Angel Nulani, da Riddance, identificou 60 dessas contas, principalmente no Instagram, que continham links ou cadeias de links para conteúdo sexualmente explícito pago em sites de terceiros. Os sites rotulavam as imagens como geradas por IA, mas as contas do Instagram não.

A pesquisa também identificou muitas outras contas no Instagram e TikTok com avatares gerados por IA semelhantes que não estavam vinculadas a conteúdo pago.

‘Fiquei com raiva’

Uma das contas encerradas pelo TikTok — embora ainda operando no Instagram na época da publicação — causou mais revolta ao roubar vídeos de pessoas reais.

Ela se apresenta como a conta de uma personagem gerada por IA impressionante e acumulou três milhões de seguidores em poucas semanas após sua criação, em dezembro.

Porém, ela modificou e postou vídeos de uma criadora de conteúdo genuína, Riya Ulan, uma modelo baseada na Malásia.

O rosto do avatar, com um tom de pele artificialmente escuro e extremamente escuro, foi sobreposto ao corpo de Riya, e seus movimentos, roupas e fundo foram replicados.

“Fiquei com raiva”, disse Riya à BBC. “Claro que meus vídeos estão por aí… Não significa que você possa simplesmente pegá-los, roubá-los e postá-los como seus.”

Instagram

Algumas contas — incluindo a que roubou o conteúdo de Riya — negam que sejam geradas por IA

Um dos vídeos manipulados alcançou mais de 35 milhões de visualizações no TikTok e 173 milhões no Instagram, cerca de 47 vezes as visualizações da postagem original de Riya.

Embora os três vídeos que claramente correspondem ao conteúdo de Riya não sejam sexuais, outros vídeos na conta de IA, usando o mesmo personagem digital, mostram ela vestida com roupas reveladoras ou realizando ações provocantes. Uma cadeia de links da conta leva a conteúdo adulto pago.

“Não tenho certeza se estou mais preocupada com eles usarem meu vídeo para promover seu conteúdo explícito ou se as pessoas realmente acreditam nisso”, ela diz.

Está ficando mais difícil para os usuários discernirem se o conteúdo é real e “as pessoas continuam caindo nessas modelos de IA”, ela acrescenta.

Muitos espectadores parecem tratar os avatares como reais, apesar de suas características irreais. Em posts ou stories do Instagram, algumas contas negam o uso de IA, incluindo a que roubou o conteúdo de Riya.

Riya afirma que reportou a conta às duas plataformas várias vezes, mas, na época, o conteúdo não foi removido. O TikTok a baniu após a BBC solicitar um comentário.

‘Representações irreais’

“Acredito que essas contas são racistas porque sua existência perpetua uma longa história de exploração das pessoas negras”, diz Nulani, uma das pesquisadoras.

“O uso de caricaturas, terminologia de racismo e representações irreais de mulheres negras provam que elas não se preocupam com nossa segurança ou bem-estar, mas com nossa capacidade de serem exploradas como parte da máquina de pornografia online”, acrescenta.

Carrasco, que critica tendências e técnicas de IA em suas redes sociais, afirma que “a nova tendência é a quantidade de representações descaradas e racistas de pessoas extremamente negras”.

Embora “esse fetiche” possa ter existido no passado, a IA “dá uma nova força a ele”, diz. Ele explica que a IA facilita a remoção de nuances em imagens e vídeos para criar tons de pele escuros que não são naturais, além de efeitos que anteriormente exigiriam animação ou pintura de pele.

Além disso, ele afirma que não há consequências sociais para um avatar: “Não há vergonha… isso é algo que a IA explora de forma única.”

Houda Fonone / BOCHIC

Criadora de conteúdo Houda Fonone diz que teme que as reflexões online de experiências vividas estejam sendo substituídas por imagens artificiais

Houda Fonone, modelo e criadora de conteúdo marroquina que defende representações mais autênticas de mulheres negras, afirma que a tendência é uma forma de “apagamento”.

“Cabelos sedosos, corpos extremamente magros e pele impossivelmente perfeita… é como se a beleza negra só pudesse ser aceita quando ‘refinada’.”

Ela diz que isso corre o risco de reforçar estereótipos enquanto “nossas histórias e experiências reais são substituídas por uma imagem artificial”.

A BBC enviou exemplos das contas identificadas à Meta e ao TikTok, solicitando suas respostas.

Dois dias depois, um porta-voz do TikTok disse à BBC que a empresa havia “removido conteúdo e banido contas que violam nossas regras”.

Em poucos dias, 20 contas foram rotuladas como “banidas” no aplicativo.

“O TikTok proíbe conteúdo gerado por IA de indivíduos usado sem permissão, temos tolerância zero com conteúdo que promove serviços sexuais fora da plataforma”, afirmou o porta-voz.

A empresa diz que proíbe e remove conteúdo gerado por IA que seja prejudicial ou enganoso, e exige que os usuários rotulem conteúdo de IA realista. Disse também que aplicou rotulagem correta a vários vídeos.

A Meta afirmou que está investigando o conteúdo que foi trazido à sua atenção.

Ela quer que os usuários saibam quando estão vendo publicações feitas com IA, e que possui políticas para rotulagem de conteúdo gerado por IA. Nove contas do Instagram rastreadas pela BBC parecem não existir mais.

Nenhuma das plataformas forneceu detalhes sobre sua resposta aos relatórios iniciais de Riya.

TikTok

Inteligência artificial

Mulheres negras

Instagram

Interesse negro