Anúncio de aplicação de edição de IA que dizia poder ‘remover qualquer coisa’ foi banido

Há 9 horas

CompartilharSalvar

Daniel ThomasRepórter sénior de tecnologia

CompartilharSalvar

Getty Images

Um anúncio de uma ferramenta de edição de vídeo e imagem que sugeria que os espectadores poderiam remover digitalmente a roupa de uma mulher foi banido pelo regulador de publicidade do Reino Unido.

O anúncio no YouTube do PixVideo - AI Video Maker, visto em janeiro, mostrava uma imagem de uma jovem mulher, com um rabisco vermelho sobre o seu abdómen na primeira imagem, e partes da sua pele exposta na segunda.

O texto na parte inferior da imagem dizia: “Apague qualquer coisa” seguido de um emoji de olhos de coração.

Oito pessoas reclamaram à Autoridade de Padrões de Publicidade (ASA) que o anúncio sexualizava e objetificava as mulheres, sendo irresponsável, ofensivo e prejudicial.

Não está claro se a imagem do anúncio é de uma pessoa real ou se é gerada por IA, com a ASA a informar à BBC que essa avaliação não fazia parte da sua investigação.

O regulador afirmou que o PixVideo não permite aos seus utilizadores remover roupas de imagens digitais para criar conteúdo sexualmente explícito, mas que os espectadores podem ter ficado com a impressão de que sim.

“Porque o anúncio sugeria que os espectadores podiam usar uma aplicação para remover a roupa de uma mulher, considerámos que promovia a alteração digital e a exposição do corpo feminino sem consentimento”, afirmou a agência numa declaração.

Adicionou que o anúncio era “irresponsável, continha um estereótipo de género prejudicial e provavelmente causaria ofensa grave”.

A Saeta Tech, proprietária do PixVideo, disse que compreendia por que o anúncio poderia causar ofensa, mas culpou a sua apresentação e mensagem, e não o uso pretendido do seu produto.

Disse que proíbe a criação de conteúdo nu ou sexualmente explícito e que possui ferramentas automatizadas de deteção e bloqueio para impedir a geração de tais imagens.

A empresa concordou em não exibir novamente o anúncio e pausou toda a publicidade enquanto realiza uma revisão interna.

A questão de aplicações que “despem” mulheres e raparigas sem o seu consentimento ganhou destaque em janeiro, quando o chatbot Grok de Elon Musk foi usado para inundar o X com imagens sexualizadas.

Após uma reação global, Musk posteriormente bloqueou o Grok de gerar tais imagens em jurisdições onde é ilegal, mas o X ainda enfrenta investigações e processos judiciais em todo o mundo.

O governo do Reino Unido anunciou em dezembro que tornaria ilegal criar e fornecer ferramentas de IA que permitam aos utilizadores editar imagens para aparentemente remover a roupa de alguém.

As novas infrações irão reforçar as regras existentes sobre deepfakes sexualmente explícitos e abuso de imagens íntimas.