Publicidad de una app de edición de IA que decía poder “quitar cualquier cosa” prohibida

hace 9 horas

CompartirGuardar

Daniel ThomasReportero senior de tecnología

CompartirGuardar

Getty Images

Un anuncio de una herramienta de edición de video e imágenes que insinuaba que los espectadores podían eliminar digitalmente la ropa de una mujer ha sido prohibido por el regulador de publicidad del Reino Unido.

El anuncio en YouTube de PixVideo - AI Video Maker, visto en enero, mostraba una imagen de una joven mujer con un “antes” y un “después”, con un garabato rojo sobre su abdomen en la primera, y partes de su piel desnuda expuestas en la segunda.

El texto en la parte inferior de la imagen decía: “Borra cualquier cosa” seguido de un emoji de ojos en forma de corazón.

Ocho personas se quejaron a la Autoridad de Normas de Publicidad (ASA) alegando que el anuncio sexualizaba y objetivaba a las mujeres, y que era irresponsable, ofensivo y dañino.

No está claro si la imagen del anuncio es de una persona real o si fue generada por IA, y la ASA dijo a la BBC que no había sido parte de su investigación hacer tal evaluación.

El regulador afirmó que PixVideo no permite a sus usuarios eliminar ropa de imágenes digitales para crear contenido sexualmente explícito, pero que los espectadores podrían haber tenido esa impresión.

“Debido a que el anuncio insinuaba que los espectadores podían usar una aplicación para quitar la ropa de una mujer, consideramos que promovía la alteración digital y la exposición del cuerpo femenino sin su consentimiento”, dijo la agencia en un comunicado.

Agregó que el anuncio era “irresponsable, incluía un estereotipo de género dañino y probablemente causaría un grave ofensa”.

Saeta Tech, propietaria de PixVideo, dijo entender por qué el anuncio podría causar ofensa, pero culpó a su presentación y mensaje, en lugar del uso previsto de su producto.

Dijo que prohíbe la creación de contenido desnudo o sexualmente explícito y que cuenta con herramientas automatizadas de detección y bloqueo para evitar la generación de dichas imágenes.

La compañía ha acordado no volver a mostrar el anuncio y ha pausado toda su publicidad mientras realiza una revisión interna.

El tema de aplicaciones que “desnuden” a mujeres y niñas sin su consentimiento fue noticia en enero, cuando el chatbot Grok de Elon Musk fue utilizado para inundar X con imágenes sexualizadas.

Tras una reacción global negativa, Musk bloqueó posteriormente a Grok para que no generara esas imágenes en jurisdicciones donde es ilegal, pero X aún enfrenta investigaciones y demandas en todo el mundo.

El gobierno del Reino Unido anunció en diciembre que sería ilegal crear y distribuir herramientas de IA que permitan a los usuarios editar imágenes para aparentemente quitar la ropa de alguien.

Los nuevos delitos se basarán en las reglas existentes sobre deepfakes sexualmente explícitos y abuso de imágenes íntimas.

Reino Unido prohibirá aplicaciones de IA de “nudificación” mediante deepfake

TikTok elimina anuncios de pérdida de peso con IA de una cuenta falsa de Boots

Suscríbete a nuestro boletín Tech Decoded para seguir las principales historias y tendencias tecnológicas del mundo. ¿Fuera del Reino Unido? Suscríbete aquí.

Inteligencia artificial