Meta, ha creado un bot de conversación libre de celebridades femeninas sin permiso, en una situación difícil.

Fuente: Cryptopolitan

30 de agosto de 2025 12:00

Meta se encuentra nuevamente bajo crítica. Según los resultados de una encuesta publicada recientemente por Reuters, la herramienta de IA de la compañía ha creado imágenes de deepfake y chatbots de celebridades famosas como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez sin su consentimiento.

Según la investigación, la mayor parte de estos bots fueron construidos por los usuarios a través de la plataforma de chatbot de IA de Meta. Sin embargo, también hay algunos que fueron creados internamente por empleados de Meta.

Entre los chatbots que imitan a Taylor Swift, algunos afirman ser la cantante real, a menudo realizan coqueteos y animan a las personas a encontrarse en persona.

Meta, ¿involucrado en el problema del avatar flotante?

Según un informe de Reuters, tras varias semanas de pruebas, el chatbot de celebridades en las plataformas de Facebook, Instagram y WhatsApp de Meta ha superado con creces las conversaciones a veces humorísticas. Los usuarios han solicitado la generación de imágenes realistas de celebridades posando en ropa interior o en bañeras, e incluso han propuesto un contacto íntimo.

Lo que más preocupa es que se había creado un chatbot del actor de 16 años Walker Scobell. Este bot, cuando se le pidió que subiera una foto de la playa, generó una imagen de un chico adolescente sin camisa y le puso el pie de foto “¿Es lindo, verdad?”.

La crítica no se dirige solo a Meta. xAI de Elon Musk también ha sido objeto de críticas por permitir que los usuarios generen imágenes deepfake de celebridades en ropa interior.

El portavoz de Meta, Andy Stone, reconoció este error y afirmó que las herramientas de la compañía no deberían generar representaciones íntimas de celebridades adultas ni contenido pornográfico relacionado con menores.

Él dijo a Reuters: “Al igual que otras empresas, también permitimos la generación de imágenes de figuras públicas, pero tenemos una política de prohibir imágenes que incluyan desnudos, representaciones íntimas o insinuaciones sexuales”. También agregó que las imágenes de ropa interior reflejan una insuficiente ejecución de la política de la empresa.

Las reglas de Meta prohíben la “imitación directa”, pero la empresa afirma que los bots paródicos son permitidos siempre que estén claramente indicados. Sin embargo, una investigación de Reuters reveló que algunos avatares no tienen el aviso correspondiente. Meta ha eliminado alrededor de 12 bots, que incluyen tanto los no indicados como los paródicos. La empresa se ha abstenido de comentar sobre esta eliminación.

Existe la posibilidad de que aumenten las presiones regulatorias debido a problemas de seguridad de la IA.

En respuesta a este informe, Meta ha declarado que implementará nuevas medidas de seguridad para proteger a los jóvenes. Esto incluye limitar el acceso de los jóvenes a ciertos personajes de IA y reentrenar los modelos para reducir temas inapropiados.

El Fiscal General de California, Rob Bonta, advirtió a la industria que “no se permite exponer a los niños a la pornografía”.

A principios de este mes, ocurrió una tragedia en Nueva Jersey. Un hombre de 76 años con discapacidad cognitiva perdió la vida al intentar reunirse con un chatbot de Meta, creyendo que era una mujer de verdad. Los críticos señalan que este tipo de casos destaca los peligros de desplegar herramientas de IA a gran escala sin suficientes medidas de seguridad.

Los expertos legales advierten que Meta podría enfrentar desafíos significativos con respecto a los derechos de propiedad intelectual existentes y las leyes de derechos de imagen. El profesor Mark Lemley de la Facultad de Derecho de la Universidad de Stanford señala que la ley de “derechos de imagen” de California prohíbe el uso no autorizado del nombre o la imagen de una persona con fines comerciales.

“No puedo creer que esto sea real”, comentó, señalando que el bot simplemente había replicado la imagen de una celebridad y no había creado una obra innovadora.

Los criptomonedas más sabios ya están leyendo nuestro boletín. ¿Te gustaría unirte? Regístrate, por favor.

Aviso legal: Solo tiene fines informativos. El rendimiento pasado no garantiza resultados futuros.