Deepfake entrena a la IA con una gran cantidad de películas pornográficas: pero la ley solo protege la cara, ¿nunca a nadie le ha importado a quién pertenece ese cuerpo?

La discusión sobre deepfake de pornografía con IA se ha centrado durante mucho tiempo en la cara sintetizada, pero se ha ignorado a quién pertenece ese cuerpo; más de 10,000 TB de contenido para adultos podrían haber sido utilizados para entrenar modelos nudify.
(Resumen previo: Investigación de la Universidad de California sobre el fenómeno de la “niebla cerebral” de IA: el 14% de los empleados están locos por agentes y automatización, con una intención de renunciar del 40%)
(Información adicional: Última hora》Huang Renxun subió a última hora a Air Force One para acompañar a Trump en su visita a China, el enfoque en la exportación de chips NVIDIA)

Índice de este artículo

Alternar

• El cuerpo como datos de entrenamiento
• La dislocación de la era de los contratos
• La ironía de la Ley Take It Down

Cada vez que alguien habla de deepfake pornográfico con IA, el foco de la discusión casi siempre está en esa cara, en esa cara que ha sido sintetizada para hacer cosas que ella nunca hizo. Pero hay otro problema que casi nadie menciona: ¿de quién es ese cuerpo?

Según un informe de 《technologyreview》, Jennifer, una psicoterapeuta en Nueva York de 37 años, buscó en 2023 con software de reconocimiento facial un video pornográfico de hace diez años, y encontró uno que nunca había visto: su cuerpo, con la cara de otra persona.

Reconoció en el fondo que era una escena filmada en 2013, y se dio cuenta: «Alguien usó mi cuerpo para hacer un deepfake.»

El cuerpo como datos de entrenamiento

El término deepfake nació en noviembre de 2017, cuando un usuario de Reddit llamado «deepfakes» combinó caras de celebridades en cuerpos de actores porno. Desde entonces, el cuerpo de los creadores de contenido para adultos se ha convertido en el material más comúnmente robado, y esta situación «ha estado ocurriendo todo el tiempo», dice el abogado especializado en la industria adulta Corey Silverstein.

Pero la naturaleza del problema ha cambiado. El cuerpo de los actores porno ya no solo se extrae para videos individuales, sino que se usa como datos de entrenamiento para enseñar a la IA a generar «imágenes realistas de desnudos», a moverlos, a hacer que parezcan reales. Este proceso se realiza sin consentimiento informado y casi sin rastreo.

El modelo comercial de la app «nudify» se basa en esto: solo necesitas subir una foto con ropa para obtener una versión falsificada de desnudo. Estas apps casi con certeza utilizan más de 10,000 TB de contenido adulto en línea como fuente de entrenamiento, y los creadores no tienen prácticamente ningún recurso para remediarlo.

Hany Farid, experto en análisis digital de UC Berkeley, dice: «Todo esto es una caja negra». Pero dado el nivel de contenido adulto en línea, es «una hipótesis razonable» que se use para entrenar IA.

El problema no se limita solo a los datos de entrenamiento. La IA ahora puede recrear completamente la apariencia y la voz de los actores porno. La creadora Tanya Tate recientemente se enteró de que un fan famoso gastó 20,000 dólares en chatear sexualmente con una versión de IA de «ella», creada por estafadores. Tras ser engañados, varios fans comenzaron a acusar a Tate y a difundir declaraciones falsas.

La compañía de protección de derechos de autor Takedown Piracy, mediante tecnología de huellas digitales, eliminó 130 millones de videos infractores de una sola plataforma de Google, incluso si los videos fueron modificados o las caras reemplazadas, las huellas digitales aún podían identificar el material original.

La dislocación de la era de los contratos

Muchos actores porno firmaron contratos hace años que incluían cláusulas como «el editor puede usar cualquier tecnología presente o futura que se descubra». La idea en ese momento era VHS a DVD.

Nadie previó que «tecnologías futuras» significarían entrenar IA con tu contenido para crear reemplazos sintéticos que puedan sustituirte en tu trabajo. Stephen Casper, doctor en ciencias de la computación en MIT, señala que los actores que comenzaron a crear antes del auge de la IA no pudieron dar su consentimiento previo para estos usos; estos riesgos son «impuestos retroactivamente», describe Jennifer.

La capacidad de engaño de la IA también está acelerándose. Un estudio de Farid en 2025 encontró que la tasa de acierto de los sujetos para identificar voces generadas por IA era solo alrededor del 60%, y no mucho mejor que adivinar al azar.

La ironía de la Ley Take It Down

La única ley federal en EE. UU. contra deepfake actualmente es la Ley Take It Down, que exige a los sitios web eliminar imágenes íntimas no consentidas (NCII) en 48 horas. La intención de la ley es proteger a las víctimas, pero puede tener un efecto contrario.

El profesor de derecho de la Universidad de Santa Clara, Eric Goldman, señala que cualquiera puede denunciar contenido adulto legal y consensuado, alegando que es NCII, y forzar a las plataformas a eliminarlo. Esto convierte a la ley en una herramienta potencial para eliminar contenido, alineándose con el objetivo del Proyecto 2025 de erradicar contenido pornográfico en línea.

Actualmente, la ley estadounidense no considera estas infracciones como violaciones de la privacidad, porque «no sabemos a quién responsabilizar», dice Goldman. La UE, Reino Unido y Australia ya han anunciado restricciones a las apps nudify, pero estas apps, una vez eliminadas, a menudo reaparecen con otros nombres.

Reba Rocket dice: «Las chicas IA harán cualquier cosa que quieras, no dicen que no. Eso me da miedo, especialmente cuando usan personas reales para entrenar esos modelos. Y una vez que están en línea, permanecen allí para siempre.»