El debate sobre las deepfakes se ha intensificado. Public Citizen, una organización de defensa de los consumidores, está pidiendo a OpenAI que retire su generador de videos con IA, Sora, del mercado, citando serias preocupaciones sobre el potencial de uso indebido de esta tecnología.

¿Su argumento? La capacidad de Sora para crear videos falsos hiperrealistas podría convertir la desinformación en un arma a una escala nunca antes vista. Piensen en interferencias electorales, fraudes de identidad o campañas de desinformación coordinadas que difuminan la línea entre la realidad y la fabricación.

Lo que hace esto diferente a controversias anteriores sobre IA es el momento. Estamos entrando en una era en la que las herramientas de medios sintéticos están siendo accesibles para usuarios comunes, no solo para élites tecnológicas o actores estatales. La barrera para crear contenido falso convincente se está derrumbando rápidamente.

OpenAI aún no ha detenido la producción, pero la presión aumenta. Algunas voces en la industria argumentan que la innovación no debería ser frenada por riesgos hipotéticos, mientras que otras señalan la falta de salvaguardas robustas integradas en estas herramientas antes de su lanzamiento.

Aquí está la visión general: a medida que la IA generativa avanza rápidamente, los marcos regulatorios van rezagados. Ya sea en síntesis de videos, clonación de voces o generación de textos, la cuestión no es solo qué pueden hacer estas herramientas, sino si la sociedad está preparada para las consecuencias cuando se despliegan a gran escala.

La controversia con Sora podría ser una vista previa de las batallas que vienen. ¿Cómo equilibramos el progreso tecnológico con la seguridad pública? ¿Y quién decide cuándo una herramienta es demasiado peligrosa para ser lanzada?