Se descubren ‘granjas de contenido’ en el extranjero que crean deepfakes políticos

Hace 1 día

CompartirGuardar

Ben SummerNews Impact

CompartirGuardar

Getty Images

Varias páginas ubicadas en el extranjero están publicando noticias falsas con ayuda de IA sobre la política del Reino Unido en las redes sociales

Expertos advierten que “granjas de contenido” en el extranjero están usando inteligencia artificial (IA) para crear publicaciones en redes sociales sobre la política del Reino Unido.

La empresa tecnológica Meta eliminó varias páginas en Vietnam de Facebook tras una investigación de BBC Gales que encontró que estaban difundiendo noticias falsas.

La advertencia, del profesor Martin Innes de la Universidad de Cardiff, llega mientras la Comisión Electoral desarrolla un software para detectar y combatir deepfakes antes de las elecciones en las parlaments de Gales y Escocia en mayo.

BBC también ha descubierto ejemplos de videos generados por IA, compartidos por páginas en Gales, que muestran falsamente a políticos galeses en situaciones comprometedoras, incluyendo apoyar a un rival y besar a un colega.

Varios políticos galeses contaron a la BBC sus experiencias como víctimas de deepfakes.

“No creo que haya un político que no haya sido víctima de esto… decirlo en voz alta me hace sentir bastante triste”, dijo la diputada laborista Alex Davies-Jones.

¿Qué es un deepfake?

Los deepfakes son videos, imágenes o clips de audio digitalmente alterados o manipulados para hacer que algo falso parezca real.

Algunos son tontos, pero otros podrían dañar reputaciones potencialmente.

Y las herramientas de IA de texto a imagen han facilitado mucho su generación.

Imágenes de los políticos Boris Johnson, Zia Yusuf y Nigel Farage, que los hacían parecer hospitalizados, estaban entre las publicaciones de páginas en Vietnam.

BBC Gales encontró varias páginas en Facebook que publicaban noticias falsas sobre políticos del Reino Unido, a menudo acompañadas de imágenes generadas por IA.

Cada una de estas páginas tenía miles de seguidores y muchas publicaban el mismo contenido o muy similar.

A menudo tenían nombres que sugerían ser medios de noticias del Reino Unido, pero usando una función de transparencia en Facebook, era posible ver que casi todas estas páginas estaban gestionadas desde Vietnam.

Aunque contenían algunas noticias reales, gran parte de su contenido podía ser fácilmente probado como falso.

Meta eliminó algunas de estas páginas tras ser contactada por la BBC, pero durante la investigación, se creaban nuevas páginas casi a diario.

Las páginas a menudo mostraban a varios políticos, incluyendo a Nigel Farage, Boris Johnson, Rishi Sunak y Zia Yusuf, en la misma situación falsa, por ejemplo, saliendo de una entrevista en la BBC tras discusiones dramáticas con Laura Kuenssberg.

No hay indicios de que estas páginas sean gestionadas por, o en nombre de, algún partido político.

Una discusión falsa con Laura Kuenssberg fue uno de los escenarios falsos en los que participaron múltiples políticos.

El profesor Martin Innes, director del Instituto de Investigación en Crimen y Seguridad de la Universidad de Cardiff, dijo que las páginas eran “granjas de contenido” diseñadas para volverse virales.

Podrían, a su vez, generar ingresos para sus propietarios a través del programa de monetización de Facebook, pero no es posible saber con certeza si cada página está monetizada.

Facebook marcó algunas historias con una advertencia, diciendo que habían sido probadas como falsas por verificadores de hechos externos, por ejemplo, después de que Full Fact desacreditara una historia sobre el líder de Reform UK, Nigel Farage, en el hospital.

Pero en cada ocasión, era posible encontrar historias muy similares que no tenían esa advertencia.

Los deepfakes no consensuados son ilegales en el Reino Unido — ¿cómo se detectan?

Aplicación de noticias muestra un anuncio falso de Alex Jones con sangre generado por IA

Muchas de las historias publicadas por estas páginas parecían diseñadas para captar la atención de los seguidores de Farage, aunque no todas eran positivas hacia él.

En algunas, se le mostraba falsamente adoptando perros, donando su riqueza personal a buenas causas o dando la bienvenida a un bebé.

Pero otra mostraba su arresto, con fotos generadas por IA de él con esposas.

Muchas publicaciones parecen estar destinadas a captar la atención de los seguidores de Reform, aunque no todas las historias falsas son positivas.

Las páginas también presentan a otros políticos, incluyendo a Sir Keir Starmer, falsamente diciendo que se enfermó en el escenario, demandado por “manipulación electoral” y removido como primer ministro.

No siempre son políticos; también se pueden ver celebridades insertadas en algunas de las mismas situaciones inventadas.

Innes dijo que páginas como estas estaban “impulsadas por un imperativo de lucro” y que “harían cualquier cosa si creen que pueden captar la atención en su contenido y así ganar dinero”.

Algunas de estas publicaciones recibieron muchos “me gusta”, comentarios y compartidos, mientras que otras casi no tuvieron interacción a pesar de tener muchos seguidores.

Innes afirmó que no se puede asegurar si todos los seguidores de estas páginas son personas reales, ya que los propietarios a menudo usan bots para “engañar al algoritmo” y que el contenido aparezca en los feeds de las personas.

La sección de comentarios mostró que no todos los que vieron este contenido creían en él.

Muchos expresaron dudas o molestia por las historias falsas, pero otros parecían ser engañados.

Cuando la BBC contactó a Meta con los ejemplos encontrados, la compañía eliminó varias páginas de Facebook.

Agregó que tiene una política contra el uso de cuentas o páginas “inauténticas” en sus plataformas.

¿Cómo podrían afectar los deepfakes las elecciones en Gales?

Las elecciones descentralizadas se realizarán en Gales y Escocia el 7 de mayo, el mismo día que las elecciones locales en partes de Inglaterra.

Ya se habían advertido antes sobre una llamada ‘elección deepfake’ en el Reino Unido, y hay opiniones divididas sobre si esto realmente ha ocurrido.

El Instituto Alan Turing, centro nacional de ciencia de datos e IA, no encontró “evidencia” de que deepfakes o desinformación habilitados por IA hayan tenido un impacto significativo en los resultados de las elecciones generales de 2024.

Pero casi dos años después, Innes dice que las “barreras de entrada” para crear este tipo de contenido se han reducido.

“Antes, hacer este tipo de manipulación de imágenes o videos requería bastante poder de cómputo y conocimientos técnicos, pero ya no es así.”

Esto podría crear un “efecto de filtración” donde los videos comiencen a influir en la política descentralizada.

El riesgo es lo suficientemente alto como para que la Comisión Electoral participe.

Este organismo independiente, que supervisa y regula las elecciones en el Reino Unido, trabaja con el Ministerio del Interior en un software para identificar, rastrear y reportar deepfakes.

Su director ejecutivo, Vijay Rangarajan, dijo que esto “ayudará a los votantes a identificar la desinformación durante las campañas electorales y reducirá la actividad que impacta negativamente en la confianza de los votantes en los actores de la campaña”.

Tras este anuncio, la BBC identificó varios videos falsos generados por IA de políticos galeses, creados en las últimas semanas.

Entre ellos, un video falso del primer ministro Keir Starmer y la primera ministra de Gales, Eluned Morgan, besándose, y otro del líder de Plaid Cymru, Rhun ap Iorwerth, gritando “Amo Reform”.

Los propietarios de la página de Facebook detrás de estos videos dijeron que eran “una sátira obvia”.

Agregaron que confiaban en que su audiencia usara “el sentido común”, pero indicaron que los videos eran falsos en sus leyendas.

Otro, compartido por una página anti-Reform, mostraba a Nigel Farage con una bandera de Gales detrás de él.

En el video, grita: “Gran Bretaña es grande; no veo el sentido de tener cuatro equipos deportivos diferentes y cuatro parlamentos.”

No hay registro de que Farage haya dicho esas palabras, y el video parecía distorsionado de maneras compatibles con la generación por IA.

Se contactó a la página responsable de este video para comentarios.

Estos ejemplos, dijo Innes, estaban más cerca de “falsificaciones superficiales” que de “deepfakes”, es decir, eran menos realistas y se crearon con software menos sofisticado.

Pero identificar los falsos se volvía “cada vez más difícil”, agregó, y su equipo a veces pasaba un día “analizando” los ejemplos más sofisticados.

Dijo que los planes de la Comisión Electoral para combatir los deepfakes “podrían ayudarnos a entender las cosas después del evento”, pero no evitarían que los deepfakes afectaran las elecciones.

Las historias falsas que sugerían que Sir Keir Starmer se había desmayado en el escenario o había sido removido como primer ministro estaban entre las compartidas por las páginas.

Davies-Jones, que representa Pontypridd, Rhondda Cynon Taf, dijo que había sido víctima de “deepfakes horribles”, incluyendo algunas que la mostraban en “posiciones sexuales crudas” en ropa interior.

Agregó que hablar sobre deepfakes sexuales no consensuados podría ser “vergonzoso” y llevar a un “aumento de ataques dirigidos” — y que su existencia “no es buena para ninguna democracia saludable”.

Llŷr Powell, candidato de Reform UK en las elecciones parciales de Caerphilly, dijo que su equipo había encontrado videos generados por IA en los que él y sus colegas ponían palabras en su boca, mintiendo sobre sus políticas.

Powell afirmó que apoyaba la “libertad de expresión” y la libertad de prensa, pero que había un problema cuando el uso de IA llevaba a que “algunas personas creyeran que era un hecho y no una parodia”.

Agregó: “No queremos sacrificar las libertades que tenemos en este país, pero al mismo tiempo el público tiene derecho a saber qué información le están dando y aquí se está mal usando la herramienta, igual que cualquier otra.”

Janet Finch-Saunders, diputada conservadora por Aberconwy en el norte de Gales, dijo que se “sintió enferma” al ver una foto editada de ella “de una manera muy repugnante” para crear un deepfake explícito.

Dijo que los falsos podrían ser “muy engañosos” para personas menos tecnológicamente capacitadas y que “es bastante preocupante porque ahora hay mucho más potencial”.

“Cuando estás en política… o en cualquier otra profesión, no deberías ser atacado personalmente. Y mucho menos que usen IA para menospreciarte.”

La baronesa Carmen Smith, miembro de Plaid Cymru, dijo: "Los deepfakes son una amenaza seria para la democracia, pero también lo son para muchas, muchas personas, ya sea tu hermana, tu amigo, tu colega.

“Debemos mantenernos actualizados con los avances en las herramientas de IA… es algo que debemos abordar y priorizar ahora.”

Rachel Millward, vicepresidenta del Partido Verde de Inglaterra y Gales, dijo que ella misma había sido víctima de un “deepfake misógino” y pidió al gobierno del Reino Unido regular el sector de IA para evitar que este tipo de contenido “socave la legitimidad de futuras elecciones”.

Un portavoz del Partido Liberal Demócrata de Gales afirmó que los deepfakes son una “amenaza para la seguridad de los políticos en todo el espectro político” y llamó a una “acción conjunta entre naciones”.

El departamento de ciencia, innovación y tecnología del gobierno del Reino Unido dijo que el “potencial de los deepfakes para sembrar división, difundir información falsa e influir en la opinión pública” era “bien reconocido”.

Agregó que las plataformas de redes sociales deben “abordar proactivamente el contenido fraudulento ilegal” bajo la Ley de Seguridad en Línea, o “enfrentar acciones de cumplimiento”.