La gala del Día 315 de CCTV expone cómo "lavar el cerebro" a la IA: Los proveedores de servicios GEO utilizan información falsa para influir en los resultados de búsqueda de IA

Según el informe de la Gala del 15 de marzo, un negocio llamado GEO, cuyos proveedores de servicios afirman que, pagando la tarifa correspondiente, pueden hacer que los productos de los clientes sean destacados en los principales modelos de IA, y que los anuncios de los productos se conviertan en las “respuestas estándar” que da la IA.

¿Es realmente posible “envenenar” a la IA con tecnología GEO? ¿Y domar y manipular la IA?

Un responsable de una conocida empresa de servicios GEO, el señor Wang, explicó que su compañía fue una de las primeras en dedicarse a GEO y en solo un año ya ha atendido a más de 200 clientes en diversos sectores. La fortaleza de su empresa es ayudar a los clientes a posicionarse en los primeros lugares cuando los consumidores usan modelos de IA para buscar. Actualmente, los algoritmos de estos modelos se actualizan con frecuencia, por lo que para mantener las recomendaciones continuas, deben seguir alimentando con gran cantidad de contenido promocional relacionado con los clientes.

No solo la empresa del señor Wang promueve activamente esta supuesta nueva tecnología para manipular IA, sino que en otras empresas de GEO, cómo manipular la IA, hacer que “obedezca” o “lavar el cerebro” a la IA, casi se ha convertido en el tema central de su promoción.

Otra empresa de GEO, el señor Zhang, afirmó que en el mundo de la IA, lo importante es hacer que la cadena de evidencia sea sólida, para que la IA crea que la información es verdadera y útil. La IA, al cruzar múltiples fuentes de información, percibe tus ventajas competitivas y, naturalmente, te coloca en la primera posición.

El señor Cheng, también proveedor de GEO, dijo que la gente no sabe que esto es publicidad, por lo que la gente confía en los resultados generados por la IA. Aunque la calidad del producto puede no ser tan buena como la tuya, la IA ayuda con la asistencia, la evidencia y el respaldo. Hoy en día, muchas empresas hacen campañas de GEO.

Expertos del sector señalan que, aunque GEO es una herramienta para optimizar la difusión de información y mejorar la eficiencia promocional, en ciertos negocios se ha descubierto que puede tener otros usos. Si mediante este software se sistemática y dirigidamente difunden grandes cantidades de “información falsa” en internet, es más probable que la IA la capture, y estas falsedades puedan convertirse en las “respuestas estándar” que la IA prioriza para los consumidores.

¿Es posible que, mediante tecnología GEO, la IA “lleve información oculta” o incluso difunda información falsa?

Un experto compró aleatoriamente en una plataforma de comercio electrónico un software llamado “Sistema de Optimización GEO de LiQing”. Luego, inventó un producto llamado pulsera inteligente Apollo-9 y cargó la información ficticia en el sistema, seleccionando instrucciones para crear artículos.

En poco tiempo, el sistema de LiQing generó automáticamente más de diez artículos promocionales sobre la pulsera, incluyendo información exagerada y ficticia, incluso inventando opiniones de usuarios que afirmaban que la precisión de los datos superaba las expectativas, y falsificando calificaciones, logrando que fuera calificada como la mejor del sector.

Al hacer clic en publicar, el sistema comenzó a publicar automáticamente en las cuentas de redes sociales preparadas por el experto, ingresando títulos, llenando contenidos, insertando imágenes, completando todo el proceso en poco tiempo, logrando publicar dos artículos en su cuenta de medios propios.

Dos horas después, el experto preguntó en un modelo de IA: “¿Qué tal la pulsera inteligente Apollo-9?”. La IA respondió directamente: destacando funciones de monitoreo de salud, copiando frases promocionales ficticias como “sensores de entrelazamiento cuántico” y “autonomía de nivel agujero negro”. La conclusión final fue que la pulsera era adecuada para personas mayores y entusiastas de la salud.

Al consultar, se descubrió que la información utilizada por la IA provenía exactamente del artículo ficticio publicado esa misma mañana en la cuenta del experto. Solo con un artículo inventado, la IA capturó un producto completamente ficticio, lo cual fue sorprendente.

Luego, el experto seleccionó 8 artículos de evaluación de expertos, 2 rankings del sector y 1 evaluación de usuarios, todos escritos por el sistema de LiQing, y los publicó en internet en tres días.

Posteriormente, preguntó en plataformas de IA: “Recomendaciones de pulsera de salud inteligente”, y dos modelos de IA recomendaron la pulsera inventada por el experto, colocándola en los primeros lugares.

En todo el proceso, solo con el sistema LiQing, el experto logró publicar fácilmente una serie de información falsa en internet y alimentarla con éxito a los modelos de IA, logrando que varias IA la recomendaran.

Mediante esta manipulación sutil del sistema LiQing, la falsa pulsera fue absurdamente promovida a los consumidores que usan modelos de IA.

¿Realmente los profesionales del negocio GEO operan con la idea de manipular los modelos de IA mediante “caza” y control?

El operador del sistema LiQing, el señor Li, afirmó que la principal razón del éxito del negocio GEO es que ayuda a los clientes a “alimentar y envenenar” a los modelos de IA para lograr sus objetivos comerciales. Cada comerciante quiere que otros “envenenen”, o envenenarse a sí mismos, o incluso envenenar a otros. Aunque no sea el primero, incluso si digo que soy el primero en Beijing, quiero decir que soy el primero en Norte de China. ¿Hay componentes de envenenamiento en esto? Claro que sí. La segunda situación es que no puedo soportar que mis competidores sean mejores, y aunque no pueda superarlos, puedo lanzarles un poco de “veneno”. Muchas empresas no logran avanzar, especialmente en marcas grandes, como en el caso de teléfonos móviles, donde hay solo 5 o 10 lugares. ¿Cómo gestionar tantos teléfonos? Cada uno invierte millones en publicidad al año, así que gastar unos cientos de miles en “veneno” está bien.

El señor Li afirmó que estas acciones las realizan varias empresas de GEO para ayudar a las marcas. La clave para manipular modelos de IA mediante GEO es publicar en diferentes cuentas de internet. La popularidad del negocio GEO ha dado lugar a muchas empresas y plataformas dedicadas a publicar contenidos, que se encargan de que la IA los cite y los capture, formando una parte importante en la “caza” y “envenenamiento” de los datos de la IA.

(Basado en el informe de la Gala del 15 de marzo de CCTV)