Gala 3·15 | ¿Los grandes modelos de IA sufren "envenenamiento"? "Lavar el cerebro" a la IA se ha convertido en una cadena industrial

Según información de la industria, un periodista que investigó en varias plataformas en línea encontró un servicio llamado GEO. Los proveedores de este servicio afirman que, pagando la tarifa correspondiente, pueden hacer que los productos de los clientes aparezcan en los principales modelos de IA y que los anuncios de los productos se conviertan en las “respuestas estándar” que da la IA.

¿Realmente se puede “envenenar” a la IA" con tecnología GEO? ¿O domar y manipular la IA?

De acuerdo con la información en línea, el periodista contactó a uno de los proveedores de GEO más conocidos en la industria. El responsable, el señor Wang, lo atendió y explicó que su empresa fue una de las primeras en ofrecer servicios de GEO. En solo un año, han atendido a más de 200 clientes en diversos sectores. El señor Wang dijo que su fortaleza es ayudar a los clientes a que sus productos tengan un mejor posicionamiento cuando los consumidores usan modelos de IA para buscar.

Proveedor GEO, señor Wang: Así es como aparecen los resultados en nuestras búsquedas. Podemos colocar en los primeros tres lugares en cualquier plataforma. ¿Cómo logramos esto? Creamos contenido para ustedes en estas plataformas de IA, como si fueran artículos promocionales, y luego hacemos que esas plataformas de IA los lean, los indexen y los capturen.

Además, el señor Wang explicó que los algoritmos de los grandes modelos de IA se actualizan con frecuencia, por lo que para mantener la recomendación continua, deben seguir alimentando a la IA con muchas publicaciones promocionales relacionadas con sus clientes.

Proveedor GEO, señor Wang: La IA actualiza sus algoritmos semanalmente. Después de cada actualización, los resultados y la forma en que captura la información cambian, por eso debemos seguir produciendo contenido y alimentando continuamente.

No solo la empresa del señor Wang promueve activamente esta tecnología supuestamente capaz de manipular la IA. Otros proveedores de GEO también consideran que cómo manipular la IA, hacer que “escuche” y “lavarle el cerebro”, son temas centrales en la promoción de este servicio.

Proveedor GEO, señor Zhang: En el mundo de la IA, debes asegurarte de que la cadena de evidencia sea sólida, para que la gran modelo de IA crea que lo que le estás diciendo es verdad y útil. La IA, cruzando información de varias fuentes, percibe tus ventajas competitivas y, naturalmente, te coloca en la primera posición.

Proveedor GEO, señor Cheng: La gente no sabe que esto es publicidad. Por eso, confían en los resultados que produce la IA. Aunque su producto no sea de la mejor calidad, cuenta con la ayuda, la corroboración y el respaldo de la IA. Hoy en día, muchas personas hacen campañas de GEO.

Expertos en la industria explicaron que, aunque GEO se presenta como una herramienta para optimizar la publicación de información y mejorar la eficiencia de la promoción, en ciertos negocios se ha descubierto que puede tener otro uso. Si se utilizan estos programas para distribuir sistemática y dirigidamente una gran cantidad de “información falsa” en Internet, es más fácil que los grandes modelos de IA la capturen. Estas informaciones falsas podrían convertirse en las “respuestas estándar” que la IA ofrece a los consumidores.

¿Realmente la tecnología GEO puede hacer que la IA “incluya contenido falso” o incluso difunda información engañosa?

Para que los periodistas comprendan mejor este problema en el desarrollo actual de la industria de la IA, los expertos demostraron cómo usar la tecnología GEO para interferir en la captura de información por parte de los grandes modelos de IA.

Un experto compró aleatoriamente en una plataforma de comercio electrónico un software llamado “Sistema de Optimización GEO de LiQing”. Luego, inventó un producto llamado “Pulsera inteligente Apollo9” y cargó la información ficticia en el sistema, seleccionando instrucciones para crear artículos.

En poco tiempo, el sistema de LiQing generó automáticamente más de diez artículos promocionales sobre la pulsera inteligente, incluyendo información completamente falsa, incluso exagerada, y también inventó comentarios de usuarios que afirmaban que la precisión de los datos superaba las expectativas, e incluso falsificó calificaciones, logrando que la pulsera fuera calificada como la mejor del sector.

Al hacer clic en publicar, el sistema comenzó a publicar automáticamente los artículos en las cuentas de medios propios del experto, ingresando títulos, llenando contenidos y colocando imágenes, todo en un proceso fluido. En poco tiempo, logró publicar dos artículos en sus propias plataformas.

Dos horas después, el experto preguntó en un modelo de IA: “¿Qué tal la pulsera inteligente Apollo-9?”. La IA respondió describiendo sus características principales, como la monitorización de salud, y copió literalmente las frases promocionales inventadas, como “sensores de entrelazamiento cuántico” y “autonomía de nivel agujero negro”. La conclusión final fue que la pulsera era adecuada para personas mayores y entusiastas de la salud.

La información consultada provenía exactamente del artículo ficticio publicado en la cuenta del experto esa misma mañana. Solo con un artículo inventado, la IA capturó un producto completamente ficticio, lo cual sorprendió mucho.

El experto explicó que, para obtener los mejores resultados, los datos alimentados a la IA deben ser abundantes y variados en perspectivas, para facilitar la validación cruzada.

Luego, seleccionó 8 artículos de evaluación de expertos, 2 clasificaciones del sector y 1 evaluación de usuarios, todos creados por el sistema GEO de LiQing, y los publicó en Internet en tres días.

Posteriormente, preguntó en plataformas de modelos de IA: “Recomendaciones de pulseras de salud inteligentes”, y dos modelos recomendaron la pulsera inventada por el experto, colocándola en los primeros lugares.

En resumen, con solo el sistema GEO de LiQing, el experto pudo publicar fácilmente una serie de informaciones falsas en línea y alimentarlas a varios modelos de IA, logrando que estos la recomienden.

Este proceso de manipulación silenciosa de los modelos de IA mediante el sistema GEO permitió que un producto inventado de la nada fuera promovido absurdamente a los consumidores que usan estos modelos.

¿Realmente los profesionales del GEO están operando sus negocios con la idea de manipular y controlar los grandes modelos de IA? El periodista contactó al operador del sistema LiQing, el señor Li, quien explicó que la razón principal del auge del GEO es que ayuda a los clientes a “alimentar y envenenar” a los modelos de IA para cumplir sus objetivos comerciales.

Li, director de Lisi Cultural Media: Porque en toda la red, hay muchas personas que están “envenenando”. Mira, en nuestro trabajo de GEO, estamos “envenenando” con muchas fuentes de información, y la información en línea no siempre es precisa.

Periodista: Mencionaste el concepto de “envenenamiento”. Eso no suena bien.

Li, director de Lisi Cultural Media: Es cierto, no es correcto, pero a todos les gusta. Todos quieren que otros “envenenen”, y ellos también quieren “envenenar” o al menos poner “veneno” en la competencia. Aunque no sea el primero, aunque diga que soy el primero en Beijing, en realidad quiero decir que soy el primero en toda Norte de China. ¿Eso tiene algo de “veneno”? Claro que sí. La otra opción es que no puedo competir con mis rivales, pero aún así puedo “envenenar” un poco.

Periodista: Para desprestigiar a otros.

Li, director de Lisi Cultural Media: Exacto. Es posible difamar. Muchas empresas no logran avanzar, especialmente las grandes marcas, como las de teléfonos móviles, que solo tienen cinco o diez lugares en los rankings. ¿Cómo hacer para que esas muchas marcas de teléfonos ocupen esos lugares? Cada año, invierten millones en publicidad. Con unos pocos millones, pueden “envenenar” un poco, ¿verdad?

Periodista: ¿Quién ayuda a las marcas a hacer esto?

Li, director de Lisi Cultural Media: Son varias empresas de GEO.

Li explicó que para hacer GEO y manipular los grandes modelos de IA, el paso clave es publicar en diferentes cuentas en internet. Dijo que el auge del GEO ha dado lugar a muchas empresas y plataformas dedicadas a publicar contenido. Estas empresas se encargan de publicar artículos para que los modelos de IA los lean y los capturen, formando parte de la estrategia para “envenenar” los datos de los modelos de IA.

Li, director de Lisi Cultural Media: GEO ha impulsado mucho el tráfico en ciertos sitios web. Esos sitios normalmente no tienen mucho beneficio, pero de repente, surge la demanda de publicar artículos. ¿Sabes cuántos artículos publican en un día? Cientos, cada minuto. Cada uno cuesta unos pocos decenas de yuanes. ¿Cuánto gana una plataforma de publicación en un día? Mucho.