Gala 3·15 | ¿Los grandes modelos de IA sufren "envenenamiento"? "Lavar el cerebro" a la IA se ha convertido en una cadena industrial

Según información de la industria, un periodista que consultó en varias plataformas en línea encontró un servicio llamado GEO. Los proveedores de este servicio afirman que, pagando la tarifa correspondiente, pueden hacer que los productos de sus clientes aparezcan en los principales modelos de IA y que los anuncios de los productos se conviertan en las “respuestas estándar” que da la IA.

¿Realmente puede GEO “envenenar” a la IA o “domar” y controlar la IA?

De acuerdo con la información en línea, el periodista contactó a uno de los proveedores de GEO más conocidos en la industria. El responsable, el señor Wang, lo atendió y explicó que su empresa fue una de las primeras en ofrecer servicios de GEO. En solo un año, han atendido a más de 200 clientes en diversos sectores. El señor Wang dijo que su fortaleza es ayudar a los clientes a que sus productos tengan un buen posicionamiento cuando los consumidores buscan en grandes modelos de IA.

Proveedor GEO, señor Wang: Así es como aparecen los resultados en nuestras búsquedas. Podemos colocar en los primeros tres lugares en cualquier plataforma. ¿Cómo logramos esto? Creamos contenido para ustedes en estas plataformas de IA, como si fueran artículos promocionales, y luego hacemos que esas plataformas los indexen, los recopilen y los rastreen.

Además, el señor Wang explicó que los algoritmos de los grandes modelos de IA se actualizan con frecuencia, por lo que para mantener la recomendación continua, deben seguir alimentando con gran cantidad de contenido promocional relacionado con sus clientes.

Proveedor GEO, señor Wang: La IA actualiza sus algoritmos semanalmente. Después de cada actualización, los resultados y la forma en que recopila información cambian, por lo que debemos seguir produciendo contenido y alimentando continuamente.

No solo la empresa del señor Wang promueve activamente esta supuesta tecnología para manipular IA. Otros proveedores de GEO también consideran que cómo manipular la IA, hacer que “obedezca” y “lavarle el cerebro”, son temas centrales en la promoción de este servicio.

Proveedor GEO, señor Zhang: En el mundo de la IA, cómo construir una cadena de evidencia sólida para que la gran modelo de IA crea que algo es real y útil. La IA, al cruzar información de múltiples fuentes, percibe tus ventajas sobre la competencia y naturalmente te coloca en la primera posición.

Proveedor GEO, señor Cheng: La gente no sabe que esto es publicidad. Por eso, confían en los resultados que produce la IA. Aunque la calidad del producto no sea superior, la IA ayuda con la verificación, el respaldo y la validación. Hoy en día, muchas personas hacen campañas de GEO.

Expertos en la industria revelaron que, aunque GEO se presenta como una herramienta para optimizar la publicación de información y mejorar la eficiencia promocional, en ciertos negocios se ha descubierto que tiene otro uso. Si se utilizan estos programas para distribuir sistemática y dirigidamente una gran cantidad de “información falsa” en Internet, es más fácil que la IA la capture, y estas falsedades pueden convertirse en las “respuestas estándar” que la IA ofrece a los consumidores.

¿Realmente puede GEO hacer que la IA “inserte contenido falso” o incluso difunda información engañosa?

Para que el periodista comprenda mejor este problema en el desarrollo actual de la industria de la IA, los expertos demostraron cómo usar la tecnología GEO para interferir en la recopilación de información por parte de los grandes modelos de IA.

Un experto compró aleatoriamente en una plataforma de comercio electrónico un software llamado “Sistema de Optimización GEO de LiQing”. Luego, inventó un producto llamado “Pulsera inteligente Apollo9” y cargó la información ficticia en el sistema, seleccionando instrucciones para crear artículos.

En poco tiempo, el sistema de LiQing generó automáticamente más de diez artículos promocionales sobre la pulsera, incluyendo información completamente falsa, incluso exagerada, y también inventó comentarios de usuarios que afirmaban que la precisión de los datos superaba las expectativas, e incluso falsificó calificaciones, logrando que fuera calificada como la mejor del sector.

Al hacer clic en publicar, el sistema comenzó a distribuir automáticamente los artículos en las cuentas de redes sociales preparadas por el experto. La operación fue rápida y eficiente, y en poco tiempo se publicaron dos artículos en sus cuentas.

Dos horas después, el experto consultó en un modelo de IA: “¿Qué tal la pulsera inteligente Apollo-9?” La IA respondió describiendo sus principales funciones, como monitoreo de salud, y copió frases promocionales inventadas, como “sensores de entrelazamiento cuántico” y “autonomía de nivel agujero negro”. La conclusión fue que la pulsera era adecuada para adultos mayores y entusiastas del cuidado de la salud.

La información consultada provenía exactamente del artículo ficticio publicado en la cuenta del experto esa misma mañana. Solo con un artículo inventado, la IA capturó un producto completamente ficticio, lo cual sorprendió mucho.

El experto explicó que, para obtener los mejores resultados, los datos alimentados a la IA deben ser abundantes y variados en perspectivas, para facilitar la verificación cruzada.

Luego, seleccionó 8 artículos de evaluación de expertos, 2 clasificaciones del sector y 1 reseña de usuario, todos creados por el sistema GEO de LiQing, y los publicó en Internet en tres días.

Posteriormente, al consultar en plataformas de modelos de IA sobre “recomendaciones de pulseras de salud inteligentes”, dos modelos recomendaron la pulsera inventada por el experto, y en los primeros lugares.

En resumen, con solo el sistema GEO de LiQing, el experto logró publicar fácilmente una serie de información falsa en Internet y alimentarla a múltiples modelos de IA, logrando que estos la recomienden.

Este proceso de manipulación silenciosa de los modelos de IA mediante GEO hizo que un producto inventado de la nada fuera promovido absurdamente a los consumidores que usan estos modelos.

¿Realmente los profesionales del GEO están operando sus negocios con la idea de manipular y controlar los modelos de IA? El periodista contactó al operador del sistema LiQing, el señor Li, quien explicó que la popularidad del GEO se debe principalmente a su capacidad de “alimentar y envenenar” los modelos de IA para cumplir con los objetivos comerciales de los clientes.

Li, director de Lisi Cultural Media: Porque en toda la red, hay muchas personas que están “envenenando”. Mira, ahora en GEO, estamos “envenenando” con muchas fuentes de información, y la información en línea no siempre es precisa.

Periodista: Mencionaste el concepto de “envenenamiento”. Eso no suena bien.

Li, director de Lisi Cultural Media: Es cierto, pero a todos los negocios les gusta. Quieren que otros “envenenen”, y ellos también quieren “envenenar” o darles un poco a los demás. Aunque no sea el primero, aunque diga que soy el primero en Beijing, quiero decir que soy el primero en toda Norte de China. ¿Eso tiene algo de “envenenamiento”? Claro que sí. La otra opción es que no puedo competir con mis rivales, pero puedo “envenenar” un poco a ellos.

Periodista: Para desprestigiarlos.

Li: Exacto. Es posible difamar. Muchas empresas no logran avanzar, especialmente las grandes marcas, como las de teléfonos móviles, que solo tienen cinco o diez lugares en los rankings. ¿Cómo hacer para que esas muchas marcas de teléfonos compitan? Cada año, invierten millones en publicidad. Con unos pocos cientos de miles en “envenenamiento”, ya está.

Periodista: ¿Quién hace esas cosas por las marcas?

Li: Son varias empresas de GEO.

Li explicó que para hacer GEO y manipular los modelos de IA, el paso clave es publicar en diferentes cuentas en internet. Dijo que la explosión del negocio GEO ha dado lugar a muchas empresas y plataformas dedicadas a publicar contenido, que se encargan de publicar y distribuir estos artículos para que los modelos de IA los capturen y los utilicen como parte de su “envenenamiento” de datos.

Li, de Lisi Cultural Media: GEO ha impulsado mucho los sitios web. Esos sitios normalmente no tienen mucho beneficio, pero de repente, surge la demanda de publicar artículos. ¿Sabes cuántos artículos publican en un día? Cientos, cada minuto. Cada uno cuesta unos pocos decenas de yuanes. ¿Cuánto gana una plataforma de publicación en un día? Mucho.