CCTV 315 Gala | Exposición: El envenenamiento de IA ya se ha convertido en una cadena industrial

15 de marzo, noticias, según reportes de CCTV Finance, envenenar a la IA se ha convertido en una cadena industrial. Según filtraciones de expertos del sector, al consultar en varias plataformas en línea, rápidamente se encontró un servicio llamado GEO. Los proveedores que ofrecen este servicio en plataformas en línea afirman que, pagando la tarifa correspondiente, los usuarios pueden hacer que sus productos aparezcan en los principales modelos de IA; que los anuncios de sus productos se conviertan en las “respuestas estándar” que da el modelo de IA. ¿Es realmente posible que la tecnología GEO permita a la IA “llevar información oculta” o incluso difundir información falsa?

Según información en línea, el periodista contactó a un conocido proveedor de servicios GEO en la industria. El responsable, el señor Wang, dijo que la fortaleza de su empresa es ayudar a los clientes a posicionarse en los resultados de búsqueda cuando los consumidores usan grandes modelos de IA. “Es como hacer artículos promocionales y que la plataforma de IA los lea, los ingrese y los capture.” Además, el señor Wang explicó que, dado que los algoritmos de los grandes modelos de IA se actualizan con frecuencia, para mantener la recomendación continua de estos modelos, es necesario alimentarlos constantemente con artículos promocionales relacionados con los clientes. Otros proveedores de servicios GEO afirman que manipular la IA, hacer que “escuche” y “lavarle el cerebro”, es casi el tema central de su promoción.

Expertos del sector informaron que, aunque GEO es una herramienta para optimizar la distribución de información y mejorar la eficiencia de la promoción, en algunas empresas comerciales ha sido explotada para otros fines. Un profesional compró aleatoriamente en una plataforma de comercio electrónico un software llamado “Sistema de Optimización GEO LiQing”. Luego inventó un producto, una pulsera inteligente, y cargó la información ficticia en el sistema, seleccionando instrucciones para crear artículos. En poco tiempo, el sistema LiQing GEO generó automáticamente más de diez artículos promocionales sobre la pulsera inteligente. El profesional seleccionó más de diez artículos ficticios y los publicó en línea usando el sistema LiQing GEO. Posteriormente, al consultar en plataformas de modelos de IA sobre “recomendaciones de pulseras inteligentes para la salud”, dos modelos recomendaron esta pulsera ficticia, posicionándola en los primeros lugares.

El periodista contactó al operador del sistema LiQing GEO, el señor Li. Él explicó que la popularidad del negocio GEO se debe a que puede alimentar y envenenar a los modelos de IA para lograr los objetivos comerciales de los clientes. El señor Li dijo que, para manipular los grandes modelos de IA, el paso clave es “publicar artículos” en varias cuentas en internet. “Por ejemplo, en marcas de teléfonos móviles, hay cinco o diez lugares principales. ¿Cómo hacer para que tantos teléfonos aparezcan? Con millones en publicidad al año, gastar unos pocos millones en envenenamiento es factible.”

También mencionó que el auge del negocio GEO ha dado lugar a muchas empresas y plataformas dedicadas a la publicación de artículos. Estas empresas se encargan de publicar artículos de forma continua para que los modelos de IA los citen y capturen, convirtiéndose en una parte importante en la “inyección de datos” y en la manipulación de los modelos de IA.