¿"Envenenar" modelos de IA grandes se convierte en una cadena industrial? Personas de la industria revelan los trucos de GEO

A medida que la IA se convierte en una infraestructura básica en la vida cotidiana, ¿pagar las tarifas correspondientes puede hacer que un producto destaque en los principales modelos de IA y se convierta en la “respuesta estándar” que ofrece el modelo de IA?

Este año, en la Gala del 15 de marzo de CCTV, se reveló que un negocio llamado GEO (Optimización de Motores de Generación) está en auge en plataformas en línea. Los proveedores de servicios afirman que, pagando una tarifa, pueden hacer que los productos de sus clientes aparezcan en los primeros tres lugares en las respuestas de cualquier gran modelo de IA.

La investigación de los periodistas de CCTV descubrió que algunos proveedores de GEO escriben y publican numerosos artículos promocionales en plataformas en línea, permitiendo que los modelos de IA obtengan estos contenidos al recopilar y entrenar datos, lo que mejora la clasificación de los productos de los clientes en las recomendaciones de IA. Un responsable de un proveedor afirmó que la esencia de su negocio es “crear artículos promocionales y hacer que la plataforma de IA los lea, los ingrese y los recopile”. Debido a las frecuentes actualizaciones de los algoritmos de IA, para mantener recomendaciones continuas, es necesario seguir publicando grandes cantidades de contenido relevante.

Expertos del sector también realizaron experimentos en vivo con un software llamado “Sistema de Optimización GEO de LQing”: inventaron una pulsera inteligente y generaron automáticamente más de diez artículos promocionales que publicaron en línea. Luego, al buscar en los grandes modelos de IA “recomendación de pulsera de salud inteligente”, dos modelos de IA recomendaron un producto que en realidad no existía, y en los primeros lugares de la lista.

Además, algunos proveedores de GEO afirmaron que “GEO ha impulsado mucho (los sitios web). Esos sitios normalmente no tienen muchas ganancias, pero de repente surge una demanda de publicación de artículos. ¿Sabes cuántos artículos publican en un día? Cientos, cada minuto. Cada uno cuesta unos pocos decenas de yuanes. ¿Cuánto dinero gana una plataforma de publicación en un día?” Esto indica que se ha formado una cadena industrial de “envenenamiento” de IA, desde los proveedores de GEO hasta las plataformas de publicación.

Un experto del sector dijo a un periodista de N Video que actualmente, la entrada de tráfico se ha desplazado de los motores de búsqueda a los grandes modelos, y esta entrada también se ha vuelto muy valiosa comercialmente. Algunos grandes modelos entregan contenido comercial directamente a los usuarios, mientras que otros son más reservados, lo que también ha abierto oportunidades para GEO.

Cuando los usuarios hacen preguntas a un gran modelo, este busca en línea información relacionada y responde en base a los datos encontrados. GEO, en realidad, sigue una lógica similar a la optimización de motores de búsqueda del pasado, cuyo objetivo principal es hacer que el contenido sea más fácil de encontrar por IA.

El mismo experto también señaló que la estrategia habitual de los fabricantes de GEO suele ser la siguiente: primero estudian las preferencias de contenido de los grandes modelos. Cuando reciben las necesidades del cliente, crean contenido y formatos que se ajustan a las preferencias de cada modelo, por ejemplo, usando vocabulario exagerado, incluyendo frases como “reconocido por expertos”, y algunos proveedores más avanzados incluso hacen que los contenidos generados por IA se verifiquen entre sí.

¿Cómo prevenir ser engañado por contenido “envenenado”? Este experto mencionó que, para los usuarios comunes, solo pueden verificar la fuente del contenido después de que la IA les da una respuesta, para comprobar si la fuente es confiable y auténtica. Pero la solución más fundamental aún depende de los propios fabricantes de modelos, quienes deben regular esta situación. “Actualmente, esto todavía es un área sin regulación clara. En esencia, que esto se exponga es positivo; al final, los fabricantes de modelos deben encargarse de regular esto.”