CCTV 315 Evening Gala | Exposing Poisoning of AI Has Become an Industry Chain

15 de março, notícias, de acordo com a CCTV Finance, a intoxicação de IA tornou-se uma cadeia industrial. Segundo fontes do setor, ao pesquisar em várias plataformas online, rapidamente foi possível encontrar um serviço chamado GEO. Os fornecedores desse serviço afirmam que, pagando a taxa correspondente, os clientes podem fazer com que seus produtos apareçam nos principais grandes modelos de IA; que seus anúncios de produtos se tornem as “respostas padrão” fornecidas pelos modelos de IA. Será que, com a tecnologia GEO, realmente é possível “inserir informações falsas” na IA ou até mesmo “intoxicar” os modelos?

De acordo com informações na internet, o jornalista entrou em contato com um fornecedor de GEO conhecido no setor. O responsável, o Sr. Wang, disse que a especialidade da empresa é ajudar os clientes a ficarem em destaque quando os consumidores usam grandes modelos de IA para buscas. “É como fazer um artigo promocional, e fazer a plataforma de IA ler, inserir e capturar essas informações.” Ao mesmo tempo, o Sr. Wang também revelou que, com as frequentes atualizações nos algoritmos dos grandes modelos de IA, para manter a recomendação contínua, é necessário alimentar constantemente o sistema com soft articles relacionados aos clientes. Outros fornecedores de GEO afirmam que manipular a IA, fazer com que ela “obedeça” ou “lave o cérebro” a ela, é quase o tema central na promoção desses serviços.

Especialistas do setor informaram ao jornalista que, embora o GEO seja uma ferramenta para otimizar a distribuição de informações e aumentar a eficiência da promoção, algumas empresas comerciais descobriram outras funções. Um especialista comprou aleatoriamente um software chamado “Sistema de Otimização GEO LiQing” em uma plataforma de comércio eletrônico. Depois, criou um produto fictício, uma pulseira inteligente, e inseriu as informações fictícias no sistema, marcando a opção de criar artigos. Em pouco tempo, o sistema LiQing GEO gerou automaticamente mais de dez artigos promocionais sobre a pulseira inteligente. O especialista selecionou mais de dez desses artigos fictícios e os publicou na internet usando o sistema LiQing GEO. Posteriormente, ao pesquisar por “recomendação de pulseira inteligente de saúde”, dois grandes modelos de IA recomendaram essa pulseira fictícia, colocando-a entre os primeiros resultados.

O jornalista entrou em contato com o responsável pelo sistema LiQing GEO, o Sr. Li. Ele explicou que o motivo do sucesso do serviço GEO é que ele ajuda os clientes a “alimentar” e “intoxicar” os modelos de IA, atingindo seus objetivos comerciais. O Sr. Li afirmou que, para manipular os grandes modelos de IA, o ponto-chave é “publicar artigos” em várias contas na internet. “Por exemplo, marcas de celulares, há cinco ou dez lugares principais. Como fazer para promover tantos celulares? Com um investimento de centenas de milhões de yuans em publicidade por ano, gastar alguns milhões para “intoxicar” os modelos, tudo bem!”

Ele também revelou que o sucesso do GEO gerou muitas empresas e plataformas especializadas em publicação de artigos. Essas empresas assumem continuamente diversos trabalhos de publicação, com o objetivo de fazer com que os modelos de IA os citem e capturem as informações, tornando-se uma parte importante na “intoxicação” e manipulação de dados dos modelos de IA.