CCTV 315 Gala | Exposing AI Data Poisoning Has Become an Industrial Chain

15 mars — Selon un rapport de CCTV Finance, la contamination de l’IA est devenue une chaîne industrielle. D’après des révélations de professionnels du secteur, lors de recherches sur plusieurs plateformes en ligne, le journaliste a rapidement découvert une activité appelée GEO. Sur ces plateformes, des prestataires affirmant exercer cette activité déclarent que, moyennant paiement, ils peuvent faire en sorte que les produits de leurs clients figurent en tête des résultats dans les principaux grands modèles d’IA ; que leurs publicités soient considérées comme des « réponses standard » données par l’IA. La technologie GEO permet-elle réellement à l’IA de « transporter des marchandises clandestines » ou même de diffuser de fausses informations ?

Selon les informations en ligne, le journaliste a contacté un fournisseur de services GEO reconnu dans le secteur. Le responsable, M. Wang, a déclaré que la force de leur entreprise réside dans leur capacité à aider les clients à se classer en tête lors des recherches effectuées par les grands modèles d’IA. « C’est comme rédiger un article sponsorisé, puis faire en sorte que la plateforme d’IA le lise, le saisisse et le reproduise. » M. Wang a également expliqué qu’avec la fréquence élevée des mises à jour des algorithmes des grands modèles d’IA, il est nécessaire de leur fournir continuellement des contenus promotionnels liés aux clients pour maintenir leur recommandation continue. Selon d’autres fournisseurs de services GEO, la manipulation de l’IA, la faire “obéir” ou “laver le cerveau” est presque le sujet central de leur promotion.

Les professionnels du secteur expliquent que, en tant qu’outil d’optimisation de la diffusion d’informations et d’amélioration de l’efficacité promotionnelle, le GEO est exploité par certaines entreprises à d’autres fins. Sur une plateforme de commerce en ligne, un professionnel a acheté au hasard un logiciel nommé “Système d’Optimisation GEO LiQing”. Ensuite, il a inventé un produit fictif, un bracelet intelligent, et a saisi ses informations dans le logiciel, en sélectionnant une instruction de création d’article. Peu de temps après, ce système GEO LiQing a automatiquement généré plus d’une dizaine d’articles promotionnels pour le bracelet intelligent. Le professionnel a sélectionné plus d’une dizaine de ces articles fictifs et les a publiés sur Internet via le système. Par la suite, en recherchant “recommandation de bracelet santé intelligent” sur une plateforme d’IA, deux grands modèles ont recommandé ce bracelet fictif, en le plaçant en tête des résultats.

Le journaliste a contacté le responsable de l’exploitation du système GEO LiQing, M. Li. Il a expliqué que la popularité du GEO est principalement due à sa capacité à alimenter et à injecter de fausses informations dans les grands modèles d’IA pour atteindre des objectifs commerciaux. M. Li a indiqué que pour faire du GEO, le point clé pour manipuler les grands modèles d’IA est de “publier des articles” sur divers comptes internet. « Par exemple, pour une marque de téléphones, il y a 5 ou 10 positions. Comment faire pour autant de téléphones ? Avec des milliards de dépenses publicitaires par an, dépenser quelques millions pour injecter des fausses informations, c’est faisable. »

Il a ajouté que la popularité du GEO a engendré de nombreuses entreprises et plateformes spécialisées dans la publication d’articles. Elles prennent en charge divers travaux de publication afin que les grands modèles d’IA puissent citer et saisir ces contenus, constituant une étape clé dans la “tortion” et la “pollution” des données des modèles d’IA.