GEO accusé d'« empoisonnement », courtiers et fonds collectivement perplexes : peut-on encore continuer ? Comment définir les limites ?

Quelles sont les origines et le déroulement de l’affaire de l’exposition de GEO à la toxicité ?

Le 16 mars, selon la China Financial News (journaliste Wang Yuling), « Nous étudions si nous devons lancer GEO, après l’exposition du 15 mars, est-ce encore possible de le faire ? » Un responsable d’une société de gestion d’actifs d’une grande société de courtage a confié au journaliste qu’aujourd’hui matin, l’entreprise avait déjà échangé avec plusieurs fabricants sur la légalité et la conformité de GEO.

GEO, c’est-à-dire l’Optimisation du moteur génératif (Generative Engine Optimization), permet à l’IA d’extraire rapidement les informations clés du contenu, en privilégiant la citation de contenus de marque lors de la génération de réponses. Selon les informations recueillies, plusieurs sociétés de courtage et fonds d’investissement tentent déjà d’utiliser la technologie GEO pour augmenter la visibilité et la fréquence des mentions de leur marque dans le contenu généré par l’IA.

Après la révélation du « GEO toxique » lors de la soirée du 15 mars, une large discussion s’est engagée dans le secteur. La diffusion normale de GEO est-elle conforme ? Où se situe la limite entre conformité et violation ?

Optimisation conforme ou « GEO toxique » : où se situe la frontière ?

« Je pense personnellement que l’optimisation normale, à condition que le contenu ne viole pas les règles, est comparable à la marketing de contenu. » a déclaré à notre journaliste un responsable d’une grande société de courtage en ligne.

« Si c’est une diffusion GEO normale, cela ressemble à l’époque du référencement traditionnel, où les marques cherchent à se positionner en optimisant leur SEO pour apparaître en tête des résultats de recherche, c’est une stratégie marketing. » a ajouté cette personne.

Alors, comment distinguer une optimisation normale d’un « GEO toxique » ?

Un fondateur d’un fabricant de GEO a confié à China Financial News qu’il considérait que le « GEO toxique » exposé par la CCTV comprenait trois éléments : premièrement, le contenu était généré en masse par des robots ; deuxièmement, l’information était fictive ; troisièmement, la diffusion était contrôlée via la manipulation de nombreux comptes. Selon lui, la fausseté de l’information est la ligne de fond essentielle pour juger de la conformité.

Selon lui, une optimisation GEO légale et conforme doit au moins respecter quatre points : « conformité du corpus, conformité des données, conformité des canaux et conformité des qualifications. »

« Toute activité consistant à fabriquer et diffuser de fausses informations financières ou boursières par le biais de l’IA, en utilisant des moyens comme l’entraînement ou le nourrissage, est interdite par la loi. Du point de vue réglementaire, les exigences sont devenues plus strictes, le processus de détection des infractions est plus complexe, et il faut constamment améliorer les moyens de supervision. » a déclaré l’avocat Xu Feng du cabinet Shanghai Jiucheng. Il estime que la réglementation a déjà pris conscience de ces problématiques, et que la législation et la supervision seront rapidement renforcées.

Un professionnel du droit et des relations publiques pense que les principales problématiques actuelles liées à GEO concernent trois aspects : premièrement, la promotion commerciale sans mention claire de « publicité » ou « promotion », ce qui viole le droit à l’information des consommateurs ; deuxièmement, la prolifération de fausses publicités, avec certains fournisseurs GEO qui fabriquent de faux rapports d’autorité, inventent des opinions d’experts ou falsifient des avis d’utilisateurs pour alimenter l’IA en fausses informations, induisant en erreur les décisions des utilisateurs ; troisièmement, des pratiques de concurrence déloyale, où certains commerçants manipulent artificiellement les résultats de recommandation de l’IA via GEO, en générant en masse du contenu de faible qualité et homogène, pour réduire la visibilité de leurs concurrents et améliorer leur propre classement, ce qui nuit à un environnement de concurrence équitable.

Le fondateur de la société GEO mentionnée plus haut pense que la racine du problème réside dans le fait qu’après le déclin de la position dominante de Baidu dans la recherche, de nombreux acteurs ont simplement transposé leurs anciennes expériences en SEO dans le domaine de GEO, faute de régulation efficace et de normes sectorielles dans cette nouvelle voie, ce qui a conduit à des méthodes de plus en plus agressives.

Il estime que la clé pour réguler ces dérives réside dans la régulation par les grands fournisseurs de modèles d’IA. « Pour l’instant, leur principal effort porte sur la formation des modèles. Quand ils auront libéré des ressources pour normaliser la gestion des sources d’information, l’ordre du secteur s’établira progressivement. Par exemple, dans les domaines de la médecine ou du droit, les modèles ne permettent pas encore de faire des crawls externes, ce qui limite beaucoup ces dérives. »

Quels sont les risques juridiques possibles pour un « GEO toxique » ?

Alors, si une entreprise opérait effectivement un « GEO toxique », quelles sanctions pourraient-elle encourir ?

Ce professionnel du droit et des relations publiques indique que les entreprises et agences de relations publiques impliquées dans la mise en œuvre d’un « GEO toxique » pourraient être poursuivies pour publicité mensongère. Selon l’article 222 du Code pénal, « le responsable de la publicité, l’exploitant de l’annonce ou celui qui diffuse une publicité en violation des règlements, en faisant la promotion fausse d’un produit ou d’un service, lorsque les faits sont graves, encourt une peine d’emprisonnement pouvant aller jusqu’à deux ans et une amende. »

Comment déterminer si la gravité est « grave » ?

Selon l’article 67 des « Normes pour l’ouverture d’enquêtes et la poursuite des affaires pénales par les organes de police » du Ministère public et du Ministère de la Sécurité publique, une infraction est considérée comme grave si l’une des conditions suivantes est remplie :

• Le montant du gain illicite dépasse 100 000 yuans ;
• La publicité mensongère concerne des aliments ou des médicaments, avec un gain illicite supérieur à 30 000 yuans ;
• Même si le montant est inférieur, si la personne a été déjà sanctionnée deux fois ou plus dans les deux années pour des publicités mensongères, et qu’elle continue ces pratiques ;
• Si la diffusion de fausses informations cause des conséquences graves ou une influence sociale néfaste.

En tant que phénomène nouveau, GEO n’a pas encore de jurisprudence pénale. Cependant, selon une information publiée sur le site « China Court » géré par la Cour suprême, le tribunal populaire de Linxiang, dans la province du Hunan, a déjà condamné deux accusés pour avoir induit en erreur des consommateurs par de fausses évaluations.

Le juge en charge de l’affaire a également lancé un « rappel » : « Falsifier des évaluations pour donner une fausse réputation commerciale revient à faire de la publicité mensongère de manière dissimulée, ce qui viole non seulement le droit à l’information et à la sélection des consommateurs, mais détruit aussi l’environnement de concurrence équitable, étouffe la survie des entreprises honnêtes, et ne doit pas être encouragé. Il ne faut pas acheter ou fournir des services dans le but d’augmenter une fausse réputation. »

Pendant la session des deux sessions, le ministre de la Justice He Rong a déclaré lors de la troisième « voie des ministres » de la quatrième session de l’Assemblée populaire nationale que cette année, le gouvernement renforcerait encore l’offre de lois et règlements dans les domaines clés, émergents et liés à l’international, accélérerait la recherche et la législation sur l’intelligence artificielle et l’économie à basse altitude, afin de mieux faire coïncider la règle de droit avec la réforme, le développement et la stabilité. La législation relative à l’IA pourrait ainsi devenir plus claire et précise.

(Reportage de Wang Yuling, China Financial News)