GEO acusado de "envenenamento", corretoras e fundos coletivamente perplexos: ainda é possível fazer? Como definir os limites?

Qual é o contexto completo do escândalo de intoxicação envolvendo o AI · GEO?

Notícias da Caixin, 16 de março (repórter Wang Yuling): “Estamos a estudar se devemos ou não investir em GEO, após a exposição na edição de 15/3, será que ainda podemos fazer isso?” Uma fonte de uma gestora de ativos de uma corretora revelou que, nesta manhã, a empresa já tinha conversado com várias fabricantes sobre a legalidade e conformidade do GEO.

GEO, ou Otimização de Motor Gerador (Generative Engine Optimization), permite que a IA extraia rapidamente informações-chave do conteúdo e, ao gerar respostas, priorize a citação de conteúdos de marca. Segundo apurou a reportagem, várias corretoras e gestoras de fundos já tentaram usar a tecnologia GEO para aumentar a visibilidade e a frequência de menções às suas marcas em conteúdos gerados por IA.

Após a exposição do “GEO tóxico” na transmissão de 15/3, o tema gerou amplo debate no setor. A colocação normal de GEO é ou não é legal? Como se define a fronteira entre conformidade e ilegalidade?

Otimização legal ou “GEO tóxico”: onde está a linha?

“Na minha opinião, uma otimização normal, desde que o conteúdo não viole regras, é semelhante a marketing de conteúdo.” afirmou um responsável de uma grande corretora de valores, especializado em negócios online.

“Se for uma colocação normal de GEO, deve ser parecida com a era tradicional de buscas, onde marcas competem por posições na página de resultados através de SEO, o que é uma estratégia de marketing.” disse o mesmo gestor de uma gestora de fundos.

Então, como distinguir uma otimização legítima de uma “intoxicação”?

Um fundador de uma fabricante de GEO explicou à Caixin que, na sua opinião, o “GEO tóxico” exposto pela CCTV consiste em: primeiro, conteúdo gerado em massa por robôs; segundo, informações fictícias; terceiro, disseminação por meio do controle de muitas contas. Para ele, a linha de base para determinar a conformidade é a veracidade das informações.

Na sua visão, uma otimização de GEO legal e conforme deve pelo menos cumprir quatro requisitos: “conformidade do corpus, conformidade dos dados, conformidade dos canais e conformidade das credenciais”.

“Se usar IA para treinar, alimentar ou manipular para criar e divulgar informações falsas sobre valores mobiliários, isso é ilegal e proibido por lei. Do ponto de vista regulatório, as exigências aumentaram, e o processo de identificar ilegalidades ficou mais complexo. É preciso atualizar continuamente os métodos de fiscalização.” afirmou o advogado Xu Feng, do escritório Shangai Jiucheng. Ele acredita que as autoridades já estão atentas ao problema, e que a legislação e fiscalização serão reforçadas rapidamente.

Um especialista em relações públicas jurídicas afirmou que as principais irregularidades atuais do GEO envolvem três aspectos: primeiro, a promoção comercial sem a devida marcação de “publicidade” ou “promoção”, violando o direito do consumidor à informação; segundo, a propaganda falsa frequente, com fornecedores de GEO criando relatórios falsos, opiniões fictícias de especialistas e avaliações fraudulentas de usuários para alimentar a IA com informações enganosas, induzindo os consumidores a decisões equivocadas; terceiro, práticas de concorrência desleal, onde alguns comerciantes manipulam artificialmente os resultados de recomendações da IA usando GEO, gerando conteúdo de baixa qualidade em grande quantidade, reduzindo a visibilidade de concorrentes e elevando sua própria classificação, prejudicando o ambiente de competição justa.

O fundador mencionado acredita que a raiz do problema está na diminuição do domínio do Baidu Search, levando muitos profissionais a simplesmente transferir suas experiências de SEO tradicionais para o campo do GEO, sem uma regulamentação eficaz ou padrões setoriais, o que tem tornado as táticas cada vez mais agressivas.

Ele defende que a chave para combater a desordem no setor é a orientação regulatória por parte dos fabricantes de grandes modelos de IA. “Atualmente, eles ainda estão focados no treinamento dos modelos. Quando futuramente puderem dedicar-se à normatização das fontes de informação, a ordem do setor será naturalmente estabelecida. Por exemplo, modelos nas áreas de medicina e direito atualmente não permitem coleta externa, e esses problemas são raros nesses setores.”

Que consequências legais podem enfrentar os “GEO tóxicos”?

E se alguém realmente operar um GEO tóxico, quais punições podem ocorrer?

O especialista em relações públicas jurídicas afirmou que tanto os responsáveis pelas empresas que operam GEO tóxico quanto as agências de relações públicas podem ser acusados de publicidade enganosa. Segundo o artigo 222 do Código Penal, quem, em violação às normas do Estado, fizer propaganda falsa de produtos ou serviços por meio de anúncios, com circunstâncias graves, pode ser condenado a até dois anos de prisão ou detenção, além de multa.

Como se determina “circunstâncias graves”?

De acordo com o artigo 67 das Normas de Investigação e Processamento de Casos Criminais sob jurisdição do Ministério Público e da Polícia, quem violar as normas do Estado ao fazer propaganda falsa de produtos ou serviços, e se enquadrar em uma das seguintes situações, deve ser processado:

• Obtenção de lucros ilegais superiores a 100 mil yuans;
• Propaganda falsa de alimentos ou medicamentos, com lucros ilegais superiores a 30 mil yuans;
• Mesmo que não atinjam esses valores, se a pessoa tiver sido punida duas ou mais vezes nos últimos dois anos por propaganda falsa e continuar a praticar a mesma conduta;
• Se causar consequências graves ou impacto social negativo.

Como o GEO é uma tecnologia relativamente nova, ainda não há precedentes criminais específicos. Contudo, uma notícia publicada no site “China Court Network”, administrado pelo Supremo Tribunal Popular, relata que o Tribunal Popular de Linxiang, na província de Hunan, condenou dois réus por enganar consumidores com avaliações falsas.

O juiz responsável alertou: “Falsificar avaliações para obter credibilidade de mercado é, na essência, uma forma de propaganda enganosa oculta, que viola o direito do consumidor à informação e à escolha, além de prejudicar a concorrência justa, prejudicando negócios honestos. Não se deve comprar ou oferecer serviços apenas para aumentar uma reputação falsa.”

Durante a 14ª Assembleia Nacional Popular, o ministro da Justiça, He Rong, afirmou na “Via dos Ministros” do terceiro dia da sessão que o governo fortalecerá a legislação em áreas-chave, emergentes e internacionais, acelerando o desenvolvimento de leis relacionadas à inteligência artificial e à economia de baixa altitude, para que o Estado de Direito acompanhe as reformas, o desenvolvimento e a estabilidade. A legislação sobre IA deve se tornar mais clara e completa em breve.