Ex-diretor de notícias da Meta investiga: Quase todos os modelos de IA têm inclinação política à esquerda, Gemini citou veículos oficiais do Partido Comunista Chinês

Antes de Meta, a responsável pelas notícias, Campbell Brown, fundou a Forum AI, dedicando 17 meses a avaliar sistematicamente a qualidade da informação dos modelos de IA mainstream, descobrindo que o Gemini citava conteúdos de sites oficiais do Partido Comunista Chinês ao tratar de reportagens não relacionadas à China, e que quase todos os modelos testados apresentavam uma inclinação política à esquerda.
(Antecedentes: A IA destrói a tradição de 133 anos da Universidade de Princeton: quando “colocar a mão na massa” se torna uma norma)
(Complemento: 97.895 mensagens em fóruns subterrâneos revelam: a comunidade hacker também odeia IA)

Índice deste artigo

Alternar

• A questão que ninguém testa
• Erros fluentes, mais difíceis de detectar do que o silêncio
• Regulamentação forçando, não uma consciência moral

Brown é jornalista de formação, trabalhou na CNN como apresentadora, depois assumiu a direção de notícias do Meta, gerenciando diretamente as políticas de apresentação de notícias do Facebook para seus 3 bilhões de usuários globais.

Essa posição permitiu-lhe ver de perto o panorama completo de “como as plataformas moldam o fluxo de informação”. Ela deixou o Meta há 17 meses e fundou a Forum AI em Nova York, especializada em uma tarefa que muitas empresas de modelos foundation costumam pular: avaliar sistematicamente se as informações fornecidas pela IA são precisas, justas e apresentam múltiplas perspectivas.

A questão que ninguém testa

O produto principal da Forum AI é uma estrutura de referência para eventos de geopolítica.

Funciona assim: a Forum AI convida um grupo de consultores de ponta, cada um com espectros políticos e formações diferentes: Niall Ferguson, Fareed Zakaria, o ex-secretário de Estado dos EUA Tony Blinken, o ex-líder da minoria na Câmara Kevin McCarthy, a ex-assessora de segurança nacional Anne Neuberger… para avaliar, pontuar individualmente, as respostas de modelos de IA mainstream sobre um mesmo evento complexo de geopolítica.

Atualmente, a Forum AI atingiu um limiar de consenso com especialistas humanos de cerca de 90%, tornando suas avaliações uma referência defensável, e não apenas uma opinião pessoal.

Brown identificou problemas em três níveis, cada um mais difícil de corrigir do que o anterior.

Primeiro nível: falhas na lógica de seleção de fontes. Gemini, ao tratar de reportagens não relacionadas à China, citou conteúdos de sites oficiais do Partido Comunista Chinês. Isso não é um erro factual comum, mas uma questão de lógica na filtragem de fontes: a IA avalia apenas se “é texto” ou “é link”, sem julgar a postura, confiabilidade ou intenções políticas da fonte.

A política inerente às fontes não é visível no fluxo de saída da IA.

Segundo nível: viés político estrutural. Quase todos os modelos mainstream testados demonstraram inclinação à esquerda. Isso não é uma teoria da conspiração, mas uma consequência natural da distribuição do corpus de treinamento. A IA aprende com os textos que lê, tendendo a reproduzir o tom e a estrutura de posições presentes nesses textos.

O conteúdo predominante na internet em inglês — notícias de mídia mainstream, artigos acadêmicos, posts em redes sociais — possui uma inclinação política específica, e os modelos treinados herdaram essa inclinação, muitas vezes sem perceber.

Mais complicado ainda: esse viés não é um bug que pode ser corrigido facilmente, mas uma característica embutida na lógica de cada saída do modelo.

Terceiro nível: falta de contexto e múltiplas perspectivas. Brown afirma que os modelos atuais geralmente carecem de “contexto de fundo, múltiplas perspectivas e transparência argumentativa”. As respostas da IA são declarações, não uma estrutura do tipo “para A, isso representa X; para B, representa Y; a divergência fundamental é…”.

Ela fornece uma resposta, mas não indica de qual ângulo ela foi derivada.

Erros fluentes, mais difíceis de detectar do que o silêncio

Brown aponta uma cegueira estrutural: as empresas de modelos foundation priorizam na avaliação e classificação a capacidade matemática, de codificação e raciocínio lógico, enquanto a precisão da informação e a diversidade política quase nunca aparecem nas principais listas de testes de referência.

Isso é fácil de entender. Código tem certo ou errado, testes mostram isso. Questões matemáticas têm respostas padrão, a precisão pode ser calculada. Mas “o que constitui uma reportagem geopolítica precisa e justa” — quem decide? Quantas pessoas com diferentes posições precisam concordar? Essa questão não tem uma solução técnica.

Nos processos de desenvolvimento de produtos liderados por engenheiros, com rankings baseados em testes de referência, ela é sistematicamente ignorada. Como resultado, a precisão da informação é quase invisível na avaliação de capacidades da IA.

O custo de ignorar isso pode ser visto em um caso concreto: no ano passado, Nova York realizou uma auditoria de conformidade em seu sistema de recrutamento por IA, para verificar se as ferramentas de triagem violavam leis anti-discriminação. Segundo os resultados, mais da metade dos casos não detectaram violações.

O problema não é a baixa taxa de violações, mas que isso pode indicar que a ferramenta de auditoria por IA não é precisa o suficiente para detectar problemas, e não que eles realmente não existam.

Esse é o ponto central do argumento de Brown: o problema da IA não é apenas fornecer fatos incorretos, mas fazer as pessoas aceitarem esses fatos com confiança. Uma pessoa sabe que não sabe algo, ao menos pode procurar. Mas quando a IA, com uma fala fluente, confiante e sem hesitações, dá uma resposta errada, a maioria dos usuários não tem motivo para duvidar.

Erros fluentes, mais difíceis de detectar e corrigir do que o silêncio.

Regulamentação forçando, não uma consciência moral

A avaliação de Brown é direta: o que impulsiona a mudança não será a pressão moral ou a opinião pública, mas o risco de conformidade empresarial.

O raciocínio dela tem uma base realista: no atual sistema de incentivos da indústria de IA, ninguém tem motivo forte suficiente para resolver o problema de forma proativa, até que seu custo se torne inegável. Decisões de crédito, seguros, recrutamento — esses cenários de decisão por IA estão sujeitos às leis atuais.

Quando uma saída de IA apresenta viés discriminatório ou imprecisão, a empresa que a usa assume responsabilidade legal. Essa pressão acaba se estendendo aos fornecedores de modelos, que passarão a oferecer saídas auditáveis, verificáveis e com garantias de precisão. Não porque acham moralmente correto, mas porque seus clientes empresariais começam a exigir isso em contratos.

A Lerer Hippeau liderou, no ano passado, um investimento seed de 3 milhões de dólares na Forum AI. Embora esse valor seja pequeno na área de IA, representa uma avaliação: “avaliação de IA” é um negócio, e a demanda por esse serviço pode crescer mais rápido do que se imagina.