Ferramenta de recrutamento por IA é acusada de racismo! Estudo de Stanford: negros e asiáticos enfrentam desigualdade sistêmica

HAI de Stanford revela estudo de campo em grande escala sobre algoritmos de recrutamento AI mostra que 26% dos candidatos negros e 15% dos candidatos asiáticos enfrentam sistemas de triagem AI discriminatórios ao se candidatar a empregos.
(Preâmbulo: ela escreveu uma tese de 14 páginas que foi dispensada pelo Google, cinco anos depois todas as suas previsões sobre riscos de IA se confirmaram)
(Informação adicional: a onda de demissões por IA virou uma panela de pressão social! Silicon Valley lucra recordes, mas demitiu quase 150 mil pessoas, enquanto a desigualdade de renda atinge níveis de Occupy Wall Street)

Índice deste artigo

Alternar

• A "Regra dos Quatro Quintos" e a desigualdade que desaparece
• Cultura única de algoritmos: um fornecedor, reproduzindo os vieses de todo o mercado
• Regulamentação muito atrasada em relação à velocidade de implantação

Empresas que usam o mesmo fornecedor de IA simultaneamente, das quais 10% dos candidatos enviaram candidaturas para todas as quatro, mas foram rejeitados por todas. À primeira vista, esse número parece apenas uma questão de sorte, mas um grupo de controle apresentou respostas diferentes: em um estudo sincronizado de 108 empresas da Fortune 500, com 83.000 candidaturas, nenhuma delas utilizou triagem por IA, e a rejeição sistemática quase não ocorreu.

A pesquisa do HAI de Stanford, lançada neste mês, acompanhou 3,4 milhões de candidatos, 4 milhões de candidaturas, abrangendo 1.700 vagas, 150 empregadores e 11 setores, sendo o maior estudo de campo sobre algoritmos de recrutamento AI até hoje. A conclusão aponta uma questão estrutural há muito ignorada: o efeito discriminatório das ferramentas de triagem AI não é um erro ocasional, mas uma consequência inevitável do design do sistema.

"Regra dos Quatro Quintos" e a desigualdade que desaparece

A Comissão de Igualdade de Oportunidades de Emprego dos EUA (EEOC) mantém um padrão antigo conhecido como "Regra dos Quatro Quintos", que na prática significa que, se a taxa de recomendação de um grupo é inferior a 80% da taxa do grupo mais recomendado, isso constitui "impacto adverso", ou seja, discriminação legal.

A pesquisa revelou que 26% dos candidatos negros e 15% dos candidatos asiáticos enfrentam posições às quais o sistema AI apresenta discriminação conforme essa definição. Os grupos mais favorecidos geralmente são candidatos brancos. Se as recomendações fossem feitas de forma justa, recomendando negros e asiáticos na mesma proporção, cerca de 40.000 candidaturas adicionais poderiam avançar para a revisão humana.

Porém, há uma armadilha crucial — e a razão pela qual esses problemas de discriminação muitas vezes passam despercebidos: ao calcular a taxa de recomendação média de todas as posições, a discriminação desaparece numericamente. Por exemplo, um sistema AI que prefere recomendar negros para logística de armazém, mas não para cargos financeiros, terá uma média que parece justa, mesmo que a discriminação exista em cada categoria específica.

Somente ao analisar por vaga e por grupo é que a discriminação se revela. A falta de estudos anteriores se deve, em parte, à dificuldade de acesso aos dados e à resistência dos empregadores à fiscalização externa.

Cultura única de algoritmos: um fornecedor, reproduzindo os vieses de todo o mercado

Atualmente, cerca de 90% dos empregadores nos EUA usam algum tipo de ferramenta de triagem AI no processo de recrutamento, mas a maioria depende de apenas algumas empresas fornecedoras. Essa estrutura de mercado altamente concentrada criou o que os pesquisadores chamam de "cultura única de algoritmos": na prática, quando os mesmos vieses de um algoritmo são implantados em centenas de empresas, certos grupos de candidatos não apenas perdem oportunidades em uma única companhia, mas são sistematicamente excluídos de todo o mercado de trabalho, sem saberem.

A ferramenta de triagem AI da Workday já enfrenta uma ação coletiva, acusada de discriminação racial, etária e por deficiência. Mas essas ações são uma medida corretiva posterior; os pesquisadores estão mais interessados na prevenção sistêmica.

Ferramentas de triagem AI possuem três características que as tornam particularmente perigosas: uso generalizado (pervasively adopted), altamente consequentes (highly consequential) e não transparentes ao público (opaque). Candidatos geralmente não sabem se estão sendo excluídos por algoritmos, e os empregadores podem não ter clareza sobre o desempenho dessas ferramentas em diferentes categorias de vaga, enquanto órgãos reguladores carecem de dados suficientes para fiscalizar.

Regulamentação muito atrasada em relação à velocidade de implantação

Em junho de 2026, o AI Act do Colorado entrou em vigor, exigindo que os desenvolvedores de ferramentas de recrutamento AI adotem medidas de "cuidado razoável" para evitar discriminação. Essa é uma das poucas legislações estaduais nos EUA que estabelece requisitos claros para algoritmos de recrutamento AI, embora os critérios de "cuidado razoável" ainda sejam vagos e os mecanismos de implementação, por estabelecer.

A publicação deste estudo não é por acaso. Os graduandos de 2026 enfrentam o ambiente de emprego mais difícil dos últimos anos: o número de candidaturas a vagas de entrada triplicou em relação a 2022, e o uso de ferramentas de triagem AI também aumentou. Com o volume de candidaturas em expansão e recursos humanos limitados para revisão manual, a dependência de automação só tende a crescer.

A equipe de pesquisa destaca que a formulação de políticas baseadas em evidências sobre recrutamento por IA requer estudos independentes de algoritmos, mas a realidade é que esses estudos dependem do acesso a dados, que muitas vezes estão nas mãos de fornecedores e empregadores. A pesquisa do Stanford HAI só foi possível graças à cooperação dos empregadores, o que nem sempre é garantido.

• 3,4 milhões de candidatos, 4 milhões de candidaturas, 150 empregadores
• 26% dos candidatos negros e 15% dos candidatos asiáticos enfrentam discriminação AI
• Eliminar a discriminação poderia permitir que 40.000 candidaturas avançassem
• Quatro empresas usando o mesmo fornecedor de IA, 10% dos candidatos totalmente rejeitados
• Colorado AI Act de 2026, exige "cuidado razoável"