Инструмент ИИ для найма обвиняют в расовой дискриминации! Исследование Стэнфордского университета: у чернокожих и азиатов существует системное неравенство

Стэнфордский HAI впервые в масштабах исследования алгоритмов AI для найма показывает, что 26 % чернокожих соискателей и 15 % азиатских соискателей сталкиваются с дискриминационными системами AI при подаче заявлений на работу.
(Предыстория: она написала 14-страничную диссертацию, после чего была уволена Google, и через пять лет все предсказания о рисках AI подтвердились)
(Дополнительный контекст: волна сокращений из-за AI становится социальным бомбом! В Кремниевой долине прибыли достигли рекордных высот, но почти 150 000 человек были уволены, разрыв между богатством и бедностью достиг уровня протестов на Уолл-стрит)

Содержание статьи

Переключить

• «Правило четырех пятых» и исчезающая неравенство
• Однородная культура алгоритмов: один поставщик, копирующий предубеждения всего рынка
• Законодательство значительно отстает от скорости внедрения

Компании, использующие одновременно один и тот же AI-поставщик, из 10 % соискателей, подающих заявки во все четыре компании, полностью отклонены всеми четырьмя. На первый взгляд, это кажется просто удачей, но контрольная группа показывает иное: в синхронных исследованиях 108 компаний из списка Fortune 500, 83 000 заявлений — все без использования AI для отбора, случаи системного полного отказа практически отсутствуют.

Исследование HAI Стэнфорда за этот месяц отслеживало 3,4 миллиона соискателей, 4 миллиона заявлений, охватывало 1 700 вакансий, 150 работодателей и 11 отраслей — это самое масштабное полевое исследование алгоритмов AI для найма. Выводы указывают на давно игнорируемую структурную проблему: дискриминационный эффект инструментов AI — не случайная ошибка, а неизбежный результат их системного дизайна.

«Правило четырех пятых» и исчезающее неравенство

Комиссия по равным возможностям трудоустройства США (EEOC) использует давно устоявшийся критерий, называемый «правилом четырех пятых»: если уровень рекомендаций для одной группы ниже 80 % от самой рекомендуемой группы, это считается «негативным воздействием», то есть дискриминацией по закону.

Исследование показывает, что 26 % чернокожих соискателей и 15 % азиатских соискателей сталкиваются с дискриминацией по признакам расы, соответствующей этому определению. Самые предпочтительные группы — обычно белые соискатели. Если бы рекомендации для чернокожих и азиатских были бы равными по справедливости, примерно 40 000 заявлений могли бы пройти на этап ручной проверки.

Однако есть важная ловушка, которая и объясняет, почему ранее проблему дискриминации было трудно обнаружить: если усреднить показатели рекомендаций по всем вакансиям, дискриминация исчезает в числах. Например, одна система AI предпочитает рекомендовать чернокожих на складские и логистические должности, но не рекомендует их на финансовые позиции; сумма этих данных кажется близкой к справедливому стандарту.

Только при раздельном анализе по вакансиям и группам дискриминация проявляется явно. В прошлом такие исследования были затруднены из-за сложности доступа к данным и сопротивления работодателей внешней проверке.

Однородная культура алгоритмов: один поставщик, копирующий предубеждения всего рынка

В США около 90 % работодателей используют в процессе найма какую-либо форму AI-отбора, но большинство полагается на несколько крупных сторонних поставщиков. Такая высокая концентрация рынка породила то, что исследователи называют «однородной культурой алгоритмов»: когда одни и те же алгоритмы внедряются в сотни компаний, некоторые группы соискателей систематически исключаются из рынка труда, зачастую без их ведома.

Инструменты AI от Workday уже столкнулись с коллективным иском, обвиняющим в расовой, возрастной и инвалидной дискриминации. Но такие иски — это уже меры после факта, а исследователи больше беспокоятся о системных мерах профилактики.

Инструменты AI обладают тремя опасными характеристиками: широкое распространение (pervasively adopted), высокая значимость последствий (highly consequential), недостаточная прозрачность для общественности (opaque). Соискатели зачастую не знают, исключены ли они алгоритмом, а работодатели — не всегда понимают, как эти инструменты работают в разных категориях вакансий, а регуляторы — не имеют достаточной информации для контроля.

Законодательство значительно отстает от скорости внедрения

В июне 2026 года в штате Колорадо вступит в силу закон AI Act, требующий от разработчиков AI-инструментов для найма принимать «разумные меры предосторожности» для предотвращения дискриминации. Это одна из немногих на сегодняшний день штатовских законов, явно регулирующих алгоритмы AI для найма, однако конкретные стандарты «разумных мер» остаются размытыми, а механизмы исполнения — еще не разработаны.

Время публикации этого исследования не случайно. Выпускники 2026 года сталкиваются с самым тяжелым за последние годы рынком труда: количество заявлений на начальные позиции в три раза превышает показатели 2022 года, а использование AI-инструментов для отбора растет синхронно. В условиях взрывного роста заявлений и ограниченных ресурсов для ручного рассмотрения, зависимость работодателей от автоматизированных систем только увеличивается.

Команда исследования ясно заявляет, что для продвижения политики, основанной на доказательствах, необходимы независимые исследования алгоритмов найма. Но реальность такова, что такие исследования требуют доступа к данным, которые зачастую находятся у поставщиков и работодателей. Возможность проведения этого исследования в Стэнфорде частично зависит от сотрудничества работодателей, что в обычных условиях не является само собой разумеющимся.

• 3,4 миллиона соискателей, 4 миллиона заявлений, 150 работодателей
• 26 % чернокожих соискателей сталкиваются с AI-дискриминацией; 15 % азиатских — также
• устранение дискриминации может привести к увеличению на 40 000 заявлений, проходящих на следующий этап
• четыре компании, использующие одного и того же AI-поставщика, отклонили полностью 10 % соискателей
• закон AI Act штата Колорадо вступит в силу в июне 2026 года, требуя «разумных мер предосторожности»