Інструмент штучного інтелекту для найму викликав звинувачення у расовій дискримінації! Дослідження Стенфордського університету: афроамериканці та азіати стикаються з системною нерівністю

Стэнфордський HAI перший масштабний польовий дослідження алгоритмів штучного інтелекту для найму показало, що 26 % афроамериканських кандидатів і 15 % азіатських кандидатів стикаються з дискримінаційними системами AI при подачі заявок на роботу.
(Передісторія: вона написала 14-сторінкову дисертацію і була звільнена з Google, п’ять років потому всі її прогнози щодо ризиків AI підтвердилися)
(Додатковий контекст: хвиля скорочень через AI стала соціальним пороховою бочкою! Silicon Valley отримує рекордний прибуток, але звільнило майже 150 000 людей, нерівність доходів досягла рівня протестів на Уолл-стріт)

Зміст статті

Переключити

• «Правило чотирьох п’ятих» і зникла нерівність
• Одноманітна культура алгоритмів: один постачальник, копіює упередження всього ринку
• Законодавство значно відстає від швидкості впровадження

Компанії, що одночасно використовують одного й того ж постачальника AI для найму, з 10 % кандидатів подають заявки до всіх чотирьох, але всі їх відхиляють. Зовнішній вигляд — це просто випадковість, але контрольна група дала іншу відповідь: у спільному дослідженні 108 компаній із списку Fortune 500, 83 000 заявок, жодна з яких не використовувала AI для відбору, систематичних відмов не спостерігалося.

Дослідження HAI Стенфордського університету цього місяця відстежило 3,4 мільйона кандидатів і 4 мільйони заявок, охоплюючи 1 700 вакансій, 150 роботодавців і 11 галузей — це найбільше польове дослідження алгоритмів AI для найму на сьогодні. Висновки прямо вказують на довготривалу структурну проблему: дискримінаційний ефект інструментів AI для відбору — це не випадкова помилка, а системний наслідок їхнього проектування.

«Правило чотирьох п’ятих» і зникла нерівність

Комісія з рівних можливостей працевлаштування США (EEOC) має довгу історію застосування стандарту, відомого як «правило п’ятих». Простими словами, якщо рівень рекомендацій для певної групи нижчий ніж 80 % від найкращого, це вважається «недобросовісним впливом», тобто дискримінацією за законом.

Дослідження показало, що 26 % афроамериканських кандидатів і 15 % азіатських кандидатів, які подають заявки, стикаються з дискримінаційними системами AI, що відповідають цим визначенням. Найбільш популярною групою є білі кандидати. За рівністю рекомендацій для афроамериканців і азіатів, теоретично, можна було б додатково пропустити до розгляду 40 000 заявок.

Однак тут є ключова пастка — і саме через неї раніше важко було виявити проблему дискримінації: якщо обчислювати середній рівень рекомендацій для усіх вакансій, дискримінація зникає у цифрах. Наприклад, одна система AI переважно рекомендує афроамериканцям працювати у складських логістичних сферах, але не рекомендує їх на фінансові посади; сумарний середній показник здається справедливим.

Лише аналіз по вакансіях і групах дозволяє виявити дискримінацію. Раніше таких досліджень бракувало через труднощі з доступом до даних і опором роботодавців до зовнішніх перевірок.

Одноманітна культура алгоритмів: один постачальник, копіює упередження всього ринку

В США близько 90 % роботодавців використовують у процесі найму AI-інструменти, але більшість залежить від кількох сторонніх постачальників. Така висока концентрація ринку породила явище, яке дослідники називають «одноманітною культурою алгоритмів»: коли одна й та сама система алгоритмів застосовується у сотнях компаній, певні групи кандидатів систематично виключаються з ринку праці, і вони навіть не підозрюють про це.

Інструмент AI від Workday вже піддається колективному позову, звинувачуючи у расовій, віковій і інвалідній дискримінації. Але це — реакція на наслідки, а дослідники більше зацікавлені у профілактиці системних проблем.

Інструменти AI для найму мають три особливості, що роблять їх особливо небезпечними: широке застосування, висока відповідальність за наслідки і відсутність прозорості для громадськості. Кандидати зазвичай не знають, чи їх виключили алгоритми, роботодавці не завжди розуміють, як ці інструменти працюють у різних категоріях вакансій, а регулятори мають недостатньо даних для контролю.

Законодавство значно відстає від швидкості впровадження

У червні 2026 року закон штату Колорадо про AI (AI Act) набуде чинності, вимагаючи від розробників AI-інструментів для найму вживати «розумних заходів» для запобігання дискримінації. Це — один із небагатьох штатних законів у США, що чітко регулює алгоритми найму, але конкретні стандарти «розумних заходів» залишаються розмитими, а механізми їхнього впровадження — ще не створеними.

Саме час публікації цього дослідження не випадковий. Випускники 2026 року стикаються з найскладнішим за останні роки ринком праці: кількість заявок на початкові позиції у три рази перевищує показники 2022 року, а використання AI-інструментів для відбору зростає. У умовах бурхливого зростання кількості заявок і обмежених ресурсів для ручної перевірки, залежність роботодавців від автоматизованих систем лише зростає.

Команда дослідників чітко наголошує, що для формування політики на основі доказів щодо AI потрібно незалежне дослідження алгоритмів найму. Але реальність така, що для таких досліджень потрібні дані, які зазвичай зберігаються у постачальників і роботодавців. Успіх цієї роботи Стенфордського HAI частково залежить від співпраці роботодавців, що — не є само собою зрозумілим.

• 3,4 мільйона кандидатів, 4 мільйони заявок, 150 роботодавців
• 26 % афроамериканських кандидатів стикаються з AI-дискримінацією; 15 % азіатських кандидатів — також
• За умов усунення дискримінації — додаткові 40 000 заявок на розгляд
• Чотири компанії, що використовують одного й того ж постачальника AI, — 10 % кандидатів отримують повний відмову
• Закон штату Колорадо про AI 2026 року — вимагає «розумних заходів»