أداة التوظيف بالذكاء الاصطناعي تتعرض لانتقادات بسبب التمييز العنصري! دراسة من ستانفورد: وجود عدم مساواة منهجية بين السود والآسيويين

دراسة ميدانية واسعة النطاق من معهد هارفارد للذكاء الاصطناعي تظهر أن 26٪ من الباحثين عن عمل السود و15٪ من الباحثين عن عمل الآسيويين يواجهون نظام تصفية ذكاء اصطناعي متحيز عند التقدم للوظائف.
(ملخص سابق: كتبت ورقة بحثية من 14 صفحة تم فصلها من جوجل، وخمسة أعوام بعد ذلك، تحققت جميع تنبؤات المخاطر المتعلقة بالذكاء الاصطناعي)
(معلومات إضافية: موجة تسريح الذكاء الاصطناعي أصبحت بمثابة برميل بارود اجتماعي! حققت وادي السيليكون أرباحًا قياسية لكن تم تسريح قرابة 150,000 شخص، والفجوة بين الأغنياء والفقراء تقترب من مستوى احتلال وول ستريت)

فهرس المقال

تبديل

• "قاعدة الأربعة أخماس" واللامساواة المختفية
• ثقافة خوارزمية موحدة: مزود واحد، يكرر تحيزات السوق بأكمله
• التشريعات تتخلف بكثير عن وتيرة النشر

من بين أربع شركات تستخدم نفس مزود خدمة الذكاء الاصطناعي، هناك 10٪ من الباحثين عن عمل يتقدمون للوظائف في جميع هذه الشركات الأربعة، لكنهم يُرفضون جميعًا. قد يبدو أن هذا مجرد حظ، لكن مجموعة مقارنة أعطت نتائج مختلفة: في دراسة متزامنة شملت 108 من أكبر 500 شركة في قائمة فورتشن، و83,000 طلب، لم تعتمد هذه الشركات على نظام تصفية الذكاء الاصطناعي، ولم يُلاحظ ظاهرة الرفض المنهجي تقريبًا.

نشر معهد هارفارد للذكاء الاصطناعي هذا الشهر دراسة تتبع 3.4 مليون باحث عن عمل، و4 ملايين طلب، تغطي 1,700 وظيفة، و150 صاحب عمل، و11 صناعة، وهي أكبر دراسة ميدانية لمراقبة خوارزميات التوظيف بالذكاء الاصطناعي حتى الآن. وتوصلت الدراسة إلى مشكلة هيكلية طويلة التغافل عنها: تأثير التحيز في أدوات تصفية الذكاء الاصطناعي ليس خطأ عارضًا، بل هو ناتج حتمي لتصميم النظام.

"قاعدة الأربعة أخماس" واللامساواة المختفية

لجنة تكافؤ فرص العمل الأمريكية (EEOC) لديها معيار تقييم قديم يُعرف بـ"قاعدة الأربعة أخماس"، وهو ببساطة، إذا كانت نسبة التوصية لمجموعة معينة أقل من 80٪ من أعلى مجموعة توصية، يُعتبر ذلك "تأثير غير عادل"، وهو الحد القانوني للتمييز.

وجدت الدراسة أن 26٪ من الباحثين عن عمل السود و15٪ من الباحثين عن عمل الآسيويين يواجهون نظام تصفية ذكاء اصطناعي يحقق هذا التعريف للتمييز. غالبًا ما تكون المجموعة المفضلة هي الباحثون عن عمل البيض. إذا تم تحقيق التوصية بعدالة نسبية بين السود والآسيويين، من الناحية النظرية، يمكن أن تتقدم 40,000 طلب إضافي للمراجعة اليدوية.

لكن هناك فخًا رئيسيًا، وهو السبب الرئيسي وراء صعوبة اكتشاف مشكلة التمييز سابقًا: إذا تم حساب معدلات التوصية لجميع الوظائف بشكل مختلط ومتوسط، فإن التحيز يختفي رقميًا. على سبيل المثال، نظام ذكاء اصطناعي يفضل توظيف السود في التخزين واللوجستيات، لكنه لا يوصي السود بوظائف مالية، وعند جمع النتائج، يبدو أن المعدل العام قريب من المعايير العادلة.

فقط من خلال تحليل كل وظيفة وكل مجموعة عرقية على حدة، يظهر التحيز بوضوح. غياب هذا النوع من الدراسات سابقًا يرجع جزئيًا إلى صعوبة الحصول على البيانات، ورفض أصحاب العمل للفحص الخارجي.

ثقافة خوارزمية موحدة: مزود واحد، يكرر تحيزات السوق بأكمله

حاليًا، يستخدم حوالي 90٪ من أصحاب العمل في الولايات المتحدة نوعًا من أدوات تصفية الذكاء الاصطناعي في عمليات التوظيف، لكن معظمهم يعتمد على عدد قليل من مزودي الخدمة الخارجيين. هذا الهيكل السوقي المركز يخلق ما يسميه الباحثون "ثقافة خوارزمية موحدة"، بمعنى أنه عندما يتم نشر نفس الخوارزمية في مئات الشركات، فإن بعض المجموعات من الباحثين عن عمل يُحرمون من الفرص ليس فقط في شركة واحدة، بل في سوق العمل بأكمله، دون أن يكونوا على علم.

أداة تصفية الذكاء الاصطناعي من Workday تواجه دعوى جماعية تتهمها بالتمييز على أساس العرق والعمر والإعاقة. لكن هذه الدعاوى تأتي بعد وقوع المشكلة، والباحثون يركزون أكثر على الوقاية النظامية.

تمتلك أدوات التصفية بالذكاء الاصطناعي ثلاث خصائص تجعلها خطيرة بشكل خاص: اعتماد واسع (pervasively adopted)، عواقب عالية (highly consequential)، وغير شفافة للجمهور (opaque). غالبًا ما لا يعرف الباحثون عن عمل إذا ما تم استبعادهم بواسطة الخوارزمية، كما أن أصحاب العمل قد لا يكونون على دراية بكيفية أداء الأدوات في مختلف فئات الوظائف، والهيئات التنظيمية تفتقر إلى البيانات الكافية للمراقبة.

التشريعات تتخلف بكثير عن وتيرة النشر

بحلول يونيو 2026، سيدخل قانون الذكاء الاصطناعي في كولورادو حيز التنفيذ رسميًا، ويطلب من مطوري أدوات التوظيف بالذكاء الاصطناعي اتخاذ تدابير "معقولة للحماية" لمنع التمييز. وهو من القليل من التشريعات على مستوى الولايات الأمريكية التي تتطلب معايير واضحة لأدوات التوظيف بالذكاء الاصطناعي، لكن "التدابير المعقولة" لا تزال غامضة، وآليات التنفيذ لم تُبنى بعد.

الصدفة أن إصدار هذه الدراسة يتزامن مع ظروف سوق العمل الصعبة التي يواجهها خريجو عام 2026: الطلب على الوظائف المبتدئة أصبح ثلاثة أضعاف ما كان عليه في 2022، واستخدام أدوات التصفية بالذكاء الاصطناعي يتزايد أيضًا. في ظل تدفق الطلبات المحدود وموارد المراجعة اليدوية، ستعتمد الشركات أكثر على الأتمتة، وليس أقل.

أكد فريق البحث أن دعم السياسات المبنية على الأدلة في مجال الذكاء الاصطناعي يتطلب دراسات مستقلة عن الخوارزميات في التوظيف. لكن الواقع أن مثل هذه الدراسات تعتمد على توفر البيانات، وغالبًا ما تكون البيانات في حوزة المزودين وأصحاب العمل. استطاعة معهد هارفارد للذكاء الاصطناعي إجراء الدراسة تعتمد جزئيًا على تعاون أصحاب العمل، وهو أمر غير مضمون عادة.

• 3.4 مليون باحث عن عمل، و4 ملايين طلب، تغطي 150 صاحب عمل
• 26٪ من طلبات الباحثين عن عمل السود تتعرض للتمييز بواسطة الذكاء الاصطناعي؛ و15٪ من الآسيويين كذلك
• إزالة التحيز يمكن أن يضيف 40,000 طلب للمراجعة اليدوية
• أربع شركات تستخدم نفس مزود الخدمة، و10٪ من الباحثين يُرفضون بالكامل
• قانون الذكاء الاصطناعي في كولورادو سيدخل حيز التنفيذ في يونيو 2026، ويطلب "التدابير المعقولة"