كيف يؤذي التحيّز الخوارزمي الأشخاص ذوي الاحتياجات الخاصة؟

يحدث التحيز الخوارزمي بالنسبة للأشخاص ذوي الاحتياجات الخاصة عند استخدام أداة توظيف لتحليل تعابير الوجه ونبرة الصوت لتقييم مقابلات الفيديو الخاصة بالمرشحين للوظائف، حيث تفيد إحدى الدراسات أن خوارزمية "شركة فيسبوك" تعرض تلقائياً إعلانات الوظائف للمستخدمين استناداً إلى استدلالات حول نوعهم الاجتماعي وعرقهم. كما تعمل أدوات التعرف على الوجوه بصورة أقل دقة على الأشخاص ذوي البشرة الداكنة. مع ظهور المزيد من حالات التحيز الخوارزمي في العناوين الرئيسية، بدأ صناع السياسات في الاستجابة، ولكن خلال تناول هذه المشكلة الجوهرية، يتم تجاهل ناحية لا تقل أهمية، ألا وهي التأثير المؤذي لهذا التحيّز على الأشخاص ذوي الاحتياجات الخاصة.

التحيز الخوارزمي بالنسبة للأشخاص ذوي الاحتياجات الخاصة

يوجد عدد لا بأس به من الأشخاص ذوي الاحتياجات الخاصة، أي أن هناك شخص من بين كل أربعة أشخاص في الولايات المتحدة، على سبيل المثال، ولكن يوجد العديد من الأشكال المختلفة لتلك الاحتياجات، ما يجعل من الصعب اكتشاف التحيز وإثباته والعمل على حله.

في مجال التوظيف، على سبيل المثال، تحدد الأدوات الجديدة التي تعتمد على الخوارزمية الصفات المميزة التي يتشارك فيها الموظفون الحاليون و"الناجحون" في الشركة، ثم تبحث عن تلك الصفات عند تقييمها للتعيينات الجديدة. ولكن نظراً لأن النموذج يتعامل مع الصفات غير الممثلة بالقدر الكافي باعتبارها صفات "غير مرغوب فيها"، وتحصل بالتالي على أهمية أقل، فإن الأشخاص ذوي الاحتياجات الخاصة، حالهم حال الفئات المهمشة الأخرى، يتعرضون لاحتمال الاستبعاد تلقائياً.

ومن أحد الأمثلة الشهيرة على ذلك، عندما عملت شركة "أمازون" على تدريب خوارزمية لفحص السير الذاتية، عن طريق تحليل السير الذاتية التي تلقتها الشركة على مدار السنوات العشر الماضية. وفي ضوء العدد المرتفع للرجال الذين يتقدمون للعمل في شركة "أمازون" بصورة غير متكافئة مقارنة بالنساء، فإن الخوارزمية تعلمت تخفيض درجة السير الذاتية التي تشمل مفردات تتعلق "بالنساء"، مثل "رئيسة"، و"قائدة"، و"مديرة" إلخ.، أو التي تتضمن مفردات مثل شهادة من "كلية للبنات". عملت الشركة بعد ذلك على تصحيح الأداة، لكن الدرس كان واضحاً، إذا كانت بيانات التدريب الخاصة بالخوارزمية تفتقر إلى التنوع، فيمكنها ترسيخ أنماط الاستبعاد الموجودة بطرق مؤذية جداً.

التحيز في خوارزمية التوظيف

تعدّ هذه المشكلة معقدة على نحو خاص عندما يتعلق الأمر بالأشخاص ذوي الاحتياجات الخاصة. على الرغم من وجود عدد كبير من الأشخاص ذوي احتياجات خاصة، إلا أن المجتمعات وفقاً للإحصاءات تتكون من مجموعات صغيرة متعددة من الأشخاص الذين تظهر احتياجاتهم بطرق مختلفة. عندما تدرس خوارزمية التوظيف تعابير وجوه المرشحين أثناء مقابلات الفيديو، أو أدائهم أثناء لعبة على الإنترنت، فقد يواجه الشخص المكفوف حواجز تختلف عن تلك التي يواجهها الشخص الذي يعاني من عدم القدرة على التنقل أو صعوبات في الإدراك. وإذا كان نموذج تدريب الخوارزمية في شركة "أمازون" قد سلط الضوء على تجارب السير الذاتية للنساء، فمن الصعب تخيل أن تلك الخوارزمية تمثل بكفاءة التنوع الكامل لتجارب الاحتياجات الخاصة. ويعدّ هذا صحيحاً خاصة عندما يواجه ذوو الاحتياجات الخاصة الاستبعاد من صفوف القوى العاملة لفترة طويلة، بسبب العقبات الهيكلية الراسخة، والقوالب النمطية للأشخاص الأكثر قدرة وغيرها من العوامل.

على الرغم من هذه التحديات، تسوّق بعض شركات توريد أدوات التوظيف المستندة إلى الذكاء الاصطناعي منتجاتها على أنها قد "خضعت للتدقيق لتجنب التحيز"، وتسعى إلى طمأنة أصحاب العمل من أجل مواجهة المخاوف المتزايدة. لكن العديد من هذه الشركات تعتمد على إرشادات قديمة نشرتها "لجنة تكافؤ فرص العمل في الولايات المتحدة" (U.S. Equal Employment Opportunity Commission)، في السبعينيات من القرن الماضي. توضح هذه الإرشادات ما يسمى بـ "قاعدة الأربعة أخماس" (four-fifths rule)، والتي تتطلع إلى معرفة ما إذا كان اختبار التعيين يختار مجموعة "محمية" معينة بمعدل أقل من نظيرتها من الأغلبية الموجودة (على سبيل المثال، يجري تدقيق ما إذا اختيرت المرشحات بمعدل نجاح 80% أو أقل مقارنة بمعدل النجاح للرجال، أو ما إذا كان المرشحون من أصحاب البشرة السمراء قد اختيروا بمعدل نجاح قدره 80% أو أقل مقارنة بمعدل نجاح أقرانهم). إذا اكتشف التدقيق أن إحدى الخوارزميات تفشل في "قاعدة الأربعة أخماس"، فإنه يعدلها لتحقيق تكافؤ أفضل، وتقدم الشركة أداتها على أنها "خضعت للتدقيق لتجنب التحيز". لكن هذا النهج المبسط يتجاهل تنوع مجتمعنا، والأهم من ذلك، يتناول الفئات المبسطة فقط (والمحددة من قبل الولايات المتحدة) فيما يتعلق بالعرق والانتماء الإثني.

يتضح الخطأ في هذا النهج إذا أخذنا في الاعتبار الأشخاص ذوي الاحتياجات الخاصة، حيث إن الأشكال المتنوعة للاحتياجات الخاصة تجعل من المستحيل تقريباً اكتشاف التأثير المؤذي لنوع التدقيق الذي تستخدمه الشركات حالياً، ولإظهار ذلك من خلال الدلالة الإحصائية على سبيل المثال، فإن الأشخاص الذين يتشكل مرض التوحد لديهم بطريقة معينة هم أقل نجاحاً في الاختبار من الآخرين. ببساطة، لا توجد نقاط بيانات كافية لمعرفة مدى تأثر المرشحين الذين تختلف حالات مرض التوحد لديهم، خاصة وأن العديد من الأشخاص يختارون عدم الكشف عن حالاتهم. يدعو البعض إلى حل مشكلة البيانات هذه من خلال جمع معلومات أكثر تفصيلاً عن حالات المرشحين للوظائف، إلا أن جمع المزيد من المعلومات يثير مخاوفهم الخاصة والمختلفة والحقيقية للغاية بشأن الخصوصية والتمييز.

كما تنشأ هذه المشكلات لدى الآخرين على حد سواء، مثل الأشخاص الذين عملوا على تهميش أولئك الذين يقعون خارج تعريفات الولايات المتحدة فيما يخص العرق والانتماء الإثني، والذين ينتمون إلى مجتمعات مهمشة متعددة ومتداخلة. لاحظ القادة في شركة "أمازون" بسهولة نقص عدد النساء الذين يجتازون مسح السير الذاتية بنجاح، واتخذوا تدابير بشأن ذلك، لكن ينبغي السؤال ما إذا كانت الأداة التي كانت تخفض درجة النساء من صاحبات البشرة السمراء، أو التي لا تعترف بالكلية الرائدة في البلاد للطلاب الصم باعتبارها مؤسسة مرموقة للتعليم العالي، قد جرى اكتشافها بالسرعة ذاتها تقريباً، إن وجدت.

كيفية التخلص من التحيز الخوارزمي

إذاً، كيف يمكننا تصحيح المسار؟ أحد الدروس التي تعلمناها هو أنه لا يمكن الاعتماد على الوعود المبسطة للتدقيق الإحصائي لحل مشكلة التحيز الخوارزمي. يحتاج أصحاب العمل والشركات الموردة إلى التعمق في تقييم التأثيرات الواقعية لأي أداة تعتمد على الخوارزمية قبل تطبيقها. وبدلاً من النظر فقط إلى كيفية أداء مجموعات معينة في عملية الاختيار (التي تفترض عن طريق الخطأ أن البيانات الكافية متوفرة)، ينبغي على أصحاب العمل الاستفسار حول المتغيرات الفعلية التي يجري أخذها في الاعتبار، ومراعاتها في الخوارزميات نفسها.

خلال فعل ذلك، ينبغي على أصحاب العمل طرح بعض الأسئلة الأساسية، مثل، هل يقيّم اختبار التوظيف العوامل التي ترتبط حقاً بالوظيفة قيد النظر؟ هل يقيم المرشحون على أساس جدارتهم الفردية بدلاً من الاستدلالات حول الاحتياجات الخاصة؟ هل صمم الاختبار وجرت مراجعته من قبل أشخاص اختبروا تجارب متنوعة، لتحديد المعوقات المحتملة؟ هل تم إيصال معلومات كافية للمرشحين حول المنهجية المتبعة لمعرفة ما إذا كان ينبغي عليهم السعي للحصول على مكان لهم في الاختبار، وهل تتوفر أماكن معقولة، وهل يتم منحهم أهمية متساوية؟ إن العديد من هذه الالتزامات منصوص عليها بالفعل في قوانين التوظيف الأميركية والقانون الخاص بالأميركيين من ذوي الاحتياجات الخاصة، وينبغي على أصحاب العمل والشركات الموردة تطبيقها، بما في ذلك طرح السؤال الأساسي حول ما إذا كان ينبغي عليهم استخدام الاختبار أساساً.

ينبغي على صانعي السياسة الانتباه إلى هذه المسألة أيضاً، كما ينبغي على "لجنة تكافؤ فرص العمل" تحديث إرشاداتها القديمة بشأن أدوات اختيار الموظفين (أي مصدر فكرة "قاعدة الأربعة أخماس")، بالإضافة إلى ذلك، يجب على المشرعين الانخراط في العمل الهادف إلى دعم قوانين الحقوق المدنية الأميركية للاستجابة إلى التغير التكنولوجي. وعلى نطاق أوسع، فقد حان الوقت لأن يسعى المجتمع المتنامي الذي يعمل على عدالة الخوارزميات إلى زيادة التركيز على وجهات نظر ذوي الاحتياجات الخاصة أنفسهم، والمجتمعات المهمشة الأخرى التي يثير تباينها تحديات واضحة أمام الجهود الرامية لاكتشاف التحيز ومعالجته.

من الجدير بالذكر أن السناتور الأميركية إليزابيث وارين، قد اتخذت مؤخراً خطوة رئيسية لإدراج عدالة الخوارزميات في برنامجها الخاص بحقوق الأشخاص ذوي الاحتياجات الخاصة، وبدأ الخبراء في الانخراط بطرق أكثر صرامة من أجل التخلص من التحيز الخوارزمي بالنسبة للأشخاص ذوي الاحتياجات الخاصة. ولكن مع توسع استخدام أدوات الخوارزميات، نحتاج إلى النظر في التأثير على جميع الأفراد، والتصدي الفعال للتأثيرات المؤذية لهذه التقنيات التي تحدث على أرض الواقع.