المملكة المتحدة تتخلى عن خوارزمية الهجرة بعد اتهامها بالتحيز العنصري

الخبر

أعلنت وزارة الداخلية البريطانية أنها ستتوقف عن استخدام خوارزمية لمعالجة طلبات الحصول على التأشيرة، وذلك بعدما تعرضت لانتقادات بأنها متحيزة عنصرياً. ويرى المنتقدون أن استخدام الخوارزمية لجنسية مقدم الطلب لتحديد أي طلبات سيتم تسريع البت فيها أدى إلى إنشاء نظام "يتمكن من خلاله الأشخاص ذوي البشرة البيضاء القادمين من البلدان الغنية من ‘التقدم السريع’؛ بينما يتراجع الأشخاص الملونون الأكثر فقراً إلى ذيل القائمة".

حان الوقت لإعادة التصميم

تنفي وزارة الداخلية تهمة التحيز العنصري عن نظامها، ولا تزال الدعوى القضائية مستمرة. ومع ذلك، فقد وافقت الوزارة على التخلي عن الخوارزمية، كما تخطط لإصدار نسخة جديدة مُعاد تصميمها في وقت لاحق من هذا العام، بعد إجراء عملية مراجعة كاملة للبحث عن أي تحيز لا واعٍ. وفي غضون ذلك، ستعتمد المملكة المتحدة نظاماً مؤقتاً لا يستخدم الجنسية لفرز الطلبات.

نظام إشارات المرور

تعتمد المملكة المتحدة منذ عام 2015 على تصفية طلبات الحصول على التأشيرة باستخدام نظام إِشارات المرور، الذي يخصص مستوى خطر أحمر أو كهرماني أو أخضر لكل مقدم طلب، حيث كان الأشخاص الحاصلين على مستوى الخطر الأحمر أكثر عرضة للرفض.

اتجاه أوسع

من المعروف أن الخوارزميات ترسخ التحيزات المؤسسية، وخاصة التحيزات العنصرية. ومع ذلك، يجري استخدامها أكثر فأكثر للمساعدة في اتخاذ القرارات الهامة، بدءاً من الفحوصات الائتمانية مروراً بطلبات الحصول على التأشيرة وحتى جلسات الاستماع السابقة للمحاكمة وأعمال الشرطة. وقد اشتكى المنتقدون من أن نظام الهجرة الأمريكي أيضاً متحيز عنصرياً. بيد أن معرفة كيفية عمل هذه الخوارزميات بدقة وكشف النقاب عن تحيزها يُعد أمراً صعباً في معظم الحالات؛ لأن العديد منها برمجيات احتكارية ولا يخضع استخدامها سوى لقدر ضئيل من الرقابة العامة.

لكن الانتقادات آخذة في التزايد. وفي الولايات المتحدة، تقوم بعض أقسام الشرطة بتعليق عمل الخوارزميات التنبؤية المثيرة للجدل، كما توقفت شركات التكنولوجيا عن توفير التقنية المتحيزة المُستخدمة للتعرف على الوجوه. وفي شهر فبراير، قضت محكمة هولندية بعدم قانونية النظام الذي يتنبأ بمدى احتمالية ارتكاب جريمة احتيال على نظام الرعاية الاجتماعية أو احتيالاً ضريبياً؛ لأنه استهدف الأقليات على نحو غير منصف. وإن قرار وزارة الداخلية البريطانية بمراجعة نظامها دون انتظار صدور حكم قانوني قد يشكل علامةً فارقة.