هل تميّز خوارزميات الإعانة الحكومية ضد الأشخاص الذين يحتاجون إلى الإعانة فعلاً؟

"تكافل": خوارزمية كلف تطويرها مليار دولار

يصنّف هذا النظام الخوارزمي، الذي يحمل اسم تكافل، العائلات التي تقدمت للحصول على المساعدة من الأقل فقراً إلى الأفقر بتطبيق طريقة حسابية غير مصرّح بها تقيّم أهمية 57 مؤشراً اجتماعياً واقتصادياً. مع ذلك، يقول مقدمو الطلبات إن هذه الطريقة الحسابية لا تعبّر عن الواقع كما يجب؛ إذ إنها تبالغ في تبسيط الوضع الاقتصادي للناس على نحو غير دقيق أو غير عادل أحياناً. كلّف تطوير خوارزمية تكافل أكثر من مليار دولار، ويموّل البنك الدولي مشاريع مماثلة في 8 دول أخرى في الشرق الأوسط وإفريقيا. 

كشفت منظمة هيومان رايتس ووتش عن عدة مشكلات أساسية يعانيها هذا النظام الخوارزمي أدت إلى نتائج متحيّزة وغير دقيقة. على سبيل المثال، يُسأل المتقدّمون عن كمية المياه والطاقة الكهربائية التي يستهلكونها باعتبارها من المؤشرات التي تؤخذ في الاعتبار في نظام التصنيف. استنتج مؤلفو التقرير الجديد أن هذه المؤشرات ليست مؤشرات موثوقة للفقر بالضرورة. يعتقد أفراد بعض العائلات التي قابلتها هيومان رايتس ووتش أن حقيقة امتلاك سيارة أثرت في تصنيفهم، حتى لو كانت السيارة قديمة وضرورية للانتقال من المنزل إلى مكان العمل. 

قال مؤلفو التقرير: "تخفي هذه الموضوعية الإحصائية الظاهريّة حقيقة أعقد، وهي أن الضغوط الاقتصادية التي يعانيها البشر والطرق التي يعانون فيها كانت غير مرئية بالنسبة للخوارزمية غالباً.

اقرأ أيضاً: دراسة صادمة: الناس يفضلون الخوارزميات على البشر لاتخاذ القرارات بشأن حياتهم

الضغوط على البشر غير مرئية للخوارزميات

وفقاً للتقرير، قال عبد الحمد، وهو أب لطفلين يتقاضى 250 ديناراً أردنياً (353 دولاراً أميركياً) شهرياً ويواجه صعوبة في تغطية نفقاته: "لا تعكس الأسئلة المطروحة الواقع الذي نعيشه".

تعزّز خوارزمية تكافل أيضاً التمييز على أساس الجنس القائم مسبّقاً لأنها مبنية على القوانين المتحيّزة جنسياً. تُقدَّم المساعدة المالية للمواطنين الأردنيين فقط، وحجم الأسرة هو من المؤشرات التي تأخذها الخوارزمية في الاعتبار. في حين أن الرجال الأردنيين الذين يتزوجون النساء غير الأردنيّات يمكنهم نقل الجنسية إلى زوجاتهم، لا تستطيع النساء الأردنيات نقل الجنسية إلى الرجال غير الأردنيين. يؤدي ذلك إلى انخفاض حجم الأسرة بالنسبة للنساء الأردنيات، ما يجعلهن أقل عرضة لتلقّي المساعدة.

استند التقرير الجديد إلى 70 مقابلة أجرتها منظمة هيومان رايتس ووتش على مدار عامي 2021 و2022، ولكنه لا يعد تقييماً كمياً لأن البنك الدولي والحكومة الأردنية لم يفصحا علناً عن المؤشرات البالغ عددها 57 مؤشراً أو البيانات الشاملة حول القرارات المعتمدة على الخوارزمية، ولم يشرحا طريقة تقييم المؤشرات بالتفصيل. لم يستجب البنك الدولي بعد على طلب موقع إم آي تي تكنولوجي ريفيو للتعليق على الموضوع. 

اقرأ أيضاً: نيوزيلندا الدولة الأولى في العالم التي تضع ميثاقاً لضمان شفافية الاستخدام الحكومي للخوارزميات

هل من الجيد استخدام الخوارزميات في أنظمة الإعانة الاجتماعية؟

يقول الباحث في مجال الذكاء الاصطناعي وحقوق الإنسان في منظمة هيومان رايتس ووتش وأحد مؤلفي التقرير الجديد، أموس تو، إن نتائج التقرير تسلّط الضوء على ضرورة تعزيز الشفافية في البرامج الحكومية التي تُستخدم فيها الخوارزميات في عملية صناعة القرار. أعرب العديد من أفراد العائلات التي قابلتها المنظمة عن عدم ثقتهم بمنهجية التصنيف وعن أنها مربكة. يقول تو: "تقع مسؤولية الالتزام بالشفافية على عاتق الحكومة الأردنية". 

يدعو الباحثون في مجال أخلاقيات الذكاء الاصطناعي والإنصاف إلى التدقيق أكثر على الاستخدام المتزايد للخوارزميات في أنظمة الإعانة الاجتماعية. تقول الأستاذة في جامعة نيويورك ومؤلفة كتاب "أكثر من خلل: مواجهة التحيّزات العرقية والجنسية والمتعلقة بالقدرات في مجال التكنولوجيا" (More Than a Glitch: Confronting Race, Gender, and Ability Bias in Tech)، ميريديث بروسارد: "ما يحدث دائماً عندما نصمم خوارزميات لهذا الغرض بالذات، وهو الإشراف على حصول البشر على موارد محددة، هو استبعاد الأشخاص الذين يحتاجون إلى المساعدة.  يبدو أن هذا مثال آخر على التصميم السيئ الذي يحد في نهاية المطاف من وصول الأموال إلى الأشخاص الذين هم في أمسّ الحاجة إليها". 

موّل البنك الدولي هذا البرنامج الذي يديره صندوق المعونة الوطنية الأردني، وهو وكالة حماية اجتماعية تابعة للحكومة الأردنية. رداً على التقرير، صرّح مسؤولون في البنك الدولي بأن البنك يخطط لنشر معلومات إضافية حول برنامج تكافل في يوليو/ تموز 2023، وأكّدوا "التزامه بالمضي قُدماً في تنفيذ مشاريع الحماية الاجتماعية الشاملة وضمان توفير الحماية الاجتماعية للجميع".

اقرأ أيضاً: هل يساعد ناشرو المواد العلمية على استمرار عمل الخوارزميات العنصرية؟

شجع البنك الدولي على استخدام تكنولوجيا البيانات في برامج التحويلات النقدية مثل تكافل، وصرّح بأنه يدعم المبادئ مثل الفعالية من حيث التكلفة وزيادة الإنصاف في التوزيع. استخدمت الحكومات المختلفة أيضاً أنظمة تعمل بالذكاء الاصطناعي للحماية من الاحتيال في مجال الإعانة الاجتماعية. كشف تحقيق أجري في مايو/ أيار 2023 على خوارزمية تستخدمها الحكومة الهولندية لتحديد طلبات الإعانة التي يُرجح أن تكون احتياليّة عن وجود تمييز منهجي على أساس العِرق والجنس.