هل يمكن أن تصبح أدوات التعرف على الوجوه متحيزة؟

أصدر "الاتحاد الأميركي للحريات المدنية" (ACLU)، مؤخراً، تقريراً يكشف أن أداة التعرف على الوجوه من شركة "أمازون" والمعروفة باسم "ريكوجنيشن" (Rekognition)، أخطأت في تمييز وجه 28 عضواً من "الكونغرس" وحددتهم على أنهم مجرمون. فماذا عن تحيز أدوات التعرف على الوجوه؟

اشترى أعضاء من الاتحاد أداة "ريكوجنيشن" التي تعرضها "أمازون" للعامة وأدخلوا صوراً عامة لجميع أعضاء مجلسي "النواب" و"الشيوخ"، لفحصها في قاعدة بيانات النظام التي تشمل 25 ألف صورة لأشخاص معتقلين ارتكبوا جرائم. كلفت هذه التجربة بأكملها 12.33 دولاراً أميركياً فقط، وهو المبلغ الذي وصفه جيك سنو، محامي الاتحاد، في تدوينة نشرها أنه "أقل من سعر قطعة بيتزا كبيرة الحجم".

الخطأ الذي وقعت به أداة "ريكوجنيشن" (Rekognition)

بلغت نسبة الممثلين غير البيض من بين النواب الذين أخطأ النظام في التعرف عليهم 40%، على الرغم من أنهم لا يمثلون سوى 20% من أعضاء "الكونغرس". ومن بينهم 6 أعضاء من كتلة "النواب السود بالكونغرس" (Congressional Black Caucus)، وهم جون لويس، نائب جورجيا، وبوبي راش، نائب إلينوي. ويقول سنو في تدوينته: "توضح هذه النتائج لماذا يتعين على "الكونغرس" الانضمام إلى "الاتحاد الأميركي للحريات المدنية" في المطالبة بوقف استخدام أنظمة مراقبة الوجوه في جهات إنفاذ القانون". ومن المعروف عن أنظمة التعرف على الوجوه أنها تخطئ في التعرف على النساء والأشخاص ذوي البشرة الداكنة. وعلى الرغم من أن بعض الشركات التي تنتج هذه البرامج حاولت الاستجابة لهذه المسألة من خلال إجراء اختبارات لقياس التحيز العام فيها، فقد تجاهلت "أمازون" نشر أي بيانات في هذا الصدد.

صرّح فرانك لوبيوندو، ممثل نيوجيرسي، وأحد نواب المجلس الذين أخطأت الأداة في التعرف عليهم، لمجلة "سليت" (Slate): "لم يبد أمراً لطيفاً أبداً" ورفض التعليق بأكثر من ذلك. وأصدر لويس غوتيريز، ممثل إلينوي، الذي أخطأت الأداة في التعرف عليه كذلك بياناً أطول قال فيه:

"هل أنتم متأكدون أن "أمازون" لا تخاطب سوى دونالد ترامب، وتاكر كارلسون وبريتبارت؟ لأنهم يعتقدون أن جميع اللاتينيين مجرمون".

ولكن في إشارة أكثر جدية، قال:

"إذا لم تثبت فعالية هذه التقنية وثبت وجود تحيز منهجي ضد أصحاب البشرة الملونة، فسوف تكون مصدراً للأذى ولن تساعد جهات تطبيق القانون أو أي مستخدم آخر. وعليّ أن أقر بأنني لست متفاجئاً. نعم، أنا محبط ولكنني لست متفاجئاً".

كما قال راؤول جريجالفا، ممثل أريزونا، أحد النواب الذين أخطأت الأداة في التعرف عليهم أيضاً، لمجلة "سليت":

"إذا فشل برنامج التعرف على الوجوه في تحديد 28 شخصية عامة بشكل صحيح، فكيف نتوقع منه التعرف بدقة على ملايين الأميركيين؟ لدي مخاوف جادة تتعلق بالخصوصية والسلامة العامة لأن هذه الأداة بدأ بالفعل تسويقها لدوائر الشرطة في أنحاء البلاد دون وجود مدخلات عامة أو تحليلات تفصيلية لآثارها السلبية. نحن بحاجة إلى معرفة المزيد من المعلومات حول هذه التقنية قبل أن نقدم لجهات إنفاذ القانون أداة يمكن استخدامها لترهيب المهاجرين وتسهيل التعاملات السلبية للشرطة وتقويض وسائل حماية الخصوصية المهمة".

وانتهت الشرطة في مدينة أورلاندو بولاية فلوريدا الشهر الماضي من برنامجها التجريبي، الذي يعتمد على أداة "ريكوجنيشن"، إذ اختبرت دائرة الشرطة البرنامج لتحديد ما إذا كان بإمكانه التعرف على أفراد شرطة يظهرون في بث فيديو مباشر عبر 8 كاميرات مراقبة. واستخدمت الشرطة في ولاية ميريلاند مؤخراً أداة أخرى مشابهة للتعرف على هوية الشخص الذي أطلق النار على مقر صحيفة "كابيتال غازيت" (Capital Gazette) في يونيو/حزيران الماضي. ويستخدم أحد مكاتب مأموري الشرطة في ولاية أوريغون برنامجاً مشابهاً كذلك للتعرف على المشتبه بهم منذ عام تقريباً.

وأعرب ناشطون وأعضاء في "الكونغرس" وحتى موظفون لدى شركة "أمازون" عن مخاوفهم المتعلقة بالخصوصية والتمييز العنصري جراء استخدام هذه البرامج. وفي مايو/أيار أرسلت أكثر من 40 جماعة حقوق مدنية خطاباً إلى جيف بيزوس، الرئيس التنفيذي لشركة "أمازون"، طالبوا فيه بوقف عرض أداة "ريكوجنيشن' على الحكومات، معللين ذلك بأنه "من حق الناس التمتع بحرية السير في الشوارع دون مراقبة من الحكومة".

تطوير برامج التعرف على الوجوه

وفي الوقت ذاته تقريباً، أرسلت "كتلة النواب السود بالكونغرس" خطاباً إلى شركة "أمازون" حثّت فيه على توخي الحذر في تطوير البرنامج قائلين: "إننا نشعر بالقلق بشأن الآثار السلبية الخطيرة غير المتعمدة التي يسببها هذا النوع من الذكاء الاصطناعي على الأميركيين ذوي الأصل الأفريقي والمهاجرين غير الموثقين والمتظاهرين". وبعد ذلك، وقّع مؤخراً أكثر من 100 موظف في شركة "أمازون" خطاباً طالبوا فيه بيزوس بوقف بيع أداة "ريكوجنيشن" إلى جهات إنفاذ القانون، والذي ورد فيه: "سوف تصبح هذه الأداة أداةً قوية إضافية لمراقبة المواطنين في الدولة، الأمر الذي يؤدي في نهاية المطاف إلى إيذاء الفئات الأكثر تهميشاً وضعفاً".

وأصدرت "أمازون" بياناً لموقع "بيزنس إنسايدر" (Business Insider)، تجادل فيه بشأن إعدادات الدقة التي استخدمها الاتحاد الأميركي للحريات المدنية خلال الاختبار الذي أجراه:

"لقد رأينا عملاء يستخدمون ميزات تحليل الصور ومقاطع الفيديو التي تقدمها أداة "ريكوجنيشن" من "أمازون" بطريقة تعود بفائدة جوهرية على كل من المجتمع (على سبيل المثال، التصدي للمتاجرة بالبشر، وإعادة الأطفال المفقودين إلى ذويهم، وإنشاء تطبيقات تعليمية للأطفال) والمؤسسات (تعزيز الجوانب الأمنية من خلال توثيق الهوية متعدد العوامل، أو إيجاد الصور بطريقة أسهل، أو منع سرقة الطرود البريدية).

وفي نهاية الحديث عن تحيز أدوات التعرف على الوجوه، لا نزال متحمسين للفائدة التي يمكن أن يقدمها تحليل الصور ومقاطع الفيديو في العالم، بما في ذلك القطاع العام وجهات إنفاذ القانون. وفيما يتعلق بالاختبار الذي أجراه الاتحاد الأميركي للحريات المدنية مؤخراً على أداة أمازون "ريكوجنيشن"، فإننا نرى أنه كان يمكن الحصول على نتائج أفضل من خلال اتباع أفضل الممارسات المتعلقة بإعدادات الدقة (وهي النسبة المئوية لاحتمالية عثور الأداة على تطابق) المستخدمة في الاختبار. وبينما تعتبر نسبة 80% مقبولة للتعرف على صور النقانق أو المقاعد أو الحيوانات أو غيرها من استخدامات وسائل التواصل الاجتماعي، إلا أنها لا تعتبر مناسبة للتعرف على أفراد ذوي قدر غير كبير من التيقن. ونحن نوصي عملاءنا بضبط الدقة بنسبة 95% على الأقل عند استخدام نظام التعرف على الوجوه في أنشطة إنفاذ القانون".