كيف تساعد مكافآت الذكاء الاصطناعي في الكشف عن الخوارزميات المتحيزة بشكل أسرع؟

يتم توظيف أنظمة الذكاء الاصطناعي طوال الوقت، ولكن قد يستغرق الأمر شهوراً أو حتى سنوات حتى يتضح مدى تحيز هذه الأنظمة وكيفية حدوثه.

غالباً ما تكون المخاطر كبيرة جداً: يمكن أن تتسبب أنظمة الذكاء الاصطناعي المتحيزة في اعتقال الأبرياء، كما يمكنها حرمان الأشخاص من السكن والوظائف والخدمات الأساسية.  

مسابقة مكافآت الذكاء الاصطناعي

تطلق اليوم مجموعة من خبراء الذكاء الاصطناعي والتعلم الآلي مسابقة جديدة لمكافآت التحيز، ويأمل هؤلاء الخبراء أن تسرّع هذه المسابقة عملية الكشف عن هذه الأنواع من التحيز الكامن.

تدعو المسابقة، المستوحاة من مكافآت الأخطاء في الأمن السيبراني، المشاركين إلى إنشاء أدوات لتحديد التحيزات الخوارزمية في نماذج الذكاء الاصطناعي والعمل على تقليصها.

يتم تنظيم المسابقة من قبل مجموعة من المتطوعين الذين يعملون في شركات مثل تويتر وشركة البرمجيات سبلانك (Splunk) وشركة رياليتي ديفيندر (Reality Defender) الناشئة لاكتشاف التزييف العميق. وقد أطلقوا على أنفسهم لقب "قراصنة التحيز".

ستقوم مسابقة مكافأة التحيز الأولى بالتركيز على الكشف عن الصور المتحيزة، لأنها مشكلة شائعة. فعلى سبيل المثال، أخطأت أنظمة الكشف عن الصور المغلوطة سابقاً في تحديد ذوي البشرة السمراء على أنهم غوريلا.

سيواجه المنافسون تحدياً لبناء نموذج للتعلم الآلي يصنّف كل صورة بلون بشرتها، والهوية الجنسية، والفئة العمرية، ما يسهّل عمليات قياس التحيزات في مجموعات البيانات واكتشافها. سيتم منح هؤلاء المتنافسين إمكانية الوصول إلى مجموعة بيانات مؤلفة من نحو 15.000 صورة لوجوه بشرية تم إنشاؤها صناعياً. يتم تصنيف المشاركين على أساس مدى دقة وضع العلامات على الصور في نماذجهم والمدة التي يستغرقها تشغيل الكود، وغيرها من المقاييس. تنتهي المسابقة في 30 نوفمبر/ تشرين الثاني.

خصصت شركة مايكروسوفت وشركة روبوست إنتيليجنس (Robust Intelligence) الناشئة جوائز مالية بقيمة 6000 دولار للفائز، و4000 دولار للوصيف، و2000 دولار لصاحب المركز الثالث. وساهمت شركة أمازون بمبلغ 5000 دولار لأول مجموعة من المتسابقين في مجال القدرة الحاسوبية.

تدقيق الذكاء الاصطناعي

تعد المسابقة أفضل مثال على الصناعة الناشئة التي ظهرت في الذكاء الاصطناعي، وهي تدقيق تحيز الخوارزميات. وقد أطلقت منصة تويتر أول مكافأة تحيز للذكاء الاصطناعي العام الماضي، كما اختتمت جامعة ستانفورد للتو أول تحدٍ لتدقيق الذكاء الاصطناعي. وفي الوقت نفسه، تعمل شركة موزيلا (Mozilla) غير الربحية على إنشاء أدوات لمدققي الذكاء الاصطناعي. 

ومن المرجح أن تصبح عمليات التدقيق هذه أكثر شيوعاً. وقد أشاد المنظمون وخبراء أخلاقيات الذكاء الاصطناعي بهذه الأدوات كطريقة جيدة لمساءلة أنظمة الذكاء الاصطناعي، كما ستصبح هذه الأدوات مطلباً قانونياً في بعض الاختصاصات القضائية.

يتضمن قانون الاتحاد الأوروبي الجديد للإشراف على المحتوى، الذي يُطلق عليه قانون الخدمات الرقمية، متطلبات تدقيق سنوية للبيانات والخوارزميات التي تستخدمها منصات التكنولوجيا الكبيرة، وقد يسمح قانون الذكاء الاصطناعي الأوروبي الجديد للسلطات بمراجعة أنظمة الذكاء الاصطناعي. كما يوصي المعهد الوطني الأميركي للمعايير والتكنولوجيا أيضاً بإجراء عمليات تدقيق الذكاء الاصطناعي كمعيارٍ ذهبي. يقول الزميل والباحث، أليكس إنغلر، الذي يدرس حوكمة الذكاء الاصطناعي في مركز الأبحاث التابع لمعهد بروكينغز: تتمثل الفكرة في أن إجراءات التدقيق هذه ستعمل بنفس الطريقة التي تعمل بها عمليات الفحص والمعاينة التي نراها في القطاعات الأخرى شديدة الخطورة، مثل مصانع الكيماويات.

اقرأ أيضاً: كيف يتحيز الذكاء الاصطناعي ولماذا يصعب إصلاحه؟

وتقول الباحثة المتخصصة في مساءلة الذكاء الاصطناعي، ديبورا راجي، والمؤلفون المشاركون معها في ورقة بحثية في يونيو/ حزيران الماضي: تكمن المشكلة في عدم وجود عدد كافٍ من المتعاقدين المستقلين لتلبية الطلبات القادمة على عمليات تدقيق الخوارزميات، كما أن الشركات مترددة في السماح لهذه العمليات بالوصول إلى أنظمتها.

وهو ما تريد هذه المسابقات تنميته. يتمثل الأمل في مجتمع الذكاء الاصطناعي في قيادة المزيد من المهندسين والباحثين والخبراء لتطوير المهارات والخبرات اللازمة لتنفيذ عمليات التدقيق هذه.

تقتصر عمليات التدقيق المحدودة في عالم الذكاء الاصطناعي حتى الآن على ما يقوم به الأكاديميون أو شركات التكنولوجيا نفسها. إن الهدف من مثل هذه المسابقات هو إنشاء قطاع جديد من الخبراء المتخصصين في تدقيق الذكاء الاصطناعي.

تقول مديرة فريق تويتر للأخلاقيات والشفافية والمساءلة في التعلم الآلي، ورئيسة فريق قراصنة التحيز، رومان تشاودري: "نحاول خلق مساحة للأشخاص المهتمين بهذا النوع من الأعمال، سواء كانوا مبتدئين أو خبراء لا يعملون في شركات التكنولوجيا أو قراصنة وعلماء بيانات يرغبون في تعلم مهارة جديدة".

يأمل الفريق المسؤول عن مسابقة جوائز قراصنة التحيز أن تكون هذه المسابقة الأولى في سلسلة لاحقة من المسابقات.

اقرأ أيضاً: التحيز في أنظمة الذكاء الاصطناعي: كيف يمكن للآلة أن تكون متحيزة؟

تقول مديرة مختبر كوهير (Cohere) غير الربحي لأبحاث الذكاء الاصطناعي، سارة هوكر: لا تخلق مثل هذه المسابقات محفزات لمجتمع التعلم الآلي لإجراء عمليات التدقيق فحسب، بل تعمل أيضاً على تعزيز الفهم المشترك حول "أفضل السبل للتدقيق وأنواع عمليات التدقيق التي يجب أن نستثمر فيها".

ويقول مؤسس معهد مونتريال لأخلاقيات الذكاء الاصطناعي، أبهيشيك غوبتا، الذي كان أحد أعضاء لجنة التحكيم في مسابقة تدقيق الذكاء الاصطناعي في جامعة ستانفورد، إن هذا الجهد "رائع ومطلوب بشدة".

ويتابع: "كلما زادت عمليات مراقبة النظام، زادت احتمالية العثور على أخطاء".