عندما شرعت المملكة المتحدة لأول مرة في البحث عن بديل لامتحانات إتمام الدراسة، بدت الفكرة منطقية تماماً؛ إذ كانت جائحة كوفيد-19 قد قضت على فرصة الطلاب في إجراء الامتحانات بشكل شخصي، إلا أن الحكومة كانت لا تزال تريد إيجاد وسيلة لتقييمهم من أجل اتخاذ القرارات الخاصة بالقبول الجامعي.
وكان من أهم شواغلها مسألة الإنصاف، حيث كان المعلمون قد وضعوا بالفعل توقعات بشأن الدرجات التي سيحصل عليها طلابهم في الامتحانات، إلا أن الدراسات السابقة أظهرت أن هذه الدرجات قد تكون متحيزة على أساس العمر والجنس والعرق. وبعد عقد سلسلة من الاجتماعات والمشاورات بين الخبراء، لجأت هيئة شؤون المؤهلات وتنظيم الامتحانات (أفكوال) إلى استخدام خوارزمية. ومنذ ذلك الحين، سارت الأمور بشكل خاطئ تماماً.
انتهى الأمر بحصول ما يقرب من 40% من الطلاب على درجات مُخفضة عن توقعات معلميهم، الأمر الذي هدَّدهم بخسارة مقاعدهم الجامعية. كما كشف تحليل للخوارزمية أنها أضرت على نحو غير متناسب بالطلاب المنتمين للطبقة العاملة والمجتمعات المحرومة، ورفعت درجات طلاب المدارس الخاصة. وفي 16 أغسطس، ردد المئات هتاف "اللعنة على الخوارزمية" أمام مبنى وزارة التعليم البريطانية في لندن احتجاجاً على النتائج. وبحلول اليوم التالي، كانت (أفكوال) قد تراجعت عن قرارها، وسيحصل الطلاب الآن على الدرجة الأعلى من بين الدرجات التي توقعها معلموهم والدرجات التي منحتها لهم الخوارزمية.
تبدو هذه الكارثة كمثال نموذجي على التحيز الخوارزمي. وقد أشار أولئك الذين قاموا منذ ذلك الحين بتحليل الخوارزمية إلى أنه كان من السهل التنبؤ بأن الأمور ستنحرف عن مسارها؛ إذ لم يتم تدريب الخوارزمية على الأداء الأكاديمي السابق لكل طالب فقط، وإنما تم تدريبها أيضاً -بشكل جزئي- على الأداء الذي حققته مدرسة الطالب في امتحان القبول السابق. ولا يمكن لهذا النهج أن يؤدي إلا إلى معاقبة المتفوقين الاستثنائيين لصالح المعدل المنتظم.
بيد أن جذور المشكلة تمتد إلى ما هو أعمق من البيانات السيئة أو التصميم الخوارزمي الرديء؛ فالأخطاء الجوهرية كانت قد وقعت قبل حتى أن تختار (أفكوال) تبنّي الخوارزمية. وفي نهاية المطاف، غفلت الهيئة المُنظمة عن الهدف المنشود: مساعدة الطلاب على الانتقال إلى الجامعة خلال هذه الأوقات المفعمة بالقلق. وفي هذا الوضع غير المسبوق، كان ينبغي إعادة النظر في نظام الامتحانات بالكامل.
وتقول هاي جونج هان، الباحثة في منظمة هيومن رايتس ووتش بالولايات المتحدة، والتي تركز على حقوق الطفل والتكنولوجيا: "كان هناك قصور هائل في القدرة على التصور، فهم لم يشككوا في الفكرة الأساسية التي تستند إليها العديد من عملياتهم حتى عندما كان يتوجب عليهم ذلك".
على المستوى الأساسي، كان أمام (أفكوال) هدفين محتملين بعد إلغاء الامتحانات، أولهما هو تجنب تضخم التقديرات والتوحيد القياسي للدرجات، والآخر هو تقييم الطلاب بأكبر قدر ممكن من الدقة على نحو يفيد عند القبول بالجامعات. وبموجب توجيهات وزير التعليم، منحت الهيئةُ الأولويةَ للهدف الأول. وتقول هانا فراي، المحاضرة في كلية لندن الجامعية ومؤلفة كتاب (مرحباً أيها العالم: كيف تكون إنساناً في عصر الآلة): "أعتقد أن هذه هي اللحظة التي وقعت فيها المشكلة حقاً، فقد كانوا يتطلعون لتحسين الشيء الخطأ. وبالتالي لا تهم ماهية هذه الخوارزمية أساساً، فما كانت لتصبح مثالية أبداً".
"كان هناك قصور هائل في القدرة على التصور".
- هاي جونج هان
حدد الهدف تماماً ملامح الطريقة التي اتبعتها (أفكوال) لحل المشكلة؛ حيث حجبت الحاجةُ إلى التوحيد القياسي كلَّ شيء آخر. وبالتالي كان من المنطقي أن تختار الهيئة المُنظمة إحدى أفضل أدوات التوحيد القياسي -وهو النموذج الإحصائي- للتنبؤ بتوزيع درجات امتحانات القبول لعام 2020 على نحو يضاهي توزيع الدرجات عام 2019.
ولو كانت (أفكوال) اختارت الهدف الآخر، لكانت الأمور قد سارت على نحو مختلف تماماً، ولكان من المرجح أن تستغني عن الخوارزمية وأن تعمل مع الجامعات على تغيير الكيفية التي تُسهم بها درجات الامتحان في عمليات الالتحاق بها. وتقول هان "إذا نظروا فقط على بُعد خطوة واحدة من مشكلتهم المباشرة، ونظروا إلى الغرض من الدرجات -الذهاب إلى الجامعة للتمكن من الحصول على وظائف- لكان بإمكانهم العمل بمرونة مع الجامعات وأماكن العمل، ولقالوا: مرحباً، درجات هذا العام ستبدو مختلفة، ما يعني أن أي قرارات هامة كانت تُتخذ عادة بناءً على الدرجات تحتاج أيضاً إلى المرونة والتغيير".
وبتركيزها على الإنصاف المتصور الذي يحققه الحل الخوارزمي، أعمت (أفكوال) نفسها عن رؤية أوجه عدم المساواة الصارخة التي يعاني منها النظام برمته. وتقول هان إن "ثمة ظلم متأصل في تحديد مشكلة توقع درجات الطلاب، كما لو أن الجائحة لم تحدث"، مضيفة: "في الواقع، إنها تتجاهل ما نعرفه بالفعل، وهو أن الجائحة كشفت كل هذه الفجوات الرقمية في المنظومة التعليمية".
إن إخفاقات (أفكوال) ليست فريدة من نوعها؛ ففي تقرير نشره معهد أكسفورد للإنترنت، الأسبوع الماضي، وجد الباحثون أن واحدة من أكثر الفخاخ الشائعة التي تقع فيها المؤسسات عند تطبيق الخوارزميات هي الاعتقاد بأنها ستعالج القضايا الهيكلية بالغة التعقيد. وتقول جينا نيف، الأستاذة المساعدة في المعهد والتي شاركت في صياغة التقرير، إن هذه المشروعات "تصلح للتفكير السحري الذي يعتقد أن الخوارزمية ستمحو بطريقة ما -وبكل بساطة- أي تحيز يمارسه المعلم، وستمحو أي محاولة للغش أو التلاعب بالنظام".
"أعتقد أنها المرة الأولى التي تشعر فيها أمة بأكملها في آن واحد بالظلم الذي تسببت فيه الخوارزمية".
- هانا فراي
لكن الحقيقة هي أن الخوارزميات لا يمكنها إصلاح الأنظمة المعطوبة؛ إذ إنها ترث عيوب الأنظمة التي تُستخدم فيها. وفي هذه القضية، تحمّل الطلاب ومستقبلهم وطأة الضرر في نهاية المطاف. وتقول فراي: "أعتقد أنها المرة الأولى التي تشعر فيها أمة بأكملها في آن واحد بالظلم الذي تسببت فيه الخوارزمية".
وتخشى كل من فراي ونيف وهان من أن هذا الأمر لن يُمثل نهاية للهفوات الخوارزمية؛ فبالرغم من الوعي العام الجديد بهذه المشكلات، إلا أن تصميم وتطبيق خوارزميات منصفة ومفيدة هو أمر صعب للغاية.
ومع ذلك، فإنهم يحثون المؤسسات على تحقيق أقصى استفادة من الدروس المستخلصة من هذه التجربة. أولاً، عُد إلى الهدف وفكر بشكل نقدي فيما إذا كان هو الهدف الصحيح. ثانياً، قيّم القضايا الهيكلية التي تحتاج إلى معالجتها لتحقيق هذا الهدف. (تقول نيف: "عندما ألغت الحكومة الامتحانات في شهر مارس، كان ينبغي أن تكون هذه إشارة للخروج بإستراتيجية أخرى تسمح بأن تكون بيئة صناع القرار أكثر تنوعاً بكثير، حتى يتسنى تقييم أداء الطلاب بشكل منصف").
وأخيراً، اختر حلاً يسهل فهمه وتنفيذه ومتابعته، خاصة في أوقات عدم اليقين. وترى فراي أنه في قضيتنا هذه سيعني ذلك التخلي عن الخوارزمية لصالح الدرجات التي توقعها المعلم، مضيفة: "أنا لا أقول إن هذا الأمر مثالي، لكنه على الأقل نظام بسيط ويتسم بالشفافية".