نيوزيلندا الدولة الأولى في العالم التي تضع ميثاقاً لضمان شفافية الاستخدام الحكومي للخوارزميات

مع تكثيف الحكومات لجهودها الرامية إلى تحقيق التحول الرقمي، يتزايد اعتماد صناع القرار على الخوارزميات في مجال إنفاذ القانون ودراسة طلبات الهجرة والقطاع الصحي والمالي، وغيرها من مناحي الحياة. وقد أثار ذلك الكثير من التساؤلات والانتقادات بشأن العديد من القضايا المرتبطة بعمل ومخرجات هذه الخوارزميات، مثل غموض آلية عملها، والتمييز الخوارزمي، وكيفية ضمان خصوصية بيانات الناس.

وفي خطوة غير مسبوقة، أعلنت الحكومة النيوزيلندية عن "الميثاق الخوارزمي"، الذي يضم مجموعة من المعايير والضوابط للكيفية التي تقوم بها الوكالات الحكومية باستخدام الخوارزميات في عمليات اتخاذ القرار.

تفاصيل ميثاق الاستخدام الحكومي النيوزيلندي للخوارزميات

تم إطلاق الميثاق في أواخر شهر يوليو الماضي، وقد وقعت عليه أكثر من 20 وكالة حكومية، من بينها: وزارة التعليم، ووزارة البيئة، ووزارة الإسكان والتنمية الحضرية، ووزارة العدل، ووزارة التنمية الاجتماعية، ووزارة النقل، ووزارة الخارجية، ووزارة الصحة، وغيرها.

ووفقاً للميثاق، تتعهد الجهات الموقِّعة عليه بالشفافية أمام الجمهور حول الكيفية التي تقود فيها الخوارزميات عملية اتخاذ القرار لديها؛ إذ تلتزم هذه الجهات بتقديم شرح بالإنجليزية الواضحة حول كيفية عمل الخوارزميات. كما تتعهد بإتاحة المعلومات حول كيفية جمع وتأمين وتخزين البيانات (إلا في حال كان ذلك ممنوعاً لأسباب تتعلق بالأمن القومي)، وتحديد مواطن التحيز الخوارزمي والعمل على معالجتها.

وتقول الحكومة النيوزيلندية في إعلان الميثاق إنها تهدف من خلاله إلى ضمان ثقة المواطنين بالاستخدام الحكومي للخوارزميات، وتضيف إنه يمثل أحد السبل لتوفير الشفافية والمساءلة في استخدام البيانات، بما يقلل من التحيز غير المقصود، ويحقق توازناً بين الاستفادة من الإمكانات الخوارزمية في تقديم خدمات أفضل للمواطنين من جهة، والحفاظ على ثقة الجمهور في الاستخدام الحكومي للخوارزميات من جهة أخرى.

ومن خلال الميثاق، تضع الحكومة النيوزيلندية أسساً لتوجيه وكالاتها حول كيفية تطبيق الخوارزميات بطريقة موثوقة، كما تضع بعين الاعتبار كلاً من عوامل الشفافية وحقوق الإنسان وخصوصية البيانات وأخلاقيات الاستخدام.

مصفوفة المخاطر

تقرُّ الحكومة النيوزيلندية أن من المستحيل تطبيق الميثاق في جميع عمليات الوكالات الحكومية، لكنها تشير إلى أهمية الالتزام به عندما يكون لمخرجات الخوارزمية تأثير كبير على حياة الناس، أو في حالة وجود احتمال كبير لتضرر الناس جراء التأثيرات غير المقصودة للخوارزمية.

ولهذه الغاية، يلتزم الموقِّعون بإجراء تقييم للقرارات المبنية على الخوارزميات باستخدام مصفوفة المخاطر الموضَّحة أدناه، التي تتيح تكميم احتمال الحصول على خَرج مؤذٍ غير مقصود في مقابل الدرجة النسبية لتأثيره على حياة الناس.

وبناءّ على تصنيف مصفوفة المخاطر، يتم تحديد أهمية تطبيق الميثاق من عدمه.

الأنظمة الخوارزمية قيد التدقيق... والانتقاد

أثبتت العديد من الدراسات وجود التحيز والعنصرية في الأنظمة الخوارزمية. وفي مطلع أغسطس، أعلنت المملكة المتحدة التخلي عن خوارزمية الهجرة بعدما تعرضت لانتقادات واتهامات بالتحيز العنصري، كما توصل تحقيق أجرته إم آي تكنولوجي ريفيو مؤخراً حول استخدام خوارزميات التعرف على الوجوه في الشرطة الأميركية إلى أن هذه الخوارزميات غير جديرة بالثقة. وأشارت تحقيقات مؤخراً إلى وجود تحيز على أساس الجنس في خوارزميات الإقراض الائتماني.

ورغم أن الميثاق النيوزيلندي لا يتمتع بأية سلطة ملزِمة حالياً، لكنه يمثل خطوة مهمة نحو تنظيم الاستخدام الحكومي للخوارزميات وجعله أكثر شفافية أمام المواطنين. وتأمل نيوزيلندا أن تشكل نموذجاً للحكومات الأخرى من خلال إثبات أهمية توفير الشفافية حول الخوارزميات التي تؤثر على الحياة اليومية للمواطنين.