كيف أدى الوباء إلى إصابة الخوارزميات بالارتباك؟

لطالما واجهت الخوارزميات بعض المشكلات في العمل بشكل صحيح، ولهذا ترى الإعلانات تلاحقك على الإنترنت من مكان لآخر حول أشياء اشتريتها من قبل.

ولكن، ومنذ أدى كوفيد إلى تغيير حياتنا، تزايدت أخطاء هذه الخوارزميات، ما أدى إلى إيذاء الملايين من الأميركيين، وتضخيم التفاوتات المالية والصحية التي تعاني منها المجموعات المهمشة. وقد نتج هذا في بعض الأحيان عن أخطاء بشرية في استخدام الخوارزميات. ولكن، وفي أغلب الأحيان، فقد نتج عن تأثير كوفيد على حياتنا بشكل جعل الخوارزميات تعمل بصورة خاطئة.

أداء الخوارزميات

وعلى سبيل المثال، فهناك خوارزمية تعتمد عليها العشرات من المستشفيات في الولايات المتحدة لكشف المرضى المصابين بالإنتانات، وهي إحدى تبعات الالتهابات التي يمكن أن تؤدي إلى الموت. وقد كان يُفترض بهذه الخوارزمية أن تساعد الأطباء على تسريع النقل إلى وحدة العناية الفائقة. ولكن، وبحلول ربيع العام 2020، حدث تغير في طبيعة المرضى المقبلين على المستشفيات بسبب كوفيد. فقد أدى الوباء إلى تغيير شامل في العديد من المعاملات التي تعتمد عليها الخوارزمية، مثل مستويات الأكسجة والعمر والاعتلالات المشتركة. ولهذا، لم تستطع الخوارزمية القيام بعمل فعال في التمييز بين المرضى الأفضل حالاً والمصابين بشدة، ما أدى بها إلى توصيف ضعف عدد المرضى على أنهم "مصابون بشدة"، على الرغم من أن سعة المستشفى كانت أقل مما هي عليه في الحالة الطبيعية بنسبة 35%. وبطبيعة الحال، أدى هذا إلى زيادة في استدعاء الأطباء والممرضات لمعاينة المرضى. ومن المحتمل أن كل هذه الإنذارات كانت ضرورية، فقد كان هناك عدد أكبر من المرضى على أي حال. ولكن، من المحتمل أيضاً أن الكثير من هذه الإنذارات كانت غير ضرورية، بسبب اختلاف نوع المرضى الذين أتوا إلى المستشفى. وفي الحالتين، أدى هذا إلى زيادة الضغط على الأطباء والمستشفيات. وقد تم اكتشاف هذا "الحمل الزائد في الإنذارات" بعد عدة أشهر من تفشي الوباء، ما أدى إلى إيقاف استخدام هذه الخوارزمية من قبل النظام الصحي لجامعة ميشيغان.

وقد رأينا مشكلة مشابهة بصورة مباشرة في المستشفى حيث نعمل كلانا: فمؤخراً، قمنا بنشر دراسة حول خوارزمية للتعلم الآلي في مجال الرعاية الصحية، والمستخدمة لتمييز درجات الإصابة بالسرطان. ويمكن لتحديد هؤلاء المرضى أن يتيح للأطباء فرصة التحدث معهم حول تفضيلاتهم للعناية بهم في نهاية حياتهم. وتبين بياناتنا أن دقة هذه الخوارزمية تراجعت خلال الوباء، وأصبحت أكثر احتمالاً للوقوع في خطأ في تحديد المرضى الذين يحتاجون إلى هذا الحوار الضروري بنسبة 30%. ويمكن أن يؤدي ارتكاب الأخطاء بشأن حوارات نهاية الحياة في أغلب الأحيان إلى علاجات وحالات إدخال إلى المستشفى لا ضرورة لها، ونوعية حياة أسوأ بالنسبة للأفراد الذين كان يمكن أن يستفيدوا من الرعاية الخاصة المبكرة بشكل أفضل.

وفي مثال آخر، قامت شركة "أميركان إكسبرس" (American Express) بتصميم خوارزمية ذكاء اصطناعي معقدة لكشف الاحتيال بدقة أعلى بنسبة 30% من خوارزمياتها القديمة. ولكن، وبدءاً من مارس/ آذار في العام 2020، تغيرت أنماط الإنفاق الاستهلاكي بشكل هائل بسبب الوباء، وشملت هذه التغيرات تضخم كميات الشراء، وزيادة في الطلبات على الإنترنت، وذهاب العديد من العملاء الجدد إلى المتاجر لشراء أغراض مثل ورق المرحاض ومعقم اليدين. ومن حسن الحظ أن الشركة أجرت بضعة اختبارات قبل إطلاق الخوارزمية، ووجدت أن هذه التغيرات الجذرية كانت ستؤدي إلى ظهور عدد هائل من إنذارات الاحتيال، ما أرغمها على تأخير إطلاق الخوارزمية لسنة كاملة تقريباً.

وقد كان القطاع المصرفي أكبر القطاعات التي استثمرت في الذكاء الاصطناعي في فترة ما قبل الوباء، حيث يمكن استخدام الذكاء الاصطناعي لتحديد نسب الرهن والفوائد بدقة أكبر. ولكن أنماط العمليات المصرفية الشخصية وعلى الإنترنت تغيرت بشكل كبير خلال الوباء. ففي استبيان أجراه "بنك إنجلترا" (Bank of England)، قال أكثر من ثلث البنوك إن خوارزمياتهم التنبؤية أصبحت أقل دقة خلال الوباء. وهو ما أدى إلى تراجع غير متوقع في وتيرة استثمار البنوك في الذكاء الاصطناعي.

المشكلات التي سببها كوفيد-19 للخوارزميات

ولكن، كيف أثر كوفيد على خوارزمياتنا؟ على الرغم من أن الإجابة غير مباشرة، إلا أنها تقدم لنا دروساً مهمة للغاية، لأنه من المرجح أن تؤثر حقبة كوفيد على الخوارزميات لعدة سنوات لاحقة.

أولاً، تقدم الخوارزميات أفضل النتائج في التعرف على الأنماط. وعادة ما يتم تصميمها باستخدام عدة سنوات من المعلومات التاريخية لتوقع النتائج في المستقبل. ولكن الأغلبية العظمى من معاملات الدخل لخوارزميات الذكاء الاصطناعي تغيرت خلال كوفيد. ففي الرعاية الصحية، على سبيل المثال، تراجعت عمليات فحص السرطان وزيارات الأطباء والجراحات الانتقائية إلى حد كبير، ولم تعد حتى الآن إلى مستوياتها السابقة. ومن الممكن أن تكون خوارزمية تعود إلى ما قبل كوفيد قد توقعت أن الأشخاص الذين لا يزورون الأطباء كثيراً يتمتعون بصحة جيدة. ولكن، وخلال كوفيد، غالباً ما يتجنب الأفراد المصابون بشدة المستشفى أو عيادة الطبيب. وفي بعض الأحيان يتم تقديم الرعاية إليهم في منازلهم من قبل جهات خارجية. وفي أغلب الأحيان، لا يحصلون على أي رعاية على الإطلاق. ونظراً لهذا التراجع في الاستفادة من خدمات الرعاية الصحية، لم تؤخذ بيانات المرضى المصابين بشدة بعين الاعتبار بالدرجة المطلوبة في الخوارزميات التنبؤية. ولهذا، أصبحت الخوارزميات خلال الوباء أقل دقة في كشف هؤلاء المرضى المصابين بشدة.

ثانياً، تغيرت النتائج التي تتوقعها الخوارزميات بشكل كبير خلال كوفيد. ويمكن أن نأخذ الخوارزمية التي تتوقع احتمال وفاة المريض كمثال على هذا. فقد كانت الخوارزمية دقيقة في تحديد هذا الاحتمال قبل كوفيد، ولكن معدلات الوفيات في البلاد ازدادت بنسبة 40% بين أواخر 2019 وأواخر 2020. فقد تغيرت العلاقات بين عوامل الخطر والنتائج بدرجة كبيرة. ولهذا، يمكن أن يختل عمل الخوارزميات عندما يتغير تواتر أحد النتائج مثل الموت بدرجة كبيرة خلال فترة قصيرة من الوقت.

ثالثاً، كانت تأثيرات كوفيد على الرعاية الصحية وعادات الإنفاق واضحة على وجه الخصوص بالنسبة للمجموعات السكانية المهمشة، وقد أدى هذا إلى مزيد من الأخطاء بالنسبة للأفراد الفقراء ومن غير ذوي البشرة البيضاء. فقبل كوفيد، كان الأميركيون منخفضي الدخل ومن غير ذوي البشرة البيضاء أكثر ترجيحاً بكثير لاستخدام المال النقدي للدفع في المتاجر بدلاً من التسوق على الإنترنت. أما في فترة الوباء، فقد انتقلت جميع شرائح السكان الأميركيين إلى الشراء على الإنترنت بدلاً من الذهاب إلى المتاجر. وبالتالي، فإن خوارزميات كشف الاحتيال أصبحت أكثر ميلاً إلى تحديد عمليات الشراء من الأفراد منخفضي الدخل والمنتمين إلى الأقليات، والذين غيروا فجأة من أنماط الشراء لديهم نحو زيادة التسوق على الإنترنت.

وسائل إصلاح الخوارزميات التي عطلها الوباء

لقد أدى الوباء إلى تعطيل خوارزمياتنا. ولكن هناك وسائل لإصلاح هذه المشكلة، ومنع وقوعها ثانية.

فأولاً، يجب أن يمارس البشر درجة أكبر من الرقابة على عمل خوارزميات الذكاء الاصطناعي، في الوقت الحالي على الأقل. ويجب على أي منظمة تستخدم خوارزميات تعود إلى ما قبل فترة كوفيد أن تتحقق من أداء هذه الخوارزميات، خصوصاً بالنسبة لتأثيراتها على المجموعات المهمشة مثل الأميركيين الأفارقة والأقليات الأخرى.

ثانياً، إذا كشفت عمليات التدقيق أي مشكلات، يجب على المؤسسات أن تعيد تطوير (أو "تعيد تدريب") خوارزمياتها باستخدام بيانات من فترة الوباء. وهو أمر مهم على وجه الخصوص بالنسبة للخوارزميات التي تعتمد على معاملات دخل ما زالت متأثرة بكوفيد.

وثالثاً، نحن بحاجة إلى تطوير خوارزميات أكثر مقاومة للتغيرات في المستقبل. ويمكن لتقنيات جديدة في الذكاء الاصطناعي أن تتيح "إعادة التعلم" خلال الأزمات المختلفة. فخلال الوباء، تمكنت خوارزمية تعلم معزز تستخدمها وكالات مراقبة الحدود في اليونان بنجاح من الحد من تدفق المسافرين المصابين بكوفيد-19 دون أعراض. وقد تمكنت الخوارزمية من أن تتكيف مع المراحل المختلفة من الوباء، وحققت دقة أعلى بأربعة أضعاف من اختبارات المراقبة العشوائية في كشف المسافرين المصابين دون أعراض. ومن الممكن أن تكون أنظمة الذكاء الاصطناعي المصممة بعناية أقل عرضة لنفس المشكلات التي نشهدها حالياً بسبب كوفيد.

يمكن للخوارزميات أن تحسن من مستوى الكفاءة في العديد من الصناعات. ولكن الوباء قدم لنا عدة أمثلة عن خوارزميات ذكاء اصطناعي تصاب بالارتباك دون أن ندرك ذلك. وهذه فرصة حسنة التوقيت لتطوير واختبار عدة وسائل لزيادة المقاومة لهذه "الصدمات" في المستقبل. وبهذه الطريقة، وعندما يحل علينا حدث يهز العالم بأسره، مثل وباء أو كساد اقتصادي، فإنه لن يؤدي إلى شل خوارزمياتنا أيضاً.

مجلة "فيوتشر تنس" هي شراكة بين مجلة "سليت" (Slate) ومركز التفكير "نيو أميركا" (New America) وجامعة أريزونا ستيت، وهي تتمعن في القضايا المتعلقة بالتكنولوجيات الناشئة والسياسات العامة والمجتمع.