شارك
الرئيسية
3 دقائق 
يتزايد استخدام الخوارزميات في اتخاذ قرارات أخلاقية. ولعل أفضل الأمثلة على هذا هو التعامل التقني المعقد مع الموقف الأخلاقي المُسمى "مشكلة التروللي"، وتتلخص في التالي: إذا لم يكن بإمكان سيارة ذاتية القيادة أن تمنع نفسها من قتل واحد من ضمن اثنين من المارة، فكيف تختار برمجية التحكم في السيارة ضحيتها من الاثنين؟
لا يعتبر هذا المأزق في الواقع تصورًا واقعياً عن سيناريو قد تواجهه السيارات ذاتية القيادة. لكن هناك نظم أخرى كثيرة منتشرة بالفعل وأخرى توشك على الانتشار قد تحتاج إلى اتخاذ قرارات في مواقف أخلاقية حقيقية. فأدوات التقييم المستخدمة حالياً في القضاء الجنائي يجب أن توازن بين المخاطر التي تهدد المجتمع والأضرار التي قد تلحق بالمدعى عليهم. والأسلحة المؤتمتة تحتاج لاتخاذ قرارات تفاضل بين حفظ حياة الجنود، وحياة المدنيين على الجانب الآخر.
والمشكلة أنه لم يتم تصميم الخوارزميات في الأساس للتعامل مع مثل هذه الخيارات الصعبة، إنما تم تصميمها لتحقيق هدف رياضياتي واحد، مثل تعظيم عدد الجنود الذين يجب إنقاذهم من الموت، أو تقليل عدد وفيات المدنيين. عندما تبدأ في التعامل مع أهداف متعددة ومتنافسة، أو أن تسعى لأن تراعي الخوارزمياتُ قيماً غير ملموسة مثل "الحرية" أو "الرفاه"، فلا وجود لحل رياضي مُرضٍ في كل الحالات.
يقول بيتر إيكرسلاي (مدير البحوث في "الشراكة من أجل الذكاء الاصطناعي")، وهو الذي أصدر مؤخراً ورقة بحثية تستكشف هذه القضية: "نحن البشر نرغب عادة في أشياء عديدة متناقضة؛ فهناك مواقف صعبة يكون من غير اللائق فيها -أو من الخطورة بمكان- برمجةُ هدف واحد يعبِّر عن اعتباراتك الأخلاقية".
هذه المشكلات التي لا حل لها لا تقتصر على الخوارزميات، فقد عكف علماء الأخلاق على دراسة هذه المواقف لعقود، ويشيرون إليها بمسمى "الأطروحات المستحيلة". لذا فعندما بحث إيكرسلاي في تطبيقاتها المتصلة بالذكاء الاصطناعي، اقترض فكرة من مجال علم الأخلاق ليقدم من خلالها حلاً: ماذا لو غذَّينا الخوارزميات بالبعض من عدم اليقين؟
وقال: "نحن البشر نتخذ القرارات بصورة مبهمة وغير يقينية في أغلب الأوقات، وسلوكنا ككائنات أخلاقية يزخر بعدم اليقين. لكن عندما نحاول أخذ هذا السلوك الأخلاقي البشري وتغذية الذكاء الاصطناعي به، فهو ينزع إلى أن يكون أكثر وضوحاً ودقة". ويقترح إيكرسلاي بدلاً من هذا أن نصمم الخوارزميات مع تغذيتها بعدم اليقين إزاء الفعل الصحيح الذي يجب عمله في المواقف الصعبة.
كما اقترح إيكرسلاي تقنيتين ممكنتين للتعبير عن هذه الفكرة رياضياً. فهو يبدأ بفرضية أن الخوارزميات مبرمجة في العادة بقواعد واضحة حول التفضيلات البشرية، فنخبرها مثلاً أن عليها تفضيل جنودنا على مدنيينا، وأن تفضل مدنيينا على جنود الأعداء، حتى وإن كنا لا نعرف يقيناً أن هذا هو السيناريو الذي يجب اتباعه في كافة الحالات؛ فتصميم الخوارزميات لا يدع مجالاً فسيحاً لعدم اليقين.
التقنية الأولى، المعروفة بمسمى "الترتيب الجزئي" (partial ordering)، تبدأ بتغذية النذر اليسير من عدم اليقين. فعلى المبرمج بموجب هذه التقنية أن يغذي الخوارزمية بأن عليها تفضيل جنودنا على جنود العدو، وأن تفضل مدنيينا على مدنيي العدو، لكن يتم هذا دون تحديد من الأفضل: جنودنا أم مدنيينا.
وفي التقنية الثانية المعروفة بمسمى "الترتيب غير اليقيني" أو (uncertain ordering) يتم تغذية عدة قوائم من التفضيلات المُطلقة، لكن لكل منها احتمالها المقرر لها المنفصل عن احتمالات القوائم الأخرى. وفي 75% من الحالات يتعين تفضيل جنودنا على مدنيينا، ومدنيينا على جنود العدو. وفي 25% من الحالات يتعين تفضيل مدنيينا على جنودنا، وجنودنا على جنود العدو.
يمكن للخوارزمية التعامل مع عدم اليقين هذا عن طريق حساب حلول متعددة ثم إتاحة قائمة اختيارات للبشر مصحوبة بتوضيح لما سيتم كسبه وما ستتم خسارته في كل اختيار، على حد قول إيكرسلاي. فإذا كان نظام الذكاء الاصطناعي سيساعد في اتخاذ قرارات طبية مثلاً، فبدلاً من التوصية بعلاج على علاج، يمكنه عرض 3 خيارات ممكنة: الأول يعظِّم من قيمة حياة المريض، والثاني يقلل من معاناة المريض، والثالث يقلل من التكلفة. ويقول إيكرسلاي: "القصد هو أن يكون النظام غير واثق من الاختيار الصحيح، وأن يرجع للبشر ويقدم لهم الحلول الممكنة للمأزق الأخلاقي".
وقد قامت كارلا غوميز (أستاذة العلوم الحاسوبية في جامعة كورنيل بالولايات المتحدة) بإجراء تجارب على تقنيات مشابهة في عملها. وفي أحد المشروعات، طورت نظاماً مؤتمتاً لتقييم أثر مشروعات السدود النهرية الجديدة في حوض نهر الأمازون. تقدم السدود مصدراً للطاقة النظيفة، لكنها تبدل بصورة عميقة أيضاً من بعض مناطق النهر، وتضر بالنظم الحيوية للحياة البرية.
وتقول: "هذا سيناريو مختلف تماماً عن السيارات ذاتية القيادة أو المآزق الأخلاقية الشائعة، لكنه سياق آخر تعتبر المشكلات فيه حقيقية. هناك هدفين متضاربين، إذن فماذا علينا أن نفعل؟"
وأضافت: "المشكلة الإجمالية معقدة للغاية، وسوف تحتاج إلى الكثير من البحث للتعامل مع كافة المشكلات، لكن تقنية بيتر تمثل خطوة في الاتجاه الصحيح".
إنها قضية ستزيد أهمية مع تزايد اعتمادنا على النظم الخوارزمية، حيث يقول رومان يامبولسكي (الأستاذ المساعد للعلوم الحاسوبية في جامعة لويسفيل): "تحتاج النظم المعقدة لتولي الذكاء الاصطناعي المسؤولية عنها. ولا يوجد شخص يفهم تعقيد الأمور التي يتولاها الذكاء الاصطناعي بشكل كامل، مثل سوق البورصة أو نظم التعامل العسكري. لذا فليس أمامنا إلا أن نفوض الآلات ببعض من تحكمنا وقراراتنا".