شارك
الرئيسية
2 دقائق 
من أكثر تطبيقات التعلم الآلي شيوعاً في الوقت الحالي هي محركات التوصية. وتعتمد عليها مواقع نيتفليكس ويوتيوب لكي تقترح عليك برامج وفيديوهات جديدة، كما تستخدمها مواقع جوجل وفيسبوك لترتيب محتوى نتائج البحث وصفحة الأخبار الرئيسية. وعلى الرغم من أن هذه الخوارزميات تقدم راحة كبيرة للمستخدمين، فهي أيضاً تحمل بعض الآثار الجانبية السلبية، والتي من المرجح أنك سمعت بها من قبل: فقاعات الفلترة وغرف الصدى.
ليست المخاوف حول هذه الآثار بالجديدة. ففي 2011، حذر إيلاي باريسر –الذي أصبح الآن المدير التنفيذي لشركة أبوورثي- من فقاعات الفلترة على منصة تيد. وحتى قبل ذلك، توقع بروفسور القانون في هارفارد كاس سونستاين بدقة، في كتابه Republic.com، نشوء أثر "الاستقطاب الجماعي" المدفوع بانتشار الإنترنت، والذي قد يشكل في نهاية المطاف مشكلة بالنسبة للديمقراطية السليمة، وذلك قبل ظهور فيسبوك بثلاث سنوات.
ذاع صيت كلتا الفكرتين بسرعة كبيرة على إثر انتخابات 2016 الأميركية، ما أدى إلى زيادة كبيرة في عدد الأبحاث المتعلقة بهما. والآن، قامت شركة جوجل الفرعية التي تعمل في مجال الذكاء الاصطناعي ديب مايند بإضافة بحث جديد إلى هذه المجموعة. (أن تأتي متأخراً خير من ألا تأتي أبداً، أليس كذلك)؟
في بحث جديد، قام الباحثون بتحليل تأثير خوارزميات التوصية على كلتا الظاهرتين، سواء بتسريعها أو إبطائها. يعرّف الباحثون كلاً من هاتين الظاهرتين بشكل منفصل، حيث يقولون إن غرف الصدى تعزز اهتمامات المستخدم عبر التعرض المتكرر إلى نفس النوع من المحتوى. أما فقاعات الفلترة فتؤدي إلى تضييق مجال المحتوى الذي يُعرض على المستخدم. وتعتبر كلتا الظاهرتين مثالاً على ما يسمى في المجال الأكاديمي "حلقة التغذية الخلفية المتنكسة". وفي هذه الحالة، فإن زيادة التنكس تعني زيادة شدة أثر فقاعة الفلترة أو غرفة الصدى.
أجرى الباحثون عمليات محاكاة على خمس خوارزميات توصية مختلفة، تقوم بوضع درجات مختلفة من الأولوية على دقة توقع اهتمامات المستخدم بالمقارنة مع الترويج لمحتوى جديد عشوائي. وقد وجد الباحثون أن الخوارزميات التي أعطت أهمية أكبر لدقة التوقع أدت إلى تنكس النظام بسرعة أكبر. أي أن أفضل وسيلة للتصدي لتأثير فقاعة الفلترة أو غرفة الصدى هي تصميم خوارزميات أكثر ميلاً إلى التجريب والتنويع، بحيث تظهر لك أشياء ليس من المؤكد أنها ستثير اهتمامك. كما أن توسيع نطاق المعلومات المستخدمة لاستنتاج الاقتراحات قد يكون أيضاً من العوامل المساعدة.
يقول جوزيف كونستان، وهو بروفسور في علوم الحاسوب في جامعة مينيسوتا أجرى بحثاً سابقاً على فقاعات الفلترة، أن نتائج تحليل ديب مايند لا تشكل مفاجأة كبيرة، فقد استوعب الباحثون من قبل التجاذب ما بين التوقع الدقيق والاستكشاف الفعال في أنظمة التوصية.
على الرغم من أن الدراسات السابقة أظهرت أن المستخدمين يتسامحون مع مستويات أقل من الدقة للحصول على اقتراحات أكثر تنوعاً، فما زال المطورون لا يجدون أي حافز لتصميم خوارزمياتهم بهذه الطريقة، كما يقول كونستان: "من الأسهل على الدوام أن تكون على حق عن طريق اقتراح الخيارات الآمنة".
انتقد كونستان أيضاً دراسة ديب مايند لأنها تعاملت مع فقاعات الفلترة وغرف الصدى على أنها عمليات محاكاة بالتعلم الآلي، بدلاً من التعامل معها كأنظمة تفاعلية تتضمن العنصر البشري، وهو نقص لاحظه الباحثون أيضاً. ويقول: "لطالما شعرت بالتحفظ تجاه العمل المقتصر على دراسات المحاكاة أو تحليل البيانات الساكنة. يتصف البشر بالتعقيد، حيث أنهم يقدّرون التنوع من ناحية، ولكنهم من ناحية أخرى قد يتخلون عنا تماماً إذا أحسوا أننا نبالغ في تنويع الاقتراحات لدرجة أننا نبدو غير جديرين بالثقة".