مراقب المحتوى الآلي في موقع ريديت هو مستقبل الإنترنت، ولكن لديه عيوب كبيرة

على مدى السنوات الأربع الماضية، قام شاجون جافير بمراقبة عدة منتديات فرعية على موقع ريديت، فكان يعمل بكل اجتهاد على مسح الصفحات تلو الصفحات، وحظر المنشورات التي تخالف قوانين الموقع أو التي تُعتبر مسيئة بشكل واضح. وبما أن جافير طالب دكتوراه في معهد جورجيا للتكنولوجيا، وتركز أبحاثه على مراقبة وتعديل المحتوى، تساءل إذا كان بالإمكان استخدام مراقب آلي ليساعده على توفير الوقت والعبء الذهني الناجم عن قراءة المحتوى الذي يسبب إجهاداً نفسياً له. ولهذا، قرر بالاشتراك مع ثلاثة من زملائه دراسةَ إمكانية استخدام مراقب آلي -في هذه الحالة، أوتومود- بنجاح.

قام أفراد الفريق شخصياً بمراقبة عدة صفحات على ريديت ومن ثم أجروا مقابلات مع 16 مراقباً آخر لبعض أشهر المنتديات الفرعية على الموقع، بما في ذلك منتديات للفوتوشوب r/photoshopbattles والفضاء r/space والمعلومات العامة r/explainlikeimfive ومواد الميديا التي تتضمن لقطات فريدة في تناظرها واتساقها r/oddlysatisfying والسياسة r/politics، والتي يتضمن كل منها ملايين المشتركين، ويعتمدون جميعاً على أوتومود لمساعدتهم في عمل الرقابة. وقد قدم جافير عمله لاحقاً في مؤتمر جمعية الآلات الحاسوبية حول العمل التعاوني المدعوم حاسوبياً والحوسبة الاجتماعية.

لطالما اعتمدت منصات التواصل الاجتماعي، مثل فيسبوك وإنستجرام ويوتيوب، على المراقبين البشر حتى يعملوا يدوياً على تدقيق المحتوى وإزالة المواد التي تتسم بالعنف والإساءة، والتي تتراوح ما بين خطاب الكراهية الذي يتصف بالتمييز على أساس العرق أو الجنس وصولاً إلى مقاطع الفيديو الدامية للمجازر الجماعية بالأسلحة النارية. ويعمل هؤلاء المراقبون في أغلب الأحيان بصفة متعاقدين بالحد الأدنى من الأجور وحوافز قليلة، وكثيراً ما يتعرضون للإجهاد نتيجة العمل لساعات طويلة والتعرض بشكل متواصل للمحتوى الذي يلقي بعبء ثقيل على صحتهم العقلية.

أما برامج المراقبة الآلية فتهدف إلى التخفيف من الضجر والآثار السلبية لهذا النوع من العمل. وقد قام تشاد بيرتش، وهو أحد مشرفي موقع ريديت، بتطوير أوتومود لتعزيز قدرته على مراقبة قناة r/gaming للألعاب، وهو عبارة عن أداة تعمل وفق قواعد محددة لكشف الكلمات التي تنتهك سياسات محددة للنشر على الصفحات. وقد انتشر استخدامه على نطاق واسع منذ ذلك الحين، بل إن موقع ريديت تبنى استخدامه في كافة صفحاته في 2015، وتبعته بسرعة منصتا بث الألعاب تويتش وديسكورد اللتان تتمتعان بشعبية هائلة.

غير أن قدرة أوتومود على توفير الوقت ما زالت محطاً للشكوك. فمن ناحية، تقوم المراقبات الآلية بعملها بنجاح كبير، فإذا كانت مبرمجة للعثور على الشتائم، فسوف تجد وتحظر المنشورات التي تحتوي على الشتائم من دون مشاكل. ويمكنها أن ترسل إشعارات إلى الناشرين حول المحتوى الإشكالي، وهو ما يصفه جافير بأنه "تثقيفي"، حيث يُعلِم الناشرين بالمشكلة التي تسببت في حظر منشوراتهم.

وهذا ليس بالأمر السهل. وكما يلحظ جافير وزملاؤه، تمت إزالة حوالي 22% من المنشورات على ريديت بين مارس وأكتوبر في 2018، أي ما يساوي تقريباً 17.4 مليون منشور في تلك الفترة.

ولكن لنفترض أن تلك الكلمة هامة بالنسبة لسياق المنشور، مثل نقاش في 2016 بخصوص التعليق الشهير لترامب حول التحرش الجسدي بالمرأة. وستوضع إشارة على منشورات كهذه بسبب اللغة البذيئة، على الرغم من أن مناقشة هذه اللغة هي فحوى المنشور نفسه. يقول جافير إن هذا يتسبب في إزعاج كبير للمستخدمين، الذين يضطرون لاحقاً للتواصل مع المراقبين لرفع الحظر عن المنشور. إضافة إلى ذلك، فإن المحتوى المسيء في عالم التواصل الاجتماعي بدأ ينحو أكثر باتجاه الميمات المسيئة، والبث الحي للمجازر بالأسلحة النارية، وغير ذلك من المحتوى المرئي الذي لا يحتوي أية نصوص، مما يجعل اقتصار أوتومود على العثور على الكلمات المفتاحية مشكلة كبيرة.

لكن روبرت بيك -وهو مراقب في منتديين كبيرين هما: r/pics وr/aww- يدرك هذا الأمر جيداً؛ حيث إن هذه الصفحات تعتمد على الصور بشكل رئيسي، ويوجد فيها ملايين المتابعين الذين ينشرون من المحتوى كميات هائلة يستحيل منطقياً على أي شخص تدقيقها.

وعلى الرغم من أن أوتومود غير قادر على تحليل الصور، إلا أن بيك يرى أنه جعل عمله أكثر سهولة، حيث يقول: "يضيف المستخدمون نصاً وصفياً إلى الصور بشكل مباشر، ويمكننا أن نتحقق من هذه العناوين. نبحث أيضاً عن عمليات تضخيم الحسابات، أو عمليات النشر الآلي للمحتوى في الحسابات، والتي غالباً ما تستخدم الأقواس في العناوين. ويمكننا أن نطلب من أوتومود أن يبحث عن هذه الأنماط".

ويمثل أوتومود والبرامج الشبيهة به مستقبلَ المراقبة في مواقع التواصل الاجتماعي، سواء أعجبنا هذا أم لا. ومن المرجح أنه سيحمل بعض العيوب على الدوام؛ لأن الآلات ما زالت بعيدة للغاية عن فهم اللغة البشرية بشكل فعلي. ولكن هذا هو الهدف الأساسي من الأتمتة، أي توفير الوقت على البشر في أداء المهام المملة او المرهقة. وإذا تمكن المراقب من التركيز على المنشورات التي تتطلب لمسة بشرية، فسيصبح عمله أكثر قيمة، وسيتمكن المراقبون والناشرون من التركيز على تحسين مستوى الحوار.

وبطبيعة الحال، لن تحل برامج الرقابة مشكلة الأشخاص الذين يقومون بنشر محتوى مسيء أو خبيث أو مؤذٍ، وستبقى هذه واحدة من أعقد المشاكل التي تؤثر على شبكة الإنترنت العصرية. ولكنها تُحدث فرقاً واضحاً. ويقول بيك إنه ممتن لقدرة أوتومود على مساعدته في التعامل مع المنشورات "بالجملة"، ويضيف: "إنها تكنولوجيا ذات قدرات كبيرة، وهي سهلة الاستخدام لدرجة بعيدة، ولا تتضمن التعقيدات التي تُرافق برمجة بوت يقوم بنفس العمل. وأنا أعتبر أن أوتومود أقوى أدواتي، ومن دون هذه الأداة، سأشعر بالضياع".