شارك
الرئيسية
5 دقائق 
جميعنا نرغب ولا شك بأن نقول ما نفكر فيه على الإنترنت، بحيث يصغى إلينا أصدقاؤنا، ونستطيع الرد على خصومنا. وفي نفس الوقت، لا نرغب في أن نتعرض لخطاب غير مقبول، أو نتجاوز أي حدود مفروضة مسبقاً. تعالج شركات التكنولوجيا هذه المعضلة لوضع معايير للخطاب الحر، والذي يُعتبر ممارسة يحميها القانون الفيدرالي. وتقوم الشركات بتوظيف المراقبين الذين يتفحصون المحتوى الذي ينشره الأفراد، ويزيلون هذه المنشورات إذا انتهكت القواعد التي وضعتها المنصة.
ما هي مشكلة الرقابة على ما ينشره الأفراد؟
ولكن هذه الطريقة تعاني من مشكلتين، وهما التحرش، والمعلومات المزيفة حول مواضيع مثل الصحة العامة والتوصيفات الخاطئة للانتخابات الشرعية، وهي مشكلات واسعة الانتشار. ولكن، وحتى عند تطبيق الرقابة بشكل مثالي، فهي لا تزال عاجزة عن معالجة مجموعة كاملة من المسائل التي غالباً ما توصف بأنها مشكلات رقابة، ولكنها ليست كذلك في الواقع. ولمعالجة هذه المسائل التي لا تتعلق بالخطاب، نحتاج إلى استراتيجية جديدة، وهي معاملة شركات التواصل الاجتماعي كمصادر تلوث يمكن أن تؤذي النسيج الاجتماعي، والقيام بعملية قياس مباشر لآثار خياراتها على الشرائح الاجتماعية، ومحاولة تخفيف هذه الآثار.
وهذا يعني تأسيس إطار عمل للسياسات، ربما عن طريق مؤسسة ما مثل وكالة حماية البيئة أو إدارة الغذاء والدواء، ولكن لوسائل التواصل الاجتماعي، بحيث يمكن استخدامه لتحديد وتقييم الأضرار الاجتماعية الناجمة عن هذه المنصات. وإذا استمر هذا الأذى، فيمكن منح سلطة فرض هذه السياسات لتلك المؤسسة أو المجموعة. ولكن، ولتجاوز حدود الرقابة على المحتوى، يجب أن تكون هذه القواعد مبنية على أدلة واضحة، كما يجب أن يكون أثرها على المشكلات التي تهدف إلى حلها قابلاً للإثبات.
اقرأ أيضاً: الصين تعمل على تدقيق كل التعليقات على وسائل التواصل الاجتماعي قبل نشرها
يمكن للرقابة (سواء أكانت بشرية أم مؤتمتة) أن تنفع لعلاج ما نطلق عليه اسم الأذى "الحاد"، أي الناجم بشكل مباشر عن منشورات إفرادية محددة. ولكننا نحتاج إلى هذه المقاربة الجديدة بسبب وجود مجموعة من المشكلات "البنيوية"، مثل التمييز، وتراجع الصحة العقلية، وتهاوي الثقة المدنية، والتي تتجسد بأشكال مختلفة عبر المنتج بدلاً من أن تظهر في محتوى إفرادي. ومن الأمثلة الشهيرة على هذا النوع من المشكلات البنيوية تجربة "العدوى العاطفية" في منصة فيسبوك (Facebook) في عام 2012، والتي بينت أن أثر المستخدمين (أي المزاج المقاس عبر السلوك على المنصة) يمكن أن يتغير بصورة ملحوظة وفقاً لنسخة المنتج التي يستخدمونها.
وبسبب ردود الفعل السلبية التي تلت انتشار النتائج علناً، قامت شركة فيسبوك (والتي بات اسمها اليوم ميتا (Meta)) بإنهاء هذا النوع من التجارب المتعمدة. ولكن مجرد التوقف عن قياس هذه الآثار لا يعني بالضرورة أن قرارات المنتج لا تؤدي إلى هذه الآثار.
اقرأ أيضاً: كيف يقع الشباب فريسة المعلومات المزيفة على وسائل التواصل الاجتماعي؟
أذى المنتجات الحاد ومشكلاتها
تعتبر المشكلات البنيوية نتائج مباشرة لقرارات المنتج. فمدراء المنتجات في الشركات التكنولوجية مثل فيسبوك ويوتيوب (YouTube) وتيك توك (TikTok) لديهم الحافز للتركيز بشكل كبير على زيادة الوقت الذي يمضيه المستخدمون على المنصة ومقدار تفاعلهم عليها إلى أقصى درجة ممكنة. وما زالت التجارب مستمرة دون أدنى إبطاء هناك، فكل تغيير في المنتج يتم تطبيقه في البداية على أعداد صغيرة عبر تجارب عشوائية خاضعة للتحكم. ولتقييم التقدم، تقوم الشركات بتطبيق عمليات إدارية صارمة لتعزيز مهماتها الرئيسية (المعروفة باسم الأهداف والنتائج الرئيسية، أو اختصاراً OKRs)، بل وحتى تستخدم هذه النتائج لتحديد المكافآت والترقيات. غالباً ما توضع مسؤولية معالجة آثار قرارات المنتج على عاتق الفرق الأخرى التي عادة ما تتعامل مع المراحل اللاحقة للمنتج، ولا تمتلك ما يكفي من الصلاحيات للتعامل مع الأسباب الجذرية. تكون هذه الفرق بشكل عام قادرة على الاستجابة للأذى الحاد، ولكنها في أغلب الأحيان لا تستطيع معالجة المشكلات التي تتسبب بها المنتجات نفسها.
ومع الانتباه والتركيز، يمكن لنفس هيكلية تطوير المنتج أن تتحول إلى مسألة أذى اجتماعي. لنفكر في شهادة فرانسيس هيوغين أمام الكونغرس في العام المنصرم، إضافة إلى ما كشفت عنه وسائل الإعلام حول الآثار المزعومة لفيسبوك على الصحة العقلية للمراهقين. استجابت فيسبوك للانتقادات شارحة أن دراساتها كانت تتمحور حول ما إذا كان المراهقون يشعرون بأن المنتج يؤثر سلباً على صحتهم العقلية وما إذا كان هذا التصور قد دفعهم إلى التقليل من استخدام المنتج، وليس ما إذا كان المنتج يؤدي فعلياً إلى آثار سلبية. وعلى حين يبدو أن الرد كان كافياً للتعامل مع هذه المسألة، فإنه يبين أيضاً أن إجراء دراسة حول الصحة العقلية، بدلاً من الأثر على تفاعل المستخدمين، ليس بالأمر المستحيل.
إن إدماج التقييمات للأذى الناجم عن النظام لن يكون سهلاً. ويجب أن نضطر لتحديد العوامل التي يمكننا قياسها فعلياً وبصرامة وبشكل منهجي، وما يجب أن نطلبه من الشركات، وما هي المسائل التي تستحق الأولوية في هذه التقييمات.
اقرأ أيضاً: وسائل التواصل الاجتماعي هي المُلامة في مسألة تراجع حرية الإنترنت على مستوى العالم
ما الذي يمكن أن تفعله الشركات كاستراتيجية لحماية المستهلكين من منتجاتها؟
ويمكن للشركات تطبيق البروتوكولات بنفسها، ولكن مصالحها المالية تتضارب في أغلب الأحيان مع القيود المنطقية التي يجب فرضها على تطور المنتج ونموه. وتمثل هذه الحالة مثالاً نموذجياً عن القوانين التي يجري تطبيقها نيابة عن العامة. وسواء أكانت الوسيلة عبارة عن قواعد قانونية إلزامية جديدة من هيئة التجارة الفيدرالية، أم توجيهات لتخفيف الأذى من وكالة حكومية جديدة، فإن عمل الهيئات الناظمة يتلخص بالتعاون مع فرق تطوير المنتجات في شركات التكنولوجيا لتصميم بروتوكولات قابلة للتطبيق وقابلة للقياس خلال فترة عملية تطوير المنتج لتقييم أي دلالات ذات مغزى حول الأذى.
قد تبدو هذه المقاربة صعبة التنفيذ، ولكن يُفتَرَض بإضافة هذه الأنواع من البروتوكولات أن تكون مسألة بسيطة بالنسبة للشركات الأكبر (وهي الوحيدة التي يجب تطبيق هذه القوانين عليها في المقام الأول) لأنها قامت بإدماج تجارب عشوائية منتظمة ضمن عملية التطوير لقياس فعاليتها مسبقاً. أما القسم الأكثر تعقيداً واستهلاكاً للوقت فهو تحديد المعايير، فالتنفيذ الفعلي للاختبار لن يتطلب أي مشاركة من الجهات الناظمة على الإطلاق. ولن يتطلب سوى توجيه أسئلة تشخيصية إلى جانب الأسئلة الطبيعية المتعلقة بالنمو، ومن ثم جعل البيانات متاحة لمدققين خارجيين. وفي مؤتمر "أيه سي إم 2022" (2022 ACM) حول المساواة وإمكانية الوصول في الخوارزميات والآليات والأمثَلَة، سنقدم بحثاً نشرح فيه هذه العملية بتفصيل أكبر، ونحدد الخطوط العريضة لترسيخها بفعالية.
اقرأ أيضاً: كيف استطاع الذكاء الاصطناعي التنبؤ بالمعلومات المضللة قبل نشرها؟
وعندما يتم اختبار المنتجات التي تصل إلى عشرات الملايين من الناس لتحديد قدرتها على تعزيز التفاعل، ستحتاج الشركات إلى ضمان دعم هذه المنتجات أو أثرها الإجمالي على الأقل، بمبدأ "الابتعاد عن مفاقمة المشكلة". ومع مرور الوقت، يمكن ترسيخ معايير أكثر صرامة لإزالة الآثار الحالية للمنتجات التي حازت على الموافقة من قبل.
هناك الكثير من الأساليب التي قد تكون مناسبة لهذا النوع من العمليات. وتتضمن بروتوكولات مثل مقياس التأثير الفوتوغرافي، والذي كان يستخدم بهدف التشخيص لتقييم تأثير التعرض للمنتجات والخدمات على المزاج. وقد بدأت المنصات التكنولوجية باستخدام الاستبيانات لتقييم تغييرات المنتجات، ووفقاً للمراسلتين الصحافيتين سيسيليا كانغ وشيرا فرانكيل، فإن مارك زوكربيرغ يدرس معاملات النمو المستندة إلى استطلاعات الرأي عند اتخاذ معظم قرارات المنتجات، وقد كانت نتائج هذه الاستطلاعات جزءاً من خياره لإلغاء النسخة "الأكثر لطافة" من خوارزمية صفحة فيسبوك الرئيسية بعد انتخابات العام 2020.
بين مقاربات شركات التكنولوجيا وإجراءات الجهات الناظمة
وسيكون من المنطقي أن نتساءل ما إذا كانت صناعة التكنولوجيا تنظر إلى هذه المقاربة على أنها قابلة للتحقيق، وما إذا كانت الشركات ستقف ضدها. وعلى الرغم من أن أي تنظيم محتمل قد يستدعي ردة فعل كهذه، فقد تلقينا استجابة إيجابية من حوارات سابقة حول هذه الهيكلية، وقد يُعزى هذا إلى أن هذه المقاربة ستؤدي إلى تمرير معظم قرارات المنتج بسرعة. (فالتسبب بأذى قابل للقياس من النوع الموصوف أعلاه معيار صارم للغاية، ما يسمح بتمرير أغلب خيارات المنتج). وخلافاً للاقتراحات الأخرى، فإن هذه الاستراتيجية تتفادى التنظيم المباشر للخطاب، على الأقل خارج نطاق الحالات الأكثر تطرفاً.
وفي نفس الوقت، لا داعي لانتظار الجهات الناظمة حتى تتخذ إجراءاتها. فالشركات مستعدة وقادرة على تطبيق هذه الإجراءات من تلقاء نفسها. ولكن بناء وجهة النظر التي تقول إن التغيير واجب أمر صعب دون البدء بجمع البيانات عالية الجودة التي وصفناها هنا. ويعود هذا إلى استحالة إثبات وجود هذه الأنواع من الأذى دون قياس في الزمن الحقيقي، ما يضعنا في معضلة البيضة والدجاجة. فمراقبة الأذيات البنيوية استباقياً لن يحل مشكلات المحتوى على المنصة. ولكنه يمكن أن يتيح لنا، وبشكل متواصل وموجه، تأكيد تراجع الاهتمام العام.
اقرأ أيضاً: ما الذي ينقص خطة إيلون ماسك حتى تنجح في تحديد الحسابات المزيفة على تويتر؟
تعتبر وكالة حماية البيئة مثالاً جيداً. فلم يكن الهدف الأصلي من الوكالة وضع تشريعات للسياسات البيئية، بل فرض المعايير والبروتوكولات بحيث يمكن بناء السياسات ذات النتائج الواقعية. ووفقاً لهذه النظرة، فإن الأثر الدائم للوكالة لم يكن حسم المناقشات المتعلقة بالسياسات البيئية (فهي لم تتمكن من ذلك)، بل إتاحة فتح هذه المناقشات. وبنفس الطريقة، فإن الخطوة الأولى لإصلاح وسائل التواصل الاجتماعي هي إنشاء البنية التحتية التي سنحتاج إليها لتفحص المخرجات في الخطاب والصحة العقلية والثقة المدنية في الزمن الحقيقي. ومن دون هذه البنية، لن نتمكن من التعامل مع أصعب المشكلات التي تتسبب بها هذه المنصات.