لماذا تتحقق بوتات الدردشة من أعمار المستخدمين؟

كيف تتحقق شركات التكنولوجيا مما إذا كان مستخدموها أطفالاً؟

اكتسب هذا السؤال أهمية ملحة مؤخراً نظراً للمخاوف المتزايدة بشأن المخاطر التي قد تنشأ عندما يتحدث الأطفال إلى بوتات الدردشة التي تعمل بالذكاء الاصطناعي. على مدى سنوات كانت شركات التكنولوجيا الكبرى تطلب من المستخدمين عند تسجيل الاشتراك تحديد تواريخ الميلاد (التي يمكن للمرء أن يختلقها) لتجنب انتهاك قوانين خصوصية الأطفال، لكنها لم تكن ملزمة بمراقبة المحتوى وفقاً لذلك.

سلامة الأطفال عند استخدام بوتات الدردشة

يظهر تطوران خلال الأسبوع الماضي مدى سرعة تغير الأمور في الولايات المتحدة وكيف أصبحت هذه القضية ساحة معركة جديدة، حتى بين الآباء والأمهات والمدافعين عن سلامة الأطفال.

في أحد الجوانب يقف الحزب الجمهوري، الذي أيد قوانين صدرت في العديد من الولايات التي تلزم المواقع التي تعرض محتوى للبالغين بالتحقق من أعمار المستخدمين. ويرى منتقدو هذه القوانين أنها توفر غطاءً لحجب أي شيء يعتبر "ضاراً بالقاصرين"، والذي قد يشمل التثقيف الجنسي.

وتلاحق ولايات أخرى مثل كاليفورنيا، شركات الذكاء الاصطناعي بقوانين لحماية الأطفال الذين يتحدثون إلى بوتات الدردشة (من خلال إلزامهم بالتحقق من هوية الأطفال). وفي الوقت نفسه، يحاول الرئيس ترامب إبقاء تنظيم الذكاء الاصطناعي قضية وطنية بدلاً من السماح للولايات بوضع قواعدها الخاصة. ويشهد الدعم المقدم لمختلف مشاريع القوانين في الكونغرس تقلبات مستمرة.

إذاً ما الذي قد يحدث؟ سرعان ما يتحول النقاش من مسألة ضرورة التحقق من السن إلى تحديد الجهة المسؤولة عن ذلك. هذه المسؤولية شائكة للغاية ولا ترغب أي شركة في تحملها.

في منشور على مدونة في 20 يناير/كانون الثاني الماضي، كشفت شركة أوبن أيه آي عن خططها لإطلاق ميزة التنبؤ التلقائي بالسن. باختصار، ستطبق الشركة نموذجاً يستخدم عوامل مثل الوقت من اليوم، من بين عوامل أخرى، للتنبؤ بما إذا كانت سن الشخص الذي يدردش أقل من 18 عاماً. بالنسبة لمن صُنفوا على أنهم مراهقون أو أطفال، سيطبق تشات جي بي تي مرشحات تهدف إلى "تقليل التعرض" لمحتوى مثل مشاهد العنف الصريح أو أداء أدوار مخلة بالآداب. وقد أطلقت منصة يوتيوب نظاماً مشابهاً العام الماضي.

مخاوف بشأن الخصوصية

إذا كنت تؤيد التحقق من السن ولكنك قلق بشأن الخصوصية، فقد يبدو هذا الأمر مكسباً. ولكن ثمة مشكلة، فالنظام ليس مثالياً بالطبع، لذا يمكن أن يصنف طفلاً على أنه بالغ أو العكس. إذ يمكن للأشخاص الذين صُنفوا خطأً على أنهم دون سن 18 عاماً التحقق من هويتهم عن طريق إرسال صورة شخصية (سيلفي) أو بطاقة هوية حكومية إلى شركة تدعى بيرسونا.

تنطوي عمليات التحقق من السيلفي على مشكلات: فهي تفشل في كثير من الأحيان بالنسبة للأشخاص الملونين وأصحاب إعاقات معينة. يقول سمير هيندويا، الذي يشارك في إدارة مركز أبحاث التنمر الإلكتروني، إن حاجة شركة بيرسونا إلى الاحتفاظ بملايين الهويات الحكومية والكميات الهائلة من البيانات البيومترية تمثل نقطة ضعف أخرى. ويقول: "عندما تتعرض هذه البيانات للاختراق، فإننا نعرض أعداداً هائلة من السكان للخطر دفعة واحدة".

وبدلاً من ذلك، يدعو هيندويا إلى التحقق على مستوى الجهاز، حيث يحدد أحد الوالدين سن الطفل عند إعداد هاتفه للمرة الأولى، ثم تحفظ هذه المعلومات على الجهاز وتشارك بطريقة آمنة مع التطبيقات والمواقع الإلكترونية.

هذا ما دعا إليه بشكل أو بآخر تيم كوك، الرئيس التنفيذي لشركة آبل، مؤخراً المشرعين الأميركيين. كان كوك يحارب المشرعين الذين أرادوا مطالبة متاجر التطبيقات بالتحقق من الأعمار، الأمر الذي من شأنه أن يحمل شركة آبل الكثير من المسؤولية.

كان من المفترض أن تتضح معالم هذا الأمر يوم الأربعاء في 28 يناير/كانون الثاني، أي عندما تعقد لجنة التجارة الفيدرالية -وهي الوكالة التي ستكون مسؤولة عن تطبيق هذه القوانين الجديدة- ورشة عمل طوال اليوم حول التحقق من السن. ومن المفترض أن رئيس الشؤون الحكومية في آبل، نيك روسي، قد حضر هذه الورشة، وانضم إليه كبار المسؤولين في مجال سلامة الأطفال في شركتي ميتا وجوجل، بالإضافة إلى شركة متخصصة في التسويق الموجه للأطفال.

التحقق من السن ساحة للخلاف

لقد أصبحت لجنة التجارة الفيدرالية مسيسة بصورة متزايدة في عهد الرئيس ترامب (حيث ألغت محكمة فيدرالية قرار إقالته للمفوض الديمقراطي الوحيد، وهو قرار ينتظر الآن مراجعة المحكمة العليا الأميركية). في يوليو/تموز الماضي، كتبتُ عن المؤشرات التي تدل على أن الوكالة تخفف من موقفها تجاه شركات الذكاء الاصطناعي. وبالفعل، في ديسمبر/كانون الأول الماضي، ألغت لجنة التجارة الفيدرالية حكماً صدر في عهد بايدن ضد شركة ذكاء اصطناعي سمحت للأفراد بنشر عدد هائل من التقييمات المزيفة للمنتجات عبر الإنترنت، معللاً ذلك بأنه يتعارض مع خطة عمل الرئيس ترامب للذكاء الاصطناعي.

ربما شكلت ورشة العمل التي عقدت فرصة لتسليط الضوء على مدى تحيز نهج لجنة التجارة الفيدرالية في التحقق من السن. تؤيد الولايات ذات الأغلبية الجمهورية القوانين التي تلزم مواقع الويب الإباحية بالتحقق من الأعمار (لكن النقاد يحذرون من إمكانية استخدام ذلك لحجب نطاق أوسع بكثير من المحتوى). وكان من المقرر أن تتحدث في اجتماع لجنة التجارة الفيدرالية بيثاني سوي، وهي ممثلة جمهورية في مجلس نواب ولاية ساوث داكوتا، التي تقود جهوداً لإقرار مشروع قانون مماثل في ولايتها. يعارض الاتحاد الأميركي للحريات المدنية عموماً القوانين التي تلزم بتقديم بطاقات هوية لزيارة المواقع الإلكترونية، وبدلاً من ذلك دعا إلى توسيع نطاق أدوات الرقابة الأبوية الحالية.

بينما يدور النقاش حول هذا كله، أشعل الذكاء الاصطناعي شرارة في عالم سلامة الأطفال. فنحن نواجه تزايداً في توليد مواد الاعتداء الجنسي على الأطفال، والمخاوف (والدعاوى القضائية) بشأن حالات الانتحار وإيذاء النفس التي تلي المحادثات مع بوتات الدردشة، والأدلة المقلقة على تعلق الأطفال برفقاء الذكاء الاصطناعي. وستؤدي المواقف المتضاربة بشأن الخصوصية والسياسة وحرية التعبير والمراقبة إلى تعقيد أي جهد لإيجاد حل. راسلوني بما لديكم من أفكار.