نموذج ذكاء اصطناعي يراقب مكالمات السجناء للتنبؤ بالجرائم: أمن أم انتهاك للخصوصية؟

عملت إحدى شركات الاتصالات الأميركية على تدريب نموذج ذكاء اصطناعي على سجل يمتد سنوات من المكالمات الهاتفية ومكالمات الفيديو للسجناء، وهي تعمل الآن على تجربة هذا النموذج لفحص مكالماتهم ورسائلهم النصية ورسائلهم الإلكترونية على أمل التنبؤ بالجرائم للحيلولة دون وقوعها.

قال رئيس شركة سيكيوروس تكنولوجيز، كيفن إلدر، لمجلة إم آي تي تكنولوجي ريفيو إن الشركة بدأت تطور أدوات الذكاء الاصطناعي الخاصة بها في عام 2023، باستخدام قاعدة بياناتها الضخمة للمكالمات المسجلة لتدريب نماذج الذكاء الاصطناعي على اكتشاف النشاط الإجرامي. فقد أنشأت نموذجاً واحداً، على سبيل المثال، بالاعتماد على 7 سنوات من المكالمات التي أجراها النزلاء في نظام السجون في ولاية تكساس، لكنها تعمل على بناء نماذج أخرى خاصة بالولاية أو المقاطعة.

الذكاء الاصطناعي لمراقبة المكالمات

يقول إلدر إنه على مدار العام الماضي، عملت شركة سيكيوروس على تجربة أدوات الذكاء الاصطناعي لمراقبة محادثات النزلاء في الزمن الحقيقي (رفضت الشركة تحديد المكان الذي يجري فيه ذلك، لكن عملاءها يشملون السجون التي تحتجز أشخاصاً لم يخضعوا للمحاكمة بعد، والسجون التي يقضي فيها السجناء أحكاماً بالسجن، ومرافق الاحتجاز التابعة لإدارة الهجرة والجمارك).

يقول إلدر: "يمكننا توجيه هذا النموذج اللغوي الكبير نحو كنز دفين كامل من البيانات، لاكتشاف الأوقات التي يفكر فيها الآخرون في ارتكاب الجرائم أو يخططون لتنفيذها، وفهم هذا كله بحيث يمكن إيقافها في مرحلة مبكرة جداً من دورة الجرائم".

فكما هي الحال مع أدوات المراقبة الأخرى، يمكن للمحققين في مراكز الاحتجاز استخدام ميزات الذكاء الاصطناعي لمراقبة المحادثات المختارة عشوائياً أو تلك الخاصة بالأفراد الذين يشتبه محققو المركز في ارتكابهم أنشطة إجرامية، على حد قول إلدر. وسيتولى النموذج تحليل المكالمات الهاتفية ومكالمات الفيديو والرسائل النصية والرسائل الإلكترونية، ثم يحدد المقاطع التي ينبغي لعناصر الشرطة البشريين مراجعتها. ثم يرسلها هؤلاء العناصر إلى المحققين للمتابعة لاحقاً.

في مقابلة، قال إلدر إن جهود المراقبة التي تبذلها شركة سيكيوروس ساعدت على تعطيل أنشطة الاتجار بالبشر وأنشطة العصابات التي تنظم من داخل السجون، من بين جرائم أخرى، وقال إن أدواتها تستخدم أيضاً لتحديد موظفي السجون الذين يجلبون البضائع المهربة. لكن الشركة لم تزود إم آي تي تكنولوجي ريفيو بأي حالات جرى اكتشافها على وجه التحديد بواسطة نماذج الذكاء الاصطناعي الجديدة.

مخاوف انتهاك الخصوصية حاضرة بقوة

يتلقى الأشخاص في السجن، ومن يتصلون بهم أيضاً، إخطاراً بأن محادثاتهم مسجلة. لكن هذا لا يعني أنهم على علم بأن تلك المحادثات يمكن استخدامها لتدريب نموذج الذكاء الاصطناعي، على حد قول المديرة التنفيذية لمجموعة وورث رايزز المدافعة عن حقوق السجناء، بيانكا تايلك.

تقول تايلك: "هذه موافقة قسرية؛ إذ لا توجد أي طريقة أخرى للتواصل مع عائلتك". وتضيف أنه نظراً إلى أن السجناء في الغالبية العظمى من الولايات يدفعون مقابل هذه المكالمات، "فأنت لا تحرمهم من التعويض مقابل استخدام بياناتهم فحسب، بل أنت في الواقع تفرض عليهم رسوماً في أثناء جمع بياناتهم".

وقال متحدث باسم الشركة إن المرافق الإصلاحية تحدد سياسات التسجيل والمراقبة الخاصة بها، التي تتبعها شركة سيكيوروس، ولم يجب بصورة مباشرة عما إذا كان بإمكان النزلاء اختيار عدم استخدام تسجيلاتهم لتدريب الذكاء الاصطناعي.

يقول مدافعون آخرون عن حقوق السجناء إن لدى شركة سيكيوروس سجلاً حافلاً في انتهاك حرياتهم المدنية. على سبيل المثال، أظهرت تسريبات لقواعد بيانات التسجيلات الخاصة بها أن الشركة سجلت بأسلوب غير مناسب آلاف المكالمات بين السجناء ومحاميهم. تقول نائبة مدير المشروع الوطني للسجون التابع للاتحاد الأميركي للحريات المدنية، كورين كندريك، إن نظام الذكاء الاصطناعي الجديد يتيح نظاماً للمراقبة الجائرة، ولم تحدد المحاكم سوى حدود قليلة لهذه الصلاحية.

تقول كندريك: "هل سنتمكن من إيقاف الجريمة قبل وقوعها لأننا نراقب كل ما يصدر عن المسجونين من أقوال وأفكار؟" وتضيف: "أعتقد أن هذه واحدة من الحالات العديدة التي تتفوق فيها التكنولوجيا كثيراً على القانون".

اقرأ أيضاً: كيف تعمل المصادقة البيومترية؟

سيكيوروس: لا نراقب الأفراد دون مبرر!

وقال المتحدث باسم شركة سيكيوروس إن الأداة "لا تركز على مراقبة أفراد معينين أو استهدافهم، بل على تحديد الأنماط الأوسع نطاقاً والحالات الشاذة والسلوكيات غير القانونية عبر نظام الاتصالات بأكمله". وأضاف أن وظيفتها هي زيادة كفاءة المراقبة في ظل نقص الموظفين، "وليس مراقبة الأفراد دون مبرر".

ستتمكن شركة سيكيوروس من تمويل أداة الذكاء الاصطناعي الخاصة بها بسهولة أكبر، بفضل فوزها مؤخراً في معركة مع الجهات الرقابية حول كيفية إنفاق شركات الاتصالات للأموال التي تجمعها من مكالمات السجناء.

في عام 2024، أقرت لجنة الاتصالات الفيدرالية إصلاحاً كبيراً، صاغه المدافعون عن حقوق السجناء وأشادوا به، منع شركات الاتصالات من تحميل السجناء تكاليف تسجيل المكالمات ومراقبتها. سمح للشركات بمواصلة فرض رسوم محددة على السجناء مقابل المكالمات، ولكن أمرت السجون ومراكز الاعتقال بدفع معظم التكاليف الأمنية من ميزانياتها الخاصة.

كانت ردود الفعل السلبية على هذا التغيير سريعة. فقد اشتكت جمعيات مدراء الشرطة (الذين يديرون عادة سجون المقاطعات) من أنهم لم يعودوا قادرين على تحمل تكاليف المراقبة السليمة للمكالمات، ورفع المدعون العامون من 14 ولاية دعاوى قضائية بشأن هذا القرار. وحذر بعض السجون ومراكز الاعتقال من أنها ستمنع الوصول إلى المكالمات الهاتفية.

بينما كانت شركة سيكيوروس تطور أداة الذكاء الاصطناعي الخاصة بها وتجربها، عقدت اجتماعات مع لجنة الاتصالات الفيدرالية وضغطت من أجل تغيير القواعد، بحجة أن إصلاح عام 2024 تخطى الحدود كثيراً، وطلبت من الوكالة أن تسمح للشركات مرة أخرى باستخدام الرسوم التي يجري تحصيلها من السجناء لدفع تكاليف الأمن.

في يونيو/حزيران الماضي، قال بريندان كار، الذي عينه الرئيس الأميركي دونالد ترامب لقيادة لجنة الاتصالات الفيدرالية، إن الوكالة ستؤجل جميع المواعيد النهائية للسجون ومراكز الاعتقال لتبني إصلاحات 2024، وأشار أيضاً إلى أن الوكالة تريد مساعدة شركات الاتصالات على تمويل جهود المراقبة بالذكاء الاصطناعي من الرسوم التي يدفعها السجناء. في بيان صحفي، كتب كار قائلاً إن التراجع عن إصلاحات 2024 "سيؤدي إلى اعتماد أوسع نطاقاً لأدوات السلامة العامة المفيدة التي تشمل الذكاء الاصطناعي المتقدم والتعلم الآلي".

في 28 أكتوبر/تشرين الأول، ذهبت الوكالة إلى أبعد من ذلك؛ فقد صوتت لتمرير حدود قصوى جديدة أعلى للأسعار والسماح لشركات مثل سيكيوروس بتحميل السجناء التكاليف الأمنية المتعلقة بتسجيل المكالمات ومراقبتها، مثل تخزين التسجيلات أو تدوينها أو بناء أدوات الذكاء الاصطناعي لتحليل هذه المكالمات. وقال المتحدث باسم شركة سيكيوروس لإم آي تي تكنولوجي ريفيو إن الشركة تهدف إلى تحقيق التوازن بين القدرة على تحمل التكاليف والحاجة إلى تمويل أدوات السلامة والأمن الأساسية. وكتبوا قائلين: "هذه الأدوات، التي تشمل قدراتنا المتقدمة في المراقبة والذكاء الاصطناعي، أساسية للحفاظ على مرافق آمنة للسجناء وموظفي الإصلاحيات، ولحماية الجمهور".

عارضت مفوضة لجنة الاتصالات الفيدرالية، آنا غوميز، قرار الشهر الماضي. وكتبت في بيان لها: "على جهات إنفاذ القانون أن تتحمل تكاليف الأمن والسلامة غير ذات الصلة، لا أن يقع ذلك على عاتق عائلات المسجونين".

ستطلب لجنة الاتصالات الفيدرالية التعليق على هذه القواعد الجديدة قبل أن تدخل حيز التنفيذ النهائي.