باحثون من جامعة محمد بن زايد يطوّرون طريقة لكشف المعلومات المزيفة باستخدام تشات جي بي تي

على مبدأ "داوها بالتي كانت هي الداء"، طوّر باحثون من جامعة محمد بن زايد، بالتعاون مع عدة جامعات عالمية، نظاماً يمكنه التحقق من صحة المعلومات المضللة التي ولّدتها بوتات الدردشة مثل تشات جي بي تي، بالاعتماد على تشات جي بي تي نفسه.

معلومة حقيقية أمْ مزيفة؟

أدّت حرية النشر على الإنترنت إلى سيلٍ من المعلومات الصحيحة والخاطئة، كما أدّى ظهور الذكاء الاصطناعي التوليدي إلى تسريع تطوير ونشر المحتوى بشكلٍ كبير وسريع. وعلى العكس من ذلك، فإن التحقق من صحة المعلومات عملية بطيئة وتتأثر بالأخبار المزيفة والمعلومات المضللة.

التوصل إلى حقيقة في الرياضيات أمرٌ ممكن لأن الرياضيات تخضع لصرامة التفكير الرياضي. لكن إثبات حقيقة المعلومات المضللة المنشورة في وسائل التواصل الاجتماعي يمثّل تحدياً كبيراً، فحقيقته تتأثر بالكاتب والناشر وغيرهما الكثير من الأشخاص الذين لا حصر لهم ويسعون إلى إخفاء الحقائق أو الاختلاف حولها، لذلك أصبح التحقق الآلي من الحقائق تطبيقاً مهماً لمعالجة اللغة الطبيعية.

كشف زيف الحقائق بالاعتماد على تشات جي بي تي

من أجل كشف حقيقة هذه الأخبار من زيفها، عمل الباحثون في جامعة محمد بن زايد، بالتعاون مع باحثين من جامعة كاليفورنيا سانتا باربرا، وجامعة نانيانغ للتكنولوجيا، والجامعة الوطنية في سنغافورة، على تسخير قوة تشات جي بي تي للتحقق السريع من صحة المعلومات التي تنتشر بسرعة على الإنترنت، والتي قد تكون مكتوبة من قِبل تشات جي بي تي نفسه أو غيره من بوتات الدردشة.

وضع الباحثون نظاماً أطلقوا عليه اسم "بروغرام إف سي" (ProgramFC)، يمكنه أخذ المعلومات المعقدة وتقسيمها إلى الأجزاء المكونة لها أو بياناتها، ويفحصها بغية إصدار حكم يُشير إلى صحتها أو زيفها. خضع النظام لمعايير صارمة أثناء تطويره لذلك تفوّق على جميع الأنظمة المعروفة والمماثلة له.

لتجربة النظام، كان الباحثون يفتحون تشات جي بي تي، ويعطون النظام مهاماً مختلفة تتعلق بتدقيق الحقائق.

أجرى الباحثون بعض الاختبارات المنظّمة، حتى حصلوا بالتجريب على أفضل نتيجة تساعد على التحقق من صحة الادعاءات.

كانت أفضل الطرق طريقة التفكير المتسلسل، التي تقلل العبء على النموذج اللغوي الكبير، وتتمتع بالمرونة في تدقيق الحقائق، ويُقصد بالتفكير المتسلسل قدرة النظام على تفكيك أجزاء من المحتوى وتحليلها بسرعة عبر سلسلة من خطوات التفكير البسيطة، فهو يترجم الادعاءات المعقدة إلى برنامج حاسوبي موجز ينفذ الخطة المنطقية للتحقق من الحقائق. وبذلك، يتكون البرنامج من ثلاثة عناصر أساسية: الإجابة عن أسئلة بسيطة، والتحقق من صحة الادعاءات البسيطة، وحل التعبيرات المنطقية.

في ورقتهم البحثية المنشورة في موقع (arxiv)، طرح الباحثون مثالاً يقول "وُلِد جيمس كاميرون ومخرج فيلم "إنترستيللر" في كندا". يحلل النظام هذا الادعاء المعقد إلى برنامج تفكير يتكون من ثلاث خطوات منطقية: مكان ولادة جيمس كاميرون، ومخرج فيلم إنترستيللر، ومكان ولادة المخرج المذكور. بعد عمل مخطط التفكير هذا، يفوض البرنامج كل مهمة فرعية إلى وكيل خارجي مناسب، مثل محرك الإجابة عن الأسئلة، لحل كل مشكلة فرعية على حدة.

بعد ذلك، يحدد النظام، بناء على حقيقة أن كريستوفر نولان كان مخرج إنترستيللر، وولد في المملكة المتحدة، أن هذا الادعاء خاطئ. وفي النهاية، يترجم البرنامج النتيجة إلى لغة بشرية بسيطة، يمكن للمستخدمين فهمها. وبذلك يكون النظام ذا فائدة لكلٍّ من عامة الناس ومدققي الحقائق.

يتميز نظام "بروغرام إف سي" أيضاً بقدرته على تجنب الوقوع في فخ الصندوق الأسود الذي يقع فيه العديد من أنظمة الذكاء الاصطناعي اليوم، والذي يمنع المستخدمين البشر من الفهم الكامل لكيفية توصل النظام إلى استنتاجاته.

قال بريسلاف ناكوف، رئيس قسم المعالجة باللغة الطبيعية في جامعة محمد بن زايد، والمشارك في الدراسة: "إن انتشار المعلومات المضللة بأشكالٍ مختلفة، وخاصة في وسائل التواصل الاجتماعي، جعل التحقق الآلي من الحقائق تطبيقاً مهماً لمعالجة اللغة الطبيعية. لقد شرعنا في تطوير نظام تدقيق للحقائق يتسم بالكفاءة، ويمكن تفسيره، ويمكنه تطبيق التفكير المعقد لضمان تحقيق معدل عالٍ من النجاح، كما أن "بروغرام إف سي" يعد خطوة ممتازة في هذا الاتجاه".

علاوة على ذلك، يتميز النظام بزيادة فاعليته كلما كان الإدعاء أعمق، حيث تزداد الخطوات اللازمة للتحقق من صحة الادعاء بشكلٍ كامل، ويصبح النظام أكثر قدرة على الوصول إلى استنتاج أكثر دقة.

من جهةٍ أخرى، تنخفض قدرة البرنامج على التحقق من الادعاءات الضمنية، مثل "لم يكن بإمكان أرسطو استخدام جهاز كمبيوتر محمول"، فهذا التركيب أكثر صعوبة في التعامل معه، وقد سجل النظام أسوأ استجابة في مثل هذه السيناريوهات، ويعمل الباحثون على تحسينه من هذه الناحية. كما يقول الفريق إن البرنامج له بصمة كربونية كبيرة، ويعملون على معالجة هذه المشكلة.