لماذا تكون المعلومات المزيفة التي يولدها الذكاء الاصطناعي أكثر إقناعاً من تلك التي يولدها البشر؟

تشير دراسة جديدة إلى أن المعلومات المزيفة التي يولدها الذكاء الاصطناعي قد تكون أكثر إقناعاً من المعلومات المزيفة التي يكتبها البشر.

وجد البحث أن قدرة البشر على كشف التغريدات المزيفة التي ولدها الذكاء الاصطناعي أقل من قدرتهم على كشف التغريدات المزيفة التي كتبها البشر بنسبة 3%.

وعلى الرغم من صغر هذا الفارق في المصداقية، إلا أنه مثير للقلق، لأن مشكلة المعلومات المزيفة التي يولدها الذكاء الاصطناعي تتجه نحو التفاقم إلى درجة كبيرة، كما يقول الباحث في جامعة زيورخ، جيوفاني سبايتيل، الذي قاد الدراسة المنشورة مؤخراً في مجلة ساينس أدفانسز (Science Advances).

توليد المعلومات المزيفة بالذكاء الاصطناعي أكثر فعالية

ويقول: "لا تتسم عملية توليد المعلومات المزيفة بالذكاء الاصطناعي بأنها أسرع وأقل تكلفة وحسب، بل تتسم بأنها أكثر فعالية أيضاً، وهو ما يصيبني بخوف مطبق". يعتقد سبايتيل أنه إذا كرر الفريق الدراسة باستخدام أحدث نموذج لغوي كبير من شركة أوبن أيه آي، جي بي تي 4، فسوف تزداد قيمة هذا الفارق، بما أن قدرة جي بي تي 4 أكبر بكثير.

اختار الباحثون موضوعات شائعة تعج بالمعلومات المزيفة، بما فيها التغير المناخي وجائحة كوفيد-19، بغية اختبار قابليتنا للتأثر بأنواع مختلفة من النصوص. بعد ذلك، طلبوا من النموذج اللغوي الكبير جي بي تي 3 من أوبن أيه آي توليد 10 تغريدات حقيقية و10 تغريدات مزيفة، وجمعوا عينات عشوائية من التغريدات الحقيقية والمزيفة من منصة تويتر.

وفي المرحلة التالية، جمع الفريق 697 شخصاً لإنجاز اختبار عبر الإنترنت لتحديد ما إذا كانت التغريدات قد ولدها الذكاء الاصطناعي أو أنها جُمعت من تويتر، ولتحديد ما إذا كانت التغريدات دقيقة أو تحتوي على معلومات مزيفة. فوجدوا أن احتمال تصديق المشاركين للتغريدات الكاذبة التي ألّفها البشر أقل بنسبة 3% من تلك التي ألّفها الذكاء الاصطناعي.

تزييف الذكاء الاصطناعي أكثر إقناعاً

الباحثون ليسوا واثقين تماماً من السبب الذي يدفع الناس إلى تصديق تغريدات الذكاء الاصطناعي أكثر من التغريدات البشرية. ولكن، من المحتمل أن هذا يتعلق بطريقة ترتيب جي بي تي 3 للمعلومات في النصوص، على حد تعبير سبايتيل الذي يقول: "تميل نصوص جي بي تي-3 إلى أن تكون أكثر تنظيماً بقليل بالمقارنة مع النصوص الطبيعية [التي يكتبها البشر]، لكنها أكثر كثافة أيضاً، ما يجعل معالجتها أكثر سهولة".

أدت طفرة الذكاء الاصطناعي التوليدي إلى جعل أدوات الذكاء الاصطناعي الفعالة في متناول الجميع بسهولة، بمن فيهم الأطراف الخبيثة. تستطيع النماذج مثل جي بي تي 3 توليد نصوص خاطئة تبدو مقنعة، ما يتيح استخدامها لتوليد روايات مزيفة بسرعة وبتكلفة زهيدة لمنظّري المؤامرة وحملات التضليل. ما زالت الأسلحة المعتمدة لمكافحة هذه المشكلة –أي أدوات كشف النصوص التي ألفها الذكاء الاصطناعي- في مراحلها الأولية من التطوير، وإضافة إلى هذا، ما زال الكثير منها يرتكب بعض الأخطاء.

تدرك أوبن أيه آي أن تحويل أدوات الذكاء الاصطناعي إلى أسلحة لإنتاج حملات تضليل واسعة النطاق أمر ممكن. أصدرت الشركة تقريراً في شهر يناير/ كانون الثاني تحذر فيه -على الرغم من أن هذا ينتهك سياساتها الخاصة- من أن "ضمان عدم استخدام النماذج اللغوية الكبيرة لتوليد المعلومات المزيفة يكاد يكون مستحيلاً". طلبنا من أوبن أيه آي الإدلاء بتعليق بشأن هذا الأمر، ولكننا لم نتلق ردها على الفور.

ومع ذلك، حثت الشركة أيضاً على توخي الحذر فيما يتعلق بالمبالغة في تقدير تأثير حملات التضليل. يقول مؤلفو تقرير أوبن أيه آي إن ثمة حاجة إلى إجراء المزيد من الأبحاث لتحديد الشرائح السكانية الأكثر عرضة لخطر المحتوى المزيف الذي يولده الذكاء الاصطناعي، إضافة إلى دراسة العلاقة القائمة بين حجم نموذج الذكاء الاصطناعي والمستوى العام لأدائه أو قدرته على الإقناع.

يقول الباحث في مرحلة ما بعد الدكتوراة، جون روزينبيك، الذي يدرس المعلومات المزيفة في قسم علم النفس بجامعة كامبريدج، والذي لم يشارك في الدراسة، ما يزال من المبكر جداً أن نشعر بالذعر.

يقول روزينبيك إنه على الرغم من أن نشر المعلومات المزيفة على الإنترنت قد يصبح أسهل وأقل تكلفة باستخدام الذكاء الاصطناعي، بالمقارنة مع مزارع الإشاعات (والرسائل المزعجة) التي تعتمد على البشر، إلا أن أنظمة المراقبة وأنظمة الكشف الآلي على منصات الشركات التكنولوجية ما زالت تعيق انتشارها.

ويضيف قائلاً: "يستطيع الذكاء الاصطناعي، وبسهولة أكبر، كتابة تغريدة قد تبدو أكثر إقناعاً مما يؤلفه شخص ما في مكان ما (يمثل توجهات مغرضة)، ولكن هذا لا يعني بالضرورة أن الجميع أصبحوا عرضة للتلاعب بسهولة".