شارك
الرئيسية
2 دقائق 
يمكن لخوارزميات الذكاء الاصطناعي أن تولد نصوصاً مقنعة بدرجة كافية لخداع الإنسان العادي، مما قد يوفر وسيلة لإنتاج أخبار مزيفة، ودراسات استعراضية وآراء نقدية مزيفة، وحسابات وهمية على مواقع التواصل الاجتماعي. ولحسن الحظ، أصبح بالإمكان الآن استخدام الذكاء الاصطناعي أيضاً للتعرف على النصوص المزيفة.
يقول الخبر
قام باحثون من جامعة هارفارد ومختبر إم آي تي-آي بي إم للذكاء الاصطناعي واتسون بتطوير أداة جديدة لاكتشاف النصوص التي تم إنشاؤها باستخدام الذكاء الاصطناعي، تسمى هذه الأداة "غرفة اختبار نموذج اللغة العملاقة" (GLTR)، وهي تستغل فكرة أن مولدات النصوص بالذكاء الاصطناعي تعتمد على الأنماط الإحصائية في النص، بدلاً من المعاني الفعلية للكلمات والجمل. بمعنى آخر: يمكن لهذه الأداة معرفة ما إذا كانت الكلمات التي تقرأها أنت تبدو سهلةَ التنبؤ للغاية لأنه تمت كتابتها على يد واحد من البشر.
خلفية الخبر
أصبح إنتاج المعلومات المضللة عملية مؤتمة على نحو متزايد، وبدأت التكنولوجيا اللازمة لتوليد نصوص وصور زائفة تحقق تقدماً متسارعاً. وقد تصبح الأدوات التي تعتمد على الذكاء الاصطناعي مثل هذه الأداة، أسلحةً لا يستهان بها في معركة الكشف عن الأخبار المزيفة، والتزييف العميق، وروبوتات تويتر البرمجية.
التزوير
أجرى عدد من الباحثين في أوبن إيه آي مؤخراً اختباراً عملياً على خوارزمية يمكنها أن تتخيل مقاطع نصية واقعية على نحو مثير للدهشة؛ حيث قاموا بإدخال كميات هائلة من النصوص إلى نموذج ضخم للتعلم الآلي، بعد أن تم تعليمه كيفية التقاط (وتعلّم) الأنماط الإحصائية في هذه الكلمات. وقد قام فريق هارفارد بتطوير أداتهم باستخدام نسخة من الرماز البرمجي الخاص بأوبن إيه آي، الذي تم نشره للعموم.
كيف يمكن التنبؤ بالنص؟
توضح GLTR الكلمات التي من المحتمل إحصائياً أن تظهر بعد الكلمة التي تسبقها في النص، وكما هو موضح في المقطع النصي أعلاه (وهو من رواية "سخرية لا نهائية" Infinite Jest)، تظهر الكلمات الأكثر قابلية للتنبؤ بها باللون الأخضر، في حين تظهر الكلمات الأقل قابلية للتنبؤ بها باللونين الأصفر والأحمر، أما الكلمات الأقل قابلية للتنبؤ بها على الإطلاق فتظهر باللون الأرجواني.
عند اختبار الأداة على مقتطفات من النص المكتوب بواسطة خوارزمية أوبن إيه آي، فإنها تعثر على الكثير من الكلمات القابلة للتنبؤ. كما أن المقالات الإخبارية الحقيقية والملخصات العلمية تحتوي على المزيد من المفاجآت.
العقل والآلة
قام الباحثون القائمون على تطوير GLTR بإجراء تجربة أخرى أيضاً؛ حيث طلبوا من طلاب هارفارد أن يتعرفوا على النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي، على أن يقوموا بذلك أولاً من دون استخدام الأداة، ومن ثم بالاعتماد على تمييز النص بالألوان الذي تقوم به الأداة. وكان الطلاب قادرين على اكتشاف نصف التراكيب المزيفة بمفردهم، في حين وصلت نسبة الاكتشاف إلى 72% عند استخدامهم للأداة. يقول سيباستيان جيرمان، وهو طالب دكتوراه مشارك في العمل: "هدفنا هو إنشاء أنظمة يتعاون فيها البشر مع الذكاء الاصطناعي".
إن كنت مهتماً بالأمر، يمكنك تجربة الأداة بنفسك هنا.