شارك
الرئيسية
3 دقائق 
إليك بعض الأخبار العاجلة الكاذبة…
أعلنت روسيا الحرب على الولايات المتحدة بعد أن قام دونالد ترامب عن طريق الخطأ بإطلاق صاروخ في الجو.
قالت روسيا إنها "حددت مسار الصاروخ وسوف تتخذ الإجراءات اللازمة لضمان أمن الشعب الروسي والقوات النووية الاستراتيجية للبلاد". وقال البيت الأبيض إنه "قلق للغاية من الانتهاك الروسي" لمعاهدة حظر الصواريخ الباليستية متوسطة المدى.
تشهد العلاقات بين الولايات المتحدة وروسيا توتراً منذ العام 2014، وذلك عندما ضمت موسكو لها منطقة القرم الأوكرانية ودعمت الانفصاليين في شرق أوكرانيا.
في الحقيقة هذه الرواية الإخبارية ليست مزيفة فحسب، بل إنها مثال مقلق أيضاً عن مستوى المهارة الذي بدأ يحرزه الذكاء الاصطناعي في خداعنا.
ذلك لأنها لم تكتب على يد بشرية، بل تم توليدها بشكل آلي من قبل خوارزمية تم تزويدها بالكلمات "أعلنت روسيا الحرب على الولايات المتحدة بعد أن قام ترامب عن طريق الخطأ..."
حيث قام البرنامج الحاسوبي بإتمام بقية الرواية بنفسه. ويمكنه أن يختلق تقارير إخبارية تبدو واقعية عن أي موضوع تقدمه له. تم تطوير البرنامج على يد فريق من شركة أوبن إيه آي، وهي مؤسسة بحثية مقرها في سان فرانسيسكو.
عمل الباحثون على تطوير خوارزمية لغوية ذات أغراض عامة، ليتم تدريبها على كمية هائلة من النصوص المتواجدة على الإنترنت، والتي ستكون قادرة على ترجمة النصوص، والإجابة عن الأسئلة، وتنفيذ مهام أخرى مفيدة. لكنهم سرعان ما ازداد قلقهم بشأن إمكانية إساءة الاستخدام. يقول جاك كلارك، مدير السياسات في أوبن إيه آي: "بدأنا باختبارها، وسرعان ما اكتشفنا إمكانية توليد محتوى ذي طابع خبيث بسهولة تامة".
يقول كلارك إن البرنامج يشير إلى الكيفية التي يمكن استخدامه بها لأتمتة توليد الأخبار الكاذبة المقنعة، أو منشورات وسائل التواصل الاجتماعي، أو أي محتوى نصي آخر. مثل هذه الأداة يمكنها أن تصدر تقارير إخبارية تنفي المعلومات المناخية، أو فضائح مشينة خلال الانتخابات. تمثل الأخبار المزيفة مشكلة بالفعل، ولكنها إذا كانت مؤتمتة، فقد يكون من الصعب تجاهلها. فقد تكون معدّة بالصيغة المثلى بالنسبة لفئات ديموغرافية معينة، أو أفراد معينين.
يقول كلارك قد لا يطول الأمر حتى يتمكن الذكاء الاصطناعي على نحو موثوق من تأليف روايات كاذبة، أو تغريدات كاذبة، أو تعليقات مضللة يمكنها أن تتصف بدرجات أعلى من الإقناع. يقول كلارك: "من الواضح جداً أن هذه التكنولوجيا تبلغ مرحلة ناضجة – وربما أمامها عامٌ أو اثنان – حيث يمكن استخدامها لأغراض نشر المعلومات المضللة أو الدعاية". ويضيف: " نحن نحاول استباق هذا الأمر".
قد يكون لهذه التكنولوجيا استخدامات مفيدة، بما في ذلك تلخيص النصوص أو تحسين مهارات المحادثة عند روبوتات الدردشة. يقول كلارك إنه استخدم الأداة حتى في إنشاء مقاطع على شكل قصص قصيرة من الخيال العلمي بنجاح مثير للدهشة.
تُجري أوبن إيه آي أبحاثاً أساسية في الذكاء الاصطناعي ولكنها تلعب أيضاً دوراً فعالاً في إبراز المخاطر المحتملة للذكاء الاصطناعي. وقد شاركت المؤسسة في تقرير للعام 2018 حول مخاطر الذكاء الاصطناعي، بما في ذلك فرص نشر المعلومات المضللة (اقرأ "هذه هي السيناريوهات التي وردت في مسلسل [بلاك ميرور] التي تجعل بعض الخبراء يدعون إلى التكتم على الذكاء الاصطناعي").
خوارزمية أوبن إيه آي ليس مقنعة دائماً بالنسبة للقارئ الذي يحسن التمييز. ففي كثير من الأحيان عندما يطلب منها إنشاء الأخبار، فإنها تنشئ كلاماً مترابطاً بشكل سطحي، أو نصاً يبدو بوضوح أنه تم اقتطاعه من مصادر إخبارية على الإنترنت.
لكنها مع ذلك غالباً ما تجيد إنشاء نصوص واقعية على نحو ملفت، لتعكس بذلك التطورات الحديثة التي يشهدها تطبيق التعلم الآلي على اللغات.
أتاحت أوبن إيه آي لمنصة إم آي تي تكنولوجي ريفيو استخدام أداة توليد النصوص لأغراض الاختبار، ولكنها ستتيح للعموم نسخة مبسطة فقط نظراً للمخاوف المتعلقة بالطرق التي يمكن إساءة استخدام هذه التكنولوجيا من خلالها. تعكف المؤسسة على نشر ورقة بحثية يوضح الخطوط العريضة لهذا العمل.
إن التقدم الذي يتم إحرازه في الذكاء الاصطناعي يساعد الآلات تدريجياً على تحسين فهمها للغات. فقد أحرز العمل الأخير تقدماً من خلال تزويد خوارزميات التعلم الآلي للأغراض العامة بكميات هائلة من النصوص. ينقل برنامج أوبن إيه آي هذا العمل إلى مستوى جديد، فقد تم تزويد النظام بنحو 45 مليون صفحة متواجدة على الإنترنت، تم اختيارها عبر الموقع Reddit. وخلافاً لمعظم خوارزميات اللغة، فإن برنامج أوبن إيه آي لا يتطلب نصاً مصنفاً أو منسقاً. فهو يتعلم ببساطة كيفية التعرف على الأنماط ضمن البيانات التي يتزود بها.
من جهته ريتشارد سوتشر، الخبر في معالجة اللغات الطبيعية وكبير العلماء في شركة سيلزفورس، يقول إن عمل أوبن إيه آي يقدم مثالاً جيداً عن نظام يتعلم اللغات لأغراض أكثر عمومية. حيث كتب يقول في رسالة إلكترونية: "أعتقد أن أنظمة التعلم العامة هذه تمثل المستقبل".
من ناحية أخرى، يبدو سوتشر أقل اكتراثاً بشأن إمكانية الخداع وتضليل المعلومات. يقول سوتشر: "أنت لست بحاجة للذكاء الاصطناعي لاختلاق أخبار كاذبة". ويضيف أخيراً مختتماً برمز يعبر عن الفكاهة: "يمكن للناس فعل ذلك بسهولة".