كيف يمكنك كشف فيديوهات التزييف العميق بسهولة؟

في السنوات الأخيرة تطورت تكنولوجيا التزييف العميق (Deepfake) لدرجة أنه أصبح من الصعب بشكل متزايد معرفة ما إذا كان مقطع الفيديو الذي نشاهده مزيفاً أو حقيقياً، وهذا يعود إلى أن طريقة إنشائه تستخدم فيها خوارزميات الذكاء الاصطناعي للحصول على عينات حقيقية من الصوت أو الفيديو أو الصور وتجميعها معاً لإنشاء الفيديو من أجل استخدامه لأغراض مختلفة، مثل نشر معلومات مضللة على الإنترنت (حول الشخصيات أو الأحداث السياسية)، والسرقة (أوامر صوتية مزيفة)، وإنشاء مواد إباحية (مع المشاهير)، والاحتيال (المضايقة والإقناع).

حيث نجد أن الآثار المترتبة على هذه التكنولوجيا مع استمرار تطورها أصبحت تشكل مخاطرة كبيرة، وتمثل تهديداً جديداً في عالم الأمن السيبراني، فكيف نحمي أنفسنا وكيف يمكننا تمييز الفيديوهات الحقيقية عن الفيديوهات المزيفة المنشأة بواسطة هذه التكنولوجيا؟

ما خطورة تكنولوجيا التزييف العميق وآثارها على الحقيقة؟

في حين أن عمليات تزوير المحتوى المرئي ليست جديدة، حيث كان ولا يزال الأشخاص يستبدلون الوجوه على الصور منذ سنوات، فإن تكنولوجيا التزييف العميق تأخذ هذه العملية إلى مستوى آخر تماماً من خلال دمج نماذج الذكاء الاصطناعي مثل التعلم العميق والتعلم الآلي لإنشاء محتوى فيديو أو صوتي يصعب اكتشافه أو تمييزه عن الحقيقي بكميات كبيرة وجهد يدوي بسيط.

على سبيل المثال، في الماضي كان حتى التلاعب بصورة واحدة باستخدام برنامج الفوتوشوب يتطلب مستوى معيناً من المهارة والجهد، ولكن مع هذه التكنولوجيا يمكن التلاعب بمقاطع الفيديو الطويلة بنقرة زر واحدة. علاوة على ذلك عند دمجها مع تقنية ناشئة مشابهة تسمى استنساخ الصوت أو التزييف العميق للصوت (Voice Deepfake) التي تستخدم الذكاء الاصطناعي لتوليد نسخة من صوت الشخص، يمكن إنشاء محتوى مرئي صوت وصورة لا يمكن تمييزه تقريباً.

وعلى الرغم من النقاش الكثيف الذي ظهر حول فوائد هذه التكنولوجيا، فإنه مثلها مثل أي تكنولوجيا لديها بعض الأخطار المحتملة، حيث تم استخدامها بالفعل في تنفيذ العديد من العمليات الاحتيالية والابتزاز ونشر الأخبار المزيفة والمضللة. على سبيل المثال مع استمرار الحرب الروسية الأوكرانية انتشر فيديو في أحد مواقع الأخبار الأوكرانية (تم اختراقه) للرئيس الأوكراني يدعو جنوده لإلقاء أسلحتهم والاستسلام.

حيث انتشر مقطع الفيديو بعد ذلك على نطاق واسع قبل أن يتم اكتشاف أنه مزيف، وفي حين أن الأضرار الدقيقة لهذه الحادثة لا تزال غير معروفة، إلا أنها أظهرت أحد أخطر التطبيقات العملية لهذه التكنولوجيا، بحيث إنه إذا لم يتم الإبلاغ عن مثل هذه الفيديوهات على أنها مزيفة بسرعة، فقد يؤدي ذلك إلى خسائر في الأرواح وتغيير مسار أي صراع يحدث.

وعلى المستوى الشخصي والأكثر خصوصية، يمكن استخدام هذه التقنية نفسها كشكل من أشكال التصيد الاحتيالي في مكان العمل. على سبيل المثال، يمكن لمجرمي الإنترنت اختراق اجتماعات الفيديو وانتحال شخصية مدير الشركة وجعل المجتمعين يقدمون معلومات حساسة عن الشركة، ما ينبئ بخطورة هذه التكنولوجيا في حالة استخدامها من قِبل مجرمي الإنترنت والمحتالين عبر الإنترنت.

كيف يمكنك اكتشاف فيديوهات التزييف العميق؟

وفقاً لشركة الأبحاث جارتنر (Gartner) فإن مقاطع فيديو التزييف العميق أصبحت تشكل تهديداً متزايداً على الأمن السيبراني، حيث تتوقع الشركة أن تنفق الشركات ما يصل إلى 188 مليار دولار على حلول الأمن السيبراني وحدها في عام 2024، علاوة على ذلك يعد اكتشاف محتوى فيديوهات التزييف العميق عبر الإنترنت تحدياً كبيراً يتطلب تحركاً سريعاً في تطوير آليات الكشف المضادة وتعاوناً عبر صناعة التكنولوجيا بأكملها.

من أجل هذا الغرض ظهرت العديد من المبادرات والمسابقات، مثل مسابقة تحدي اكتشاف التزييف العميق (Deepfake Detection Challenge، اختصاراً (DFDC) في عام 2020 والتي وصل مجموع جوائزها إلى مليون دولار.

فقد اجتمعت العديد من شركات التكنولوجيا الكبرى واللجنة التوجيهية لنزاهة وسائل الإعلام التابعة لمنظمة العفو الدولية ولفيف من الخبراء والأكاديميين، من أجل مواجهة خطر هذا التكنولوجيا الناشئة، حيث كان الهدف من المسابقة هو تحفيز الباحثين في جميع أنحاء العالم على بناء تقنيات جديدة ومبتكرة يمكن أن تساعد في اكتشاف التزييف العميق والمحتوى المرئي الذي تم التلاعب به.

أول أداة لكشف محتوى التزييف العميق في الوقت الحقيقي

بالإضافة إلى العديد من المبادرات والمسابقات التي تظهر كل عام والمتعلقة بتطوير أدوات وأساليب أكثر تطوراً لاكتشاف محتوى التزييف العميق، عملت أيضاً العديد من الشركات على تطوير أدواتها الخاصة لاكتشاف فيديوهات التزييف العميق.

حيث كشفت شركة إنتل مؤخراً عن أداة متطورة لكشف فيديوهات التزييف العميق تسمى فيك كاتشر (FakeCatcher) التي تعتبر أول أداة في العالم تعمل على اكتشاف محتوى التزييف العميق في الوقت الحقيقي، والتي تعرض النتائج في أجزاء من الثانية بمعدل دقة يصل إلى 96%.

وتعمل الأداة في البحث عن أدلة حقيقية في مقاطع الفيديو المشتبه بها، من خلال تقييم ما يجعلنا بشراً وهو تدفق الدم، وللتوضيح أكثر، عندما تضخ قلوبنا الدم يتغير لون عروقنا، وعبر هذه الميزة تقوم الأداة بجمع إشارات تدفق الدم هذه من جميع أنحاء الوجه في مقطع الفيديو، ثم تقوم الخوارزميات بترجمة هذه الإشارات إلى خرائط زمانية مكانية، بعد ذلك باستخدام نموذج التعلم العميق يمكنها على الفور اكتشاف ما إذا كان الفيديو حقيقياً أم مزيفاً.

وتنبع أهمية هذه الأداة في أن معظم أدوات كشف فيديوهات التزييف العميق حالياً لا تعمل بشكل كامل على اكتشاف مقاطع الفيديو المزيفة في الوقت الفعلي، حيث تتطلب تحميل مقاطع الفيديو لتحليلها، ثم الانتظار لساعات للحصول على النتائج، وهو ما يمكن أن يسبب ضرراً كبيراً ويؤدي إلى عواقب سلبية، مثل تضاؤل الثقة في وسائل الإعلام.

لكن أداة فيك كاتشر يمكنها أن تعمل على استعادة الثقة من خلال تمكين المستخدمين من التمييز بين المحتوى الحقيقي والمزيف في الوقت الحقيقي وفي أجزاء من الثانية، بالإضافة إلى ذلك يمكن استخدام الأداة في العديد من الحالات الأخرى، مثل مساعدة منصات التواصل الاجتماعي في منع المستخدمين من تحميل مقاطع فيديو مولدة بالذكاء الاصطناعي، كما يمكن للمؤسسات الإخبارية العالمية استخدام الأداة لتجنب نشر مقاطع الفيديو التي تم التلاعب بها عن غير قصد.

كيف يمكنك اكتشاف فيديوهات التزييف العميق؟

بينما يمكن أن يكون الوصول إلى مثل هذه الأدوات غير متاح للمستخدمين العاديين، إلا أنه في الوقت نفسه لا يعد اكتشاف فيديوهات التزييف العميق للمستخدم العادي صعباً للغاية، حيث إن هناك العديد من الطرق التي يمكن استخدامها للتعرف إلى الفيديوهات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، من ضمنها:

حركات غير طبيعية للعين: وعلى الأخص عدم تكرار حركة رمش العينين، حيث إنه من الصعب على خوارزميات التزييف العميق تقليد هذه الحركة بطريقة تبدو طبيعية.
عدم تطابق اللون والإضاءة: غالباً ما تشير درجات لون البشرة غير العادية والبقع والإضاءة الغريبة والظلال ذات الوضع الغريب إلى أن ما تراه قد يكون مزيفاً.
تباين جودة الصوت: عادة ما يركّز منشئو فيديوهات التزييف العميق على العناصر المرئية أكثر من التركيز على الأصوات، لذا يمكن مراقبة حركة الفم لاكتشاف أي مزامنة شفاه محتملة.
الشكل الغريب للجسم أو حركته: إذا ظهر الشخص في الفيديو بشكل غريب للجسم أو يبدو متوقفاً عن الحركة عندما يلتفت جانباً، فهذا يعني أن الفيديو مريب ويدعو للشك.
حركات الوجه الاصطناعية: قد يكون الفيديو مزيفاً إذا لم يظهر وجه شخص ما المشاعر التي يجب أن تتوافق مع ما يقوله.
مواضع غير طبيعية لملامح الوجه: مثل توجيه وجه وأنف شخص ما في اتجاهات مختلفة.
الشكل العام للجسم: نظراً إلى أن منشئي فيديوهات التزييف العميق يركّزون عادةً على ميزات الوجه، فقد تظهر عناصر شاذة في الشكل العام للجسم، مثل عندما يكون رأسه وجسمه في وضع محرج أو غير متسق.