جيل جديد من عمليات الاحتيال: كيف يحوّل الذكاء الاصطناعي الإنترنت إلى ساحة خداع؟

بينما يعمل الذكاء الاصطناعي على تحسين مشهد الأمن السيبراني وتعزيزه للأفضل، فإنه في الوقت نفسه أصبح أداة لا غنى عنها لمجرمي الإنترنت الذين أصبحوا يستخدمونه في ابتكار أساليب خداع متطورة، وإنشاء أدوات تسهم بصورة كبيرة في تسهيل هجماتهم. حيث كشف تقرير صادر عن شركة الأمن الرقمي هوم سيكورتي هيروس (Home Security Heroes)، أن إحدى الأدوات المدعومة بالذكاء الاصطناعي أصبحت أكثر فاعلية في كسر كلمات المرور شائعة الاستخدام.

جرّبت الشركة أكثر من 15 مليون كلمة مرور، ووجدت أن الأداة تمكنت بالفعل من كسر نحو 51% من كلمات المرور شائعة الاستخدام في أقل من دقيقة فقط، و65% في ساعة واحدة و71% في يوم واحد و81% في شهر. ليس هذا وحده فقط، فقد أصبح الذكاء الاصطناعي الآن يُستَخدم باحترافية لخداع المستخدمين، وهو ما يُعرف باسم الذكاء الاصطناعي الهجومي. فكيف تتجنب الوقوع ضحية لهذه الأساليب المتطورة من الهجمات المدعومة بالذكاء الاصطناعي؟

ما هو الذكاء الاصطناعي الهجومي وكيف يعمل؟

على مر العقود، لم يهدأ مجرمو الإنترنت في ابتداع وسائل مختلفة لاستهداف المستخدمين وخداعهم. حيث غالباً ما كان تُنفَذ الهجمات بواسطة قراصنة أصحاب خبرة باستخدام طرق يدوية، ولكن في السنوات الأخيرة ومع طفرة الذكاء الاصطناعي أصبحت الأساليب أكثر تطوراً، ما أدّى إلى ظهور مفهوم الذكاء الاصطناعي الهجومي (Offensive AI) الذي يُمكّن مجرمي الإنترنت من شن هجمات لم تكن ممكنة من قبل بالاستفادة من التعلم الآلي وتقنيات الذكاء الاصطناعي الأخرى لتعزيز كفاءة الهجمات السيبرانية ونطاقها وتطورها من خلال:

أتمتة الهجمات مثل عمليات الاستطلاع وتحليل الثغرات الأمنية واستغلالها، ما يجعل الهجمات أسرع وأكثر سرية.
تطوير استراتيجيات هجومية بناءً على دفاعات الهدف، ما يزيد فاعليتها بمرور الوقت.
تحليل مجموعات البيانات الضخمة التي يُمكن بالاستفادة منها صياغة رسائل بريد إلكتروني احتيالية عالية التخصيص أو إنشاء وسائط مزيفة احترافية لخداع الضحايا.

عموماً يوفّر الذكاء الاصطناعي الهجومي مستويات جديدة من الاستهداف وتنظيم الهجمات، من خلال السماح لمجرمي الإنترنت بأتمتة جوانب مختلفة من هجماتهم بأقل تدخل بشري ممكن، ما يجعلها أكثر كفاءة وفاعلية في استهداف الأفراد والشركات وحتى دول بأكملها، بسبب استخدامها خوارزميات التعلم الآلي لتحليل البيانات وتحديد نقاط الضعف في الأنظمة، ثم استخدام المعلومات الناتجة لإنشاء هجوم مخصص مصمم خصيصاً للنظام المحدد وتكيُّف استراتيجيات الهجوم وتطويرها بناءً على استجابة النظام المستهدف.

كيف يستخدم مجرمو الإنترنت الذكاء الاصطناعي لخداع ضحاياهم؟

يتزايد استخدام مجرمي الإنترنت للذكاء الاصطناعي لابتكار أساليب خداع متطورة تتجاوز إجراءات الأمن التقليدية وتستغل ثقة المستخدمين، حيث تُعزّز هذه الأساليب المدعومة بالذكاء الاصطناعي نطاق الهجمات وسرعتها وواقعيتها، ما يُصعّب اكتشافها ومقاومتها.

أساليب الخداع القائمة على الصورة والصوت والفيديو

- في فبراير من عام 2024، حوّل موظف يعمل في قسم الشؤون المالية لدى شركة الاستشارات الهندسية متعددة الجنسيات أروب (Arup) نحو 25 مليون دولار إلى حساب احتيالي بعد حضوره لما كان يعتقد أنه اجتماع مع مديره المالي وبعض زملائه الآخرين، ولكن تبين لاحقاً أن العملية برمتها هي عملية خداع باستخدام التزييف العميق، حيث كان الحضور جميعهم شخصيات مولّدة بالذكاء الاصطناعي باستثناء شخصه.

- في أبريل من عام 2023، كادت إحدى الأمهات أن تقع ضحية لعملية خداع احترافية باستخدام التزييف العميق للصوت لولا تمكنها من تدارك الأمر في آخر لحظة، حيث تلقت مكالمة هاتفية من ابنتها تخبرها بأنها ضحية لعملية اختطاف ثم طالب من يدّعى أنه خاطفها مبلغ فدية وصل إلى مليون دولار.

- في يناير من العام الحالي كشفت وسائل الإعلام الفرنسية عن تمكن مجرمي الإنترنت من تنفيذ عملية احتيال محكمة على امرأة فرنسية معجبة بالممثل الأميركي براد بيت، حيث تمكن المحتالون من خداع المرأة وجعلها ترسل نحو 850 ألف دولار على مدار عام ونصف العام قبل أن تكتشف أنها عملية الاحتيال.

أساليب الخداع القائمة على النصوص

تُعدّ هجمات الهندسة الاجتماعية المدعومة بالذكاء الاصطناعي من أبرز الهجمات التي تطورت بتطور الذكاء الاصطناعي نفسه، إذ يعمل مجرمو الإنترنت على استخدام الذكاء الاصطناعي لإنشاء هجمات مستهدفة ومخصصة ومقنعة للغاية بسبب جمعها أساليب الخداع التقليدية والأتمتة المتقدمة وتحليل البيانات، ما يجعلها أصعب في الكشف وأكثر فاعلية في استغلال نقاط الضعف البشرية.

- واجه مشتركو خدمة بث الفيديو نتفليكس حملة تصيد احتيالي مخصصة، حيث تظاهر المحتال بأنه من قسم الدعم وأرسل رسائل بريد إلكتروني مكتوبة بعناية تطلب منهم تجديد اشتراكهم لمواصلة التمتع بالخدمة مستخدماً غرس الشعور بالإلحاح الذي يُعدّ أحد أبرز أساليب هجمات الهندسة الاجتماعية استخداماً لدى مجرمي الإنترنت.

الاستيلاء على حسابات منصات التواصل الاجتماعي

نشأت في الآونة الأخيرة عمليات أكثر احترافية تستهدف الشركات التي تعتمد على منصات التواصل الاجتماعي مثل فيسبوك، لجعل المخاطر تبدو أعلى، حيث يرسل المحتال رسائل تتضمن إشعاراً بحذف الحساب ثم إرفاقها برسالة أخرى تحث صاحب الحساب على تقديم شكوى إذا اعتقد أن إشعار الحذف خاطئ.

وهذه هي نقطة الاستهداف المباشرة، حيث إن الرابط المرفق الذي من المفترض أنه يؤدي إلى فتح صفحة تحتوي على نموذج طلب مراجعة هو في الواقع أداة تصيد تهدف إلى سرقة المعلومات الحساسة، ومن ثَمَّ بمجرد أن ينقر صاحب الحساب المطمئن على الرابط يوجَّه إلى صفحة مشابهة لواجهة منصة فيسبوك تطالبه بإدخال تفاصيل حسابه على فيسبوك، وفي بعض الأحيان تذهب بعض أساليب عمليات الاحتيال إلى أبعد من ذلك، حيث تطلب إدخال معلومات شخصية أو بيانات مالية.

الخطر القادم في مشهد الخداع عبر الإنترنت هو الذكاء الاصطناعي التوليدي

يمثّل الذكاء الاصطناعي التوليدي تطوراً مهماً ومثيراً للقلق في مجال الخداع عبر الإنترنت، ويشكّل تهديداً كبيراً للأمن السيبراني؛ فمثلما تستخدم الشركات الذكاء الاصطناعي التوليدي للتوسع بسرعة ويستخدمه الأفراد لتعزيز الإنتاجية، كذلك يفعل مجرمو الإنترنت.

على سبيل المثال، شهدت رسائل التصيد الاحتيالي عبر البريد الإلكتروني ارتفاعاً كبيراً منذ إطلاق بوت الدردشة تشات جي بي تي أواخر عام 2022، حيث سُجّلت زيادة كبيرة بنسبة 1265% وفقاً لتقرير حالة التصيد الاحتيالي لعام 2024 الذي أصدرته شركة الأمن الرقمي سلاش نيكست (slashnext)، ما يُظهر تأثير التكنولوجيا في زيادة أنشطة مجرمي الإنترنت من خلال المساهمة في إنشاء رسائل بريد إلكتروني خالية من العيوب اللغوية والنحوية التي تجعلها تتجاوز خوارزميات كشف الرسائل العشوائية في خدمات البريد الإلكتروني.

باستخدام الذكاء الاصطناعي التوليدي أصبح من الأسهل أكثر من أي وقتٍ مضى على مجرمي الإنترنت تصميم حملات خداع ذات فاعلية كبيرة، بسبب توفر الأدوات المنخفضة التكلفة والسهلة الاستخدام إلى جانب انتشار بيانات مستخدمي الإنترنت مثل الصور والتفاصيل الشخصية التي تتشارك عبر منصات التواصل الاجتماعي.

يتزايد استخدام الذكاء الاصطناعي التوليدي في عمليات الخداع عبر الإنترنت يوماً بعد يوم، حيث يختزل الكثير من الوقت والجهد والمتطلبات التكنولوجية التي يجب أن يوفرّها مجرمو الإنترنت لخداع أهدافهم، بحسب تقرير مركز شكاوى جرائم الإنترنت التابع لمكتب التحقيقات الفيدرالي الأميركي الذي أورد عشرات الأمثلة من مخططات الاحتيال التي يمكن أن يستخدمها مجرمو الإنترنت.

على سبيل المثال، يمكن إنشاء ملفات تعريف وهمية ضخمة على منصات التواصل الاجتماعي تُستَخدم لخداع الضحايا لإرسال الأموال والمساعدة في الترجمات اللغوية للحد من الأخطاء النحوية أو الإملائية، أو إنشاء صور لمشاهير أو شخصيات مؤثّرة يروّجون للمنتجات المقلدة، أو إنشاء صور لكارثة طبيعية أو صراع عالمي للحصول على تبرعات، أو إنشاء مقاطع فيديو لمواد ترويجية وهمية أو مضللة وغيرها، وكلّها بمساعدة الذكاء الاصطناعي التوليدي.

كيف تتجنب الوقوع ضحية لمخططات الخداع المدعومة بالذكاء الاصطناعي؟

كُنْ متشككاً بشأن الاتصالات غير المرغوب فيها وخاصة تلك التي تُثير شعوراً بالإلحاح أو تطلب معلومات حساسة.
تحقق دائماً من أي مصدر يطلب منك الحصول على معلومات شخصية أو تحويلات مالية، واستخدم قنوات موثوقة لتأكيد الهويات وخاصة في حالة الاتصالات غير المتوقعة.
استخدم كلمات مرور قوية وفريدة للحسابات كلّها، وفعّل ميزة المصادقة الثنائية كلما أمكن.
حد من مشاركة بياناتك الشخصية على الإنترنت ومنصات التواصل الاجتماعي وتوخِّ الحذر بشأن المعلومات التي تنشرها للعامة.
شارك معرفتك ومعلوماتك حول عمليات الخداع التي تستخدم الذكاء الاصطناعي مع عائلتك وأصدقائك وزملائك، وخاصة الأشخاص الأقل معرفة بالتكنولوجيا.
انتبه جيداً للعلامات المحتملة لتقنية التزييف العميق في اتصالات الفيديو أو الصوت مثل حركات الوجه غير الطبيعية والإضاءة غير المتناسقة أو الضوضاء الغريبة في الخلفية.
إذا كنت تشك في أنك مستهدف في عملية خداع فاستخدم الآليات التي توفّرها المنصات مثل خدمات البريد الإلكتروني أو تطبيقات الدردشة للإبلاغ عن الأمر.