تحذير من مايكروسوفت: الذكاء الاصطناعي قد يصمم سموماً لا يمكن اكتشافها

يقول فريق في شركة مايكروسوفت إنه استخدم الذكاء الاصطناعي لاكتشاف ثغرة "اليوم صفر" في أنظمة الأمن البيولوجي المستخدمة لمنع إساءة استخدام الحمض النووي.

صممت أنظمة الفحص هذه لمنع الأشخاص من شراء التسلسلات الجينية التي يمكن استخدامها في صنع سموم أو مسببات أمراض قاتلة. لكن الباحثين بقيادة كبير العلماء في مايكروسوفت، إريك هورفيتز، يقولون الآن إنهم اكتشفوا كيفية تجاوز الحماية بطريقة لم تكن معروفة من قبل للمدافعين.

ووصف الفريق عمله مؤخراً في مجلة ساينس العلمية.

ثغرة "اليوم صفر" في أنظمة الأمن البيولوجي

ركز هورفيتز وفريقه على خوارزميات الذكاء الاصطناعي التوليدي التي تقترح أشكالاً جديدة للبروتين. هذه الأنواع من البرامج تعزز بالفعل جهود البحث عن عقاقير جديدة في الشركات الناشئة الممولة تمويلاً جيداً مثل شركة جينيريت بايوميديسينز وشركة آيزومورفيك لابز، وهي شركة فرعية من شركة جوجل.

تكمن المشكلة في أن مثل هذه الأنظمة قد تكون "مزدوجة الاستخدام" إذ يمكنها استخدام مجموعات التدريب الخاصة بها لتوليد جزيئات مفيدة وأخرى ضارة.

تقول مايكروسوفت إنها بدأت في عام 2023 اختبار "الفريق الأحمر" لإمكانية الاستخدام المزدوج للذكاء الاصطناعي من أجل تحديد إن كان "تصميم بروتين الذكاء الاصطناعي العدائي" يمكن أن يساعد الإرهابيين البيولوجيين على تصنيع بروتينات ضارة.

والحماية التي هاجمتها مايكروسوفت هي ما يعرف ببرنامج فحص الأمن البيولوجي. ولتصنيع بروتين ما، يحتاج الباحثون عادة إلى طلب تسلسل الحمض النووي المطابق من مورد تجاري، والذي يمكنهم بعد ذلك تثبيته في الخلية. يستخدم هؤلاء الموردون برامج الفحص لمقارنة الطلبات الواردة بالسموم أو مسببات الأمراض المعروفة. وسيؤدي التطابق الدقيق إلى إطلاق تنبيه.

اقرأ أيضاً: مقارنة بين مايكروسوفت 365 وجوجل وورك سبيس Workspace: أيّهما تختار لعملك؟

ولكي تصمم مايكروسوفت هجومها، استخدمت العديد من نماذج البروتين التوليدية (بما في ذلك نموذجها الخاص، المسمى "إيفو ديف" [EvoDiff]) لإعادة تصميم السموم، حيث غيرت بنيتها بطريقة تسمح لها بتخطي برامج الفحص ولكن كان من المتوقع أن تحافظ على وظيفتها القاتلة سليمة.

يقول الباحثون إن العملية كانت رقمية بالكامل ولم ينتجوا أي بروتينات سامة. وكان ذلك لتجنب أي تصور بأن الشركة كانت تطور أسلحة بيولوجية.

جزيئات تفلت من الاكتشاف

تقول مايكروسوفت إنها، قبل نشر النتائج، نبهت الحكومة الأميركية وصانعي البرمجيات الذين عمدوا بالفعل إلى تصحيح أنظمتهم، على الرغم من أن بعض الجزيئات المصممة بالذكاء الاصطناعي لا يزال بإمكانها الإفلات من الاكتشاف.

"التصحيح غير مكتمل، والتطورات في تغير مستمر. لكن هذا ليس حلاً مؤقتاً، بل هو بداية لمزيد من الاختبارات،" على حد قول مدير البحث والتطوير التكنولوجي في شركة إنتغريتد دي إن أيه تكنولوجيز وهي شركة كبيرة لتصنيع الحمض النووي، آدم كلور، وهو مؤلف مشارك في تقرير مايكروسوفت. ويضيف: "نحن فيما يشبه سباق التسلح".

لضمان عدم إساءة استخدام أي شخص للبحث، كما يقول الباحثون، فإنهم لم يكشفوا عن جزء من تعليماتهم البرمجية ولم يكشفوا عن البروتينات السامة التي طلبوا من الذكاء الاصطناعي إعادة تصميمها. ومع ذلك، فإن بعض البروتينات الخطيرة معروفة جيداً، مثل الريسين -وهو سم موجود في حبوب الخروع- والبريونات المعدية التي تسبب مرض جنون البقر.

اقرأ أيضاً: أدوات سهلة لتشغيل نماذج الذكاء الاصطناعي على كمبيوترك دون خبرة برمجية

يقول الزميل في مؤسسة الابتكار الأميركية، وهي مؤسسة فكرية في سان فرانسيسكو، دين بول،: "هذا الاكتشاف، بالإضافة إلى التقدم السريع في النمذجة البيولوجية المدعومة بالذكاء الاصطناعي، يوضح الحاجة الواضحة والملحة لإجراءات محسنة لفحص تخليق الحمض النووي إلى جانب آلية موثوقة للتطبيق والتحقق".

ويشير بول إلى أن الحكومة الأميركية تعتبر بالفعل فحص طلبات الحمض النووي خطاً رئيسياً للأمن. وفي مايو الماضي، دعا الرئيس ترامب في أمر تنفيذي بشأن سلامة الأبحاث البيولوجية، إلى إصلاح شامل لهذا النظام، على الرغم من أن البيت الأبيض لم يصدر توصيات جديدة حتى الآن.

الأمن البيولوجي

يشكك آخرون في أن تركيب الحمض النووي تجارياً هو أفضل وسيلة دفاع ضد الجهات الفاعلة الخبيثة. يعتقد الباحث في مجال سلامة الذكاء الاصطناعي في جامعة كاليفورنيا في بيركلي، مايكل كوهين، أنه ستكون هناك دائماً طرق لإخفاء التسلسلات وأنه كان بإمكان مايكروسوفت أن تجعل اختبارها أصعب.

يقول كوهين: "يبدو أن التحدي ضعيف، وأدواتهم المصححة تفشل كثيراً. يبدو أن هناك عدم رغبة في الاعتراف بأننا سنضطر في وقت قريب إلى الانسحاب من هذه النقطة الحرجة المفترضة، لذا علينا أن نبدأ البحث عن أرضية يمكننا التمسك بها بالفعل".

يقول كوهين إن الأمن البيولوجي ربما يجب أن يكون مدمجاً في أنظمة الذكاء الاصطناعي نفسها، إما مباشرة وإما من خلال الضوابط على المعلومات التي تقدمها.

لكن كلور يقول إن مراقبة تخليق الجينات لا يزال نهجاً عملياً للكشف عن التهديدات البيولوجية، حيث يهيمن على تصنيع الحمض النووي في الولايات المتحدة عدد قليل من الشركات التي تعمل بصورة وثيقة مع الحكومة. وعلى النقيض من ذلك، فإن التكنولوجيا المستخدمة لتطوير نماذج الذكاء الاصطناعي وتدريبها أكثر انتشاراً. يقول كلور: "لا يمكن إعادة هذا المارد إلى القمقم. إذا كانت لديك الموارد اللازمة لمحاولة خداعنا في محاولة صنع تسلسل الحمض النووي، فربما يمكنك تدريب نموذج لغوي كبير".