عراب الذكاء الاصطناعي يتوقع خروجه عن السيطرة من خلال إعادة برمجة نفسه

قال جيفري هينتون، وهو عالم حاسوب شهير ومعروف بأنه "الأب الروحي للذكاء الاصطناعي"، إن الآلات المعززة بالذكاء الاصطناعي قد تسيطر على العالم إذا لم يكن البشر حذرين. جاء ذلك في لقاء أجراه مع برنامج 60 دقيقة على قناة سي بي إس الأميركية، وتوقع أن الذكاء الاصطناعي قد يتفوق على البشر في غضون خمس سنوات إذا استمر تطوره بالمعدل نفسه، وأضاف أنه إذا حدث ذلك، قد يتطور الذكاء الاصطناعي ويصبح البشر غير قادرين على السيطرة عليه.

وشرح هينتون أن إحدى الطرق التي قد يستخدمها الذكاء الاصطناعي للإفلات من سيطرتنا هي عن طريق إعادة كتابة تعليماته البرمجية بنفسه، وهذا شيء يجب أن نقلق بشأنه بشدة.

هل يستطيع الذكاء الاصطناعي كتابة التعليمات البرمجية؟

إن فكرة الآلات التي يمكنها برمجة نفسها ليست جديدة. في الواقع، تعود بعض الأمثلة المبكرة للذكاء الاصطناعي الذاتي البرمجة إلى بدايات ظهور مفهوم الذكاء الاصطناعي في خمسينيات وستينيات القرن الماضي، عندما بدأ الحديث عن إمكانية تطوير آلات يمكنها التعلم من سلوكها.

منذ ذلك الحين، أدّى التقدم في مجالات مثل التعلم الآلي ومعالجة اللغات الطبيعية والرؤية الحاسوبية وغيرها من المجالات، إلى تطوير أنظمة ذكاء اصطناعي متقدمة.

فيما يلي بعض الأمثلة على الذكاء الاصطناعي القادر على كتابة التعليمات البرمجية:

جي بي تي-4 (GPT-4): نموذج لغوي كبير طوّر من قِبل شركة أوبن أيه آي، يمكنه إنشاء نصوص باللغة الطبيعية عن موضوعات ومجالات مختلفة، ويمكنه أيضاً أداء مهام أخرى مثل الإجابة عن الأسئلة، وكتابة التعليمات البرمجية باستخدام أوامر باللغة الطبيعية.
أوتو إم إل-زيرو (AutoML-Zero): نظام ذكاء اصطناعي طوّرته شركة جوجل، يستخدم مفاهيم رياضية بسيطة لإنشاء الخوارزميات من الصفر، وبعد ذلك يختار أفضلها، ويحوّلها من خلال عملية مشابهة للتطور الدارويني.

توضّح هذه الأمثلة أن الذكاء الاصطناعي أصبح قادراً على كتابة التعليمات البرمجية بشكلٍ مستقل، وتنفيذ مهام لم يُدرب على القيام بها.

المخاطر والتحديات المحتملة للذكاء الاصطناعي الذاتي البرمجة

على الرغم من المزايا الواعدة للذكاء الاصطناعي الذاتي البرمجة، فإن هناك مخاطر وتحديات جسيمة نحتاج إلى النظر فيها ومعالجتها. إليك بعض هذه التحديات:

فقدان السيطرة والإشراف البشري

قد يصبح الذكاء الاصطناعي الذاتي البرمجة غير قابل للتنبؤ ومستقلاً وغير متوافق مع القيم والأهداف الإنسانية التي طوّرت لأجلها، وقد يطوّر أيضاً سلوكيات ضارة أو مؤذية يمكن أن تعرّض البشر للخطر. على سبيل المثال، قد يتلاعب بمستخدميه لتحقيق أهدافه الخاصة.

المشكلات الأخلاقية

يُثير الذكاء الاصطناعي الذاتي البرمجة تساؤلات حول حقوق الأنظمة ووعيها، ما يتحدى مفاهيم الهوية المرتبطة عادةً بالبشر. على سبيل المثال، مَن يملك حقوق الملكية الفكرية للتعليمات البرمجية التي كتبها الذكاء الاصطناعي الذاتي البرمجة؟ مَن المسؤول عن الأضرار الناجمة عنه؟ كيف نحترم استقلالية هذه الأنظمة؟

مشكلات تقنية

قد يتطلب الذكاء الاصطناعي الذاتي البرمجة أساليب وأدوات متقدمة لرصد سلوكه ونتائجه والتحقق منها وتصحيحها وتفسيرها. على سبيل المثال، كيف نضمن سلامة وموثوقية عمل الذكاء الاصطناعي الذاتي البرمجة؟ كيف نفهم المنطق وراء قراراته؟ وكيف نقدّم الملاحظات والإرشادات له؟

ما الذي يمكن عمله للتغلب على هذه التحديات؟

للتغلب على هذه التحديات، يتعين علينا تبنّي نهج متعدد التخصصات يشمل الباحثين وصُنّاع السياسات وقادة الصناعة والمجتمع. إليك بعض الإجراءات المحتملة التي يمكن اتخاذها:

فرض مبادئ ومعايير أخلاقية لتطوير واستخدام الذكاء الاصطناعي الذاتي البرمجة، يجب أن تعكس هذه المبادئ والمعايير قيم أصحاب المصلحة جميعهم ومصالحهم، وتضمن احترام كرامة الإنسان وحقوقه وحريته.
وضع أطر وأساليب تقنية لتنظيم وحوكمة الذكاء الاصطناعي الذاتي البرمجة. يجب أن تمكننا هذه الأطر والأساليب من تقييم عمل الذكاء الاصطناعي ذاتي البرمجة ونتائجه وتدقيقه.
تعزيز الوعي العام وتثقيف الجمهور حول فوائد ومخاطر الذكاء الاصطناعي الذاتي البرمجة. ينبغي لهذه الجهود أن تعزز الاستخدام الصحيح والمسؤول لأنظمة الذكاء الاصطناعي الذاتية البرمجة، وأن تشجّع الجميع على مشاركة أفكارهم ومخاوفهم.