متى يشكّل إطلاق التكنولوجيا للجمهور خطراً كبيراً؟

خوارزمية جديدة لتوليد النصوص تعيد إشعال جدل طويل الأمد.

في منتصف شهر فبراير/شباط، كشفت شركة "أوبن أيه آي" غير الربحية لبحوث الذكاء الاصطناعي أنها طورت نموذجاً جديداً لتوليد النصوص يمكنه كتابة نثر بأسلوب مترابط ومتنوع بعد أن يزوّد بنص صغير حول موضوع معين. لكن الشركة صرحت أنها لن تطلق الخوارزمية كاملة، وتُعزي ذلك إلى "مخاوف تتعلق بالسلامة والأمن".

وعوضاً عن ذلك، قررت شركة "أوبن أيه آي" إصدار نسخة "مصغرة جداً" من النموذج وحجب مجموعات البيانات وشيفرات التدريب التي استُخدمت لتطوير النموذج. وإذا كانت معرفتك بنموذج "الخوارزمية جي بي تي-2" (GPT-2) تكوّنت فقط من خلال قراءتك للعناوين الرئيسة الناجمة عن التغطية الإخبارية، فقد تعتقد أن شركة "أوبن أيه آي" عملت على بناء روبوت الدردشة "تشات بوت" صالح لصنع الأسلحة.

ويذكر عنوان رئيس على "صحيفة ميترو" البريطانية الآتي: "إيلون ماسك" المؤسس لشركة "أوبن أيه آي" يبني تقنية فذّة جداً مستندة على الذكاء الاصطناعي بحيث ينبغي عدم إطلاقها من أجل خير الإنسانية". ويذكر عنوان رئيس آخر على موقع "سي نت" (CNET) ما يلي: "شركة بحوث الذكاء الاصطناعي المدعومة من قبل ماسك: نموذج شركتنا الذي يولّد النصوص رائع لدرجة مخيفة". وقد عُنونت مقالة على "صحيفة الغارديان" بالتالي: "يمكن للذكاء الاصطناعي الكتابة بالضبط كما أفعل، استعدوا للروبوت الذي سيكتب فصلاً جديداً في حياتنا".

قد يبدو هذا مفزعاً، إلا أن الخبراء في مجال تعلم الآلة يجادلون حول احتمال أن تكون ادعاءات شركة "أوبن أيه آي" مبالغ فيها بعض الشيء. وأثار هذا التصريح جدلاً حول كيفية التعامل مع احتمال نشر خوارزميات الذكاء الاصطناعي الخطيرة.

تُعتبر شركة "أوبن أيه آي" رائدة في مجال بحوث الذكاء الاصطناعي التي تم تمويلها في البداية من قبل أشخاص وكيانات عملاقة مثل شركة "سبيس إكس" (SpaceX)، ومؤسس شركة "تيسلا"، إيلون ماسك، والمستثمر الرأسمالي المغامر (الجريء) بيتر تيل، والمؤسس المشارك لموقع "لينكد إن" ريد هوفمان.

إن مهمة الشركة غير الربحية هي توجيه تطور تكنولوجيا الذكاء الاصطناعي بمسؤولية وبعيداً عن التطبيقات المؤذية والضارة. وبالإضافة إلى نموذج توليد النصوص، فقد طورت شركة "أوبن أيه آي" أيضاً يداً روبوتية يمكنها تعليم نفسها مهاماً بسيطة فيمكنها هزيمة اللاعبين المحترفين في لعبة الفيديو الاستراتيجية "دوتا 2" (Dota 2)، وخوارزميات يمكنها دمج مدخلات بشرية في عمليات التعلم الخاصة بها.

في 14 فبراير/شباط، صرحت شركة "أوبن أيه آي" أيضاً عن إنجاز آخر لبراعة تعلم الآلة من خلال رسالة على مدونتها تعرض بالتفصيل كيف عمل الباحثون على تدريب نموذج لغوي باستخدام نص مؤلف من ثمانية ملايين صفحة ويب للتنبؤ بالكلمة التالية في جزء من عمل يُكتب. كانت الخوارزمية الناتجة مذهلة وفقاً للشركة غير الربحية، وقالت أنه يمكنها "التكيف مع أسلوب ومحتوى النص المشترط"، وتسمح للمستخدمين "بخلق استمرارية واقعية ومترابطة حول موضوع من اختيارهم". ولإثبات الإنجاز، قدمت شركة "أوبن أيه آي" عينات من النصوص التي أنتجتها الخوارزمية "جي بي تي-2" بعد أن زوّدت بنص صغير معين كُتب من قبل إنسان.

على سبيل المثال، عمل الباحثون على تغذية مولّد النصوص بالسيناريو التالي: في اكتشاف صادم، عثر عالم على قطيع من اليونيكورن (وهو كائن خيالي على هيئة حصان أحادي القرن) يعيش في وادٍ بعيدٍ غير مكتشف من قبل في جبال الأنديز. والمفاجئ أكثر بالنسبة للباحثين هو حقيقة أنّ ذلك القطيع من اليونيكورن يتحدث اللغة الإنجليزية بطلاقة.

أنتجت خوارزمية "جي بي تي-2" هذه المقالة الإخبارية استجابة على ذلك:

لقد أطلق العالم على المجموعة، بعد أن رأى قرونها المميزة، اسم "يونيكورن أوفيد"، لم يكن هذا اليونيكورن ذو القرن الأبيض الفضي معروفاً للعلم من قبل. أما اليوم، وبعد قرابة قرنين من الزمن، تم الكشف عن الغموض الذي أثارته هذه الظاهرة الغريبة. كان الدكتور خورخي بيريز، وهو عالم أحياء تطوري من جامعة لاباز، ومعه العديد من الرفاق، يستكشفون جبال الأنديز عندما اكتشفوا وادياً صغيراً دون وجود حيوانات أو أناس آخرين. لاحظ بيريز أنّ الوادي كان فيه ما بدا وكأنه ينبوع طبيعي محاط بقمتين من الصخور والثلوج الفضية، ثم غامر بيريز والآخرون أكثر في الوادي. وقال بيريز: "في الوقت الذي وصلنا فيه إلى أعلى القمة، بدت المياه زرقاء اللون مع وجود بعض الكريستالات على القمة".

تحولت عينات أخرى من خوارزمية "جي بي تي-2" إلى روائي يكتب جزءاً آخر من معارك رواية "سيد الخواتم"، وصحفي يحتجّ على عملية إعادة التدوير، وكاتب خطابات يكتب خطاب جون كينيدي إلى الشعب الأميركي في أعقاب إحيائه الافتراضي باعتباره "سايبورغ" (وهو كائن خيالي).

وبينما يعترف الباحثون بأنّ نثر الخوارزمية قد يكون غير متقن بعض الشيء، إذ يكون الأسلوب محيراً غالباً، ويستخدم عبارات مكررة، ولا يستطيع النجاح تماماً في التنقل بين المواضيع، ويشير لسبب غير مفهوم إلى عبارات مثل: "النيران التي تحدث تحت الماء". على الرغم من ذلك، زعمت شركة "أوبن أيه آي" أن خوارزمية "جي بي تي-2" أكثر تطوراً بكثير من أي مولّد نصوص آخر تم تطويره. يُعتبر ذلك الزعم مجرد مرجع ذاتي إلى حد ما، ولكن يبدو أن معظم الخبراء في مجال الذكاء الاصطناعي يوافقون على أن خوارزمية "جي بي تي-2" هي بالفعل أحدث ما يمكن الوصول إليه حالياً فيما يتعلق بتوليد النصوص.

إن معظم تقنيات الذكاء الاصطناعي مجهزة فقط للتعامل مع مهام محددة وتجنح إلى التخبط مع أي أمر آخر خارج نطاق ضيق للغاية. يُعد تدريب خوارزمية "جي بي تي-2" من أجل التكيف بسرعة مع مختلف أساليب الكتابة إنجازاً كبيراً. وينفرد هذا النموذج أيضاً عن مولّدات النصوص القديمة في أنه يتمكن من التمييز بين التعاريف المتعددة لكلمة واحدة استناداً إلى قرائن السياق، وينطوي على معرفة أعمق باستخدامات أكثر غموضاً. تسمح هذه الإمكانات المعززة للخوارزمية بتأليف مقاطع أطول وأكثر ترابطاً، والتي يمكن استخدامها لتحسين خدمات الترجمة والتشات بوت ومساعد الكاتب القائم على الذكاء الاصطناعي. ومن الجدير بالذكر أنّ ذلك لا يعني بالضرورة إحداث ثورة في هذا المجال.

ومع ذلك، صرحت شركة "أوبن أيه آي" أنها لن تطلق سوى "نسخة مصغرة جداً" من النموذج بسبب مخاوف إساءة الاستخدام. وعبرت الشركة من خلال رسالتها على المدونة عن الشعور بالقلق من إمكانية استخدام النموذج لأغراض توليد مقالات إخبارية كاذبة، وانتحال الشخصيات على الإنترنت، وإغراق الإنترنت عموماً بالبريد غير المرغوب والنقد اللاذع. وبينما يمكن للناس، بالطبع، صياغة مثل هذه المحتويات المضرة بأنفسهم، إلا أن إتمام مولّد نصوص متطور قائم على الذكاء الاصطناعي قد يزيد من الحجم الذي يتم إنشاؤه، إن ما تفتقر إليه خوارزمية "جي بي تي-2" في أساليب أعمال النثر المتقنة، يمكن أن تعوضه أكثر من خلال الإنتاج الغزير.

غير أن الفكرة السائدة بين معظم خبراء الذكاء الاصطناعي، بمن فيهم خبراء شركة "أوبن أيه آي"، هي أن حجب الخوارزمية عبارة عن إجراء مؤقت على أحسن تقدير. بالإضافة إلى ذلك، يقول روبرت فريدركينغ، عالم النظم الرئيسة في "معهد تكنولوجيات اللغة" في "جامعة كارنيغي ميلون": "ليس من الواضح أن هنالك تقنية جديدة "مذهلة" تستخدمها شركة "أوبن أيه آي"، إنهم فقط يبلون حسناً في اتخاذ الخطوة التالية. ويتساءل الكثير من الناس عما إذا كان المرء يحقق أي شيء بالفعل من خلال حجب نتائجه، في حين يمكن لأي جهة أخرى من معرفة كيفية الوصول إلى تلك النتائج بأي حال".

إن أي كيان مزوّد بما يكفي من رأس المال والمعرفة ببحوث الذكاء الاصطناعي والذي تم الإعلان عنه، يمكنه خلق مولّد نصوص مماثل لخوارزمية "جي بي تي-2"، حتى من خلال استئجار خوادم من "خدمات أمازون ويب" (Amazon Web Services). في حال أطلقت شركة "أوبن أيه آي" الخوارزمية، فربما لن تضطر إلى هدر الكثير من الوقت والطاقة الحاسوبية لتطوير مولّد النصوص الخاص بك، ولكن العملية التي بُني النموذج من خلالها ليست أحجية بالضرورة. (لم تستجب شركة "أوبن أيه آي" لطلب "موقع سليت" من أجل التعليق على المنشور).

وقد اتهم بعض المنتمين إلى مجتمع تعلم الآلة شركة "أوبن أيه آي" بالمبالغة في الحديث عن مخاطر الخوارزمية، وذلك من أجل جذب اهتمام وسائل الإعلام وحرمان الأكاديميين، الذين قد لا يملكون الموارد لبناء مثل هذا النموذج بأنفسهم، من فرصة إجراء بحوث على خوارزمية "جي بي تي-2". إلا أنّ ديفيد باو، الباحث في مختبر علوم الكمبيوتر والذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا "إم آي تي"، يرى أنّ هذا القرار هو لفتة تهدف إلى إجراء نقاش حول أخلاقيات الذكاء الاصطناعي، ويقول في معرض ذلك: "إنّ حجب إحدى الشركات لمشروع ما لن يغير أي شيء على المدى الطويل، لكن شركة "أوبن أيه آي" تجذب الكثير من الاهتمام لأي شيء تفعله، وأعتقد أنه يجب الإشادة بتسليط الضوء على هذه القضية".

وجدير بالذكر أن شركة "أوبن أيه آي" يبدو أنها تشجعنا على فعل ذلك، وكيف ينبغي على الباحثين والمجتمع عموماً التعامل مع نماذج الذكاء الاصطناعي النافذة. إن مخاطر نشر تقنيات الذكاء الاصطناعي لن تنطوي بالضرورة على روبوتات قاتلة ومتمردة، دعنا نفترض من الناحية النظرية، أن شركة "أوبن أيه آي" تمكنت من بناء مولّد نصوص فريد حقاً يمكن تحميله وتشغيله بسهولة من قبل أشخاص عاديين وعلى نطاق واسع. بالنسبة إلى جون باورز، وهو باحث مشارك في "مركز بيركمان كلاين" (Berkman Klein Center)، فإن الخطوة التالية التي ينبغي ربما القيام بها هي حساب التكلفة والفائدة. يقول باورز: "الواقع الذي لا جدال فيه هو أن الكثير من التقنيات الرائعة التي نراها تتولد من بحوث الذكاء الاصطناعي، يمكن تزويدها بالسلاح بشكل أو بآخر".

في حالة مولدات النصوص المتطورة على نحو مطرد، قد يُصر باورز على إطلاق الخوارزميات لمساهمتها في مجال معالجة اللغة الطبيعية والاستخدامات العملية، على الرغم من اعترافه بأن هناك تطورات مهمة في مجال التعرف على الصور من خلال الذكاء الاصطناعي يمكن الاستفادة منها في مجال نظم المراقبة واسعة النطاق. بيد أنّ باورز قد ينأى عن محاولة تطوير ونشر تقنية قائمة على الذكاء الاصطناعي مثل تلك التي تُستخدم لتطوير تقنيات مثل التزييف العميق "ديب فيك" (deepfake)، المستخدمة غالباً لدمج صور وجوه الناس على مواد غير أخلاقية. ويقول: "بالنسبة لي، تُعتبر تقنية "ديب فيك" خير مثال على التكنولوجيا التي تتجه نحو التطبيقات السلبية أكثر من تلك الإيجابية".

ومع ذلك، يؤكد باورز أن كل ما سبق يُعتبر قرارات صعبة، والتي تشير جزئياً إلى مواطن القصور الحالية في مجال تعلم الآلة التي تحاول شركة "أوبن أيه آي" تسليط الضوء عليها. ويردف قائلاً: "إن مجال الذكاء الاصطناعي حديث جداً، ولم يصل إلى مرحلة النضج من نواح عدة، وذلك من حيث كيفية تفكيرنا حول المنتجات التي نبنيها، ومن حيث تحقيق التوازن بين الضرر والخير الذي سيُحدثهما في العالم. ولم يضع المهنيون في مجال تعلم الآلة إلى اليوم الكثير من الأطر المقبولة على نطاق واسع للنظر في الآثار الأخلاقية المترتبة على خلق وإطلاق التقنيات القائمة على الذكاء الاصطناعي.

إذا كان للتاريخ الحديث دلالة ما، فإن محاولة منع نشر أدوات الذكاء الاصطناعي أو السيطرة عليها قد تكون أيضاً معركة خاسرة. وحتى لو كان هنالك توافق حول أخلاقيات نشر خوارزميات معينة، فقد لا يكون ذلك كافياً لإيقاف الأشخاص الذين يعارضون ذلك.

يقول فريدركينغ، ربما كانت المشكلة السابقة المتعلقة بالذكاء الاصطناعي والمماثلة للحالية هي في تعميم التشفير على مستوى المستهلك في التسعينيات من القرن الماضي، عندما حاولت الحكومة مراراً وفشلت في ضبط عملية التشفير. في عام 1991، قدم جو بايدن، الذي كان سيناتور آنذاك، مشروع قانون يفرض على شركات التكنولوجيا تثبيت نظم الأبواب الخلفية (back doors) التي تسمح للمكلفين بتطبيق القانون إجراء أوامر لاسترداد الصوت والنصوص وجميع أنواع التواصل الأخرى من العملاء.

ولكن سرعان ما أفسد المبرمج فيل زيمرمان المخطط من خلال تطوير برنامج حاسوبي يسمى "بي جي بي" (PGP) (أو خصوصية ممتازة)، والذي يشفر الاتصالات بحيث لا يتمكن من قراءتها سوى المرسل والمستقبل. وسرعان ما تم اعتماد برنامج "بي جي بي" على نطاق واسع، ما أدى إلى تقويض نظم الأبواب الخلفية التي يسهل الوصول إليها من قبل شركات التكنولوجيا والحكومة. وبينما كان المشرعون يفكرون جدياً بمحاولات إضافية لوقف اعتماد خدمات التشفير الفعالة، خلص المجلس القومي للبحوث في دراسة أجريت عام 1996 إلى أن المستخدمين يمكنهم بسهولة وبصورة قانونية الحصول على تلك الخدمات نفسها من دول مثل فنلندا.

يقول فريدركينغ: "هناك فلسفة عامة تقول إنه عندما يحين وقت حدوث تقدم علمي فأنت لا تستطيع حقاً إيقافه، بل إنك تحتاج فقط إلى فهم كيفية التعامل معه".