ما القصة الحقيقية لتطوير تشات جي بي تي؟

تقول الموظفة التي تعمل في سياسات الذكاء الاصطناعي في شركة أوبن أيه آي، ساندهيني أغاروال (Sandhini Agarwal)، إن الشركة نظرت إلى مشروع تشات جي بي تي على أنه مشروع "مراجعة بحثي" يمثّل إصداراً أولياً لنسخة أكثر جودة من تكنولوجيا عمرها عامان. والأهم من ذلك، نظر العاملون في المشروع إليه على أنه محاولة لتحسين عيوب هذه التكنولوجيا من خلال جمع الملاحظات والتقييمات من الجمهور. يقول العالم في شركة أوبن أيه آي، ليام فيدس (Liam Fedus)، الذي عمل على مشروع تشات جي بي تي: "لم نرغب في المبالغة في الترويج لنموذج تشات جي بي تي على أنه يمثّل خطوة أساسية وكبيرة للأمام".

تحدّثت مع 4 أشخاص من الذين أسهموا في تطوير نموذج تشات جي بي تي الذي أصبح تطبيق الإنترنت الأكثر شهرة على الإطلاق بهدف كشف القصة الحقيقية لإصدار بوت الدردشة هذا والتفاصيل المتعلقة بطريقة تطويره وكيفية تحديث شركة أوبن أيه آي له منذ إطلاقه بالإضافة إلى رأي مطوريه بنجاحه. بالإضافة إلى أغاروال وفيدس، تحدّثتُ أيضاً مع المؤسس المشارك لشركة أوبن أيه آي، جون شولمان (John Schulman)، وقائد فريق التخطيط البرمجي في شركة أوبن أيه آي، يان لايكيه (Jan Leike)، الذي يعمل على حل المشكلة المتمثلة في تصميم أدوات الذكاء الاصطناعي بطريقة تجعلها تولد النتائج التي يسعى المستخدمون للحصول عليها (وليس أكثر).

الانطباع الذي أخذته من الحديث مع هؤلاء الخبراء هو أن شركة أوبن أيه آي لا تزال مندهشة من نجاح نموذج تشات جي بي تي، على الرغم من أنها استغلت الفرصة وطوّرت هذه التكنولوجيا أكثر من خلال مراقبة الطريقة التي يستخدم الملايين فيها هذا النموذج ومحاولة حل أسوأ المشكلات التي يعاني منها مع ظهورها.

حدّثت شركة أوبن أيه آي نموذج تشات جي بي تي عدة مرات منذ إطلاقه في شهر نوفمبر/ تشرين الثاني 2022. يستخدم الباحثون في الشركة تقنية تحمل اسم التدريب الخصومي لجعل نموذج تشات جي بي تي قادراً على منع المستخدمين من إساءة استخدامه (وهي ممارسة تحمل أيضاً اسم كسر الحماية). يضع الباحثون في هذه العملية عدداً من بوتات الدردشة في مواجهة مع بعضها؛ إذ يؤدي أحدها دور الخصم ويهاجم البوت الآخر من خلال توليد نص يجبره على تجاوز القيود التي يلتزم بها عادة وتوليد ردود غير مرغوب فيها. تُضاف النصوص التي ولّدت ردوداً غير مرغوب فيها إلى بيانات التدريب الخاصة بنموذج تشات جي بي تي بهدف تدريبه على تجاهلها.

وقّعت شركة أوبن أيه آي أيضاً صفقة بمليارات الدولارات مع شركة مايكروسوفت (Microsoft)، وأعلنت عن تحالفها مع شركة باين (Bain)، وهي شركة عالمية متخصصة في الاستشارات الإدارية تخطط لاستخدام النماذج التوليدية التي تصممها شركة أوبن أيه آي في الحملات التسويقية الموجهة لعملائها مثل شركة كوكاكولا (Coca-Cola). بمعزل عن شركة أوبن أيه آي، أثارت الضجة حول تشات جي بي تي حماس الكثيرين فيما يتعلق باستخدام النماذج اللغوية الكبيرة، إذ بدأت الشركات والجهات الاستثمارية حول العالم بالعمل في هذا المجال.

لا شك بأن الضجة التي أثارها نموذج تشات جي بي تي خلال 3 أشهر فقط كبيرة للغاية. لكن، ما منشأ تشات جي بي تي؟ وما الخطوات التي اتخذتها شركة أوبن أيه آي لتضمن أنه جاهز للإطلاق في السوق؟ وما مستقبل هذا النموذج؟

تم تعديل المقابلة بهدف الإيجاز وزيادة الوضوح.

ما منشأ تشات جي بي تي؟

يان لايكيه: بصراحة، كان نجاح نموذج تشات جي بي تي أكبر من قدرتنا على التحمل؛ إذ إننا فوجئنا به ونحاول مواكبته.

جون شولمان: تفقّدت موقع تويتر (Twitter) عدة مرات في الأيام التي أعقبت إصدار تشات جي بي تي، وسادت الموقع في تلك الفترة صور الشاشات المأخوذة من موقع بوت الدردشة هذا. توقّعت أن يكون استخدام هذا النموذج بسيطاً بالنسبة للأشخاص، كما توقعت أن يكتسب مجموعة من المعجبين، لكني لم أتوقع أن يصل إلى هذا المستوى من الشهرة الواسعة.

ساندهيني أغاروال: أعتقد أننا فوجئنا جميعاً بعدد الأشخاص الذين استخدموا النموذج. عملنا على تطوير هذه النماذج لفترة طويلة لدرجة أننا نسينا كم يمكن أن تكون عجيبة بالنسبة للمستخدمين أحياناً.

ليام فيدس: لا شك في أننا فوجئنا برواج نموذج تشات جي بي تي. حاول الكثيرون تطوير بوتات الدردشة متعددة الأغراض من قبل لدرجة أني توقعت أن احتمال نجاحنا سيكون ضئيلاً. مع ذلك، أكسبتنا دراسة بياناتنا الخاصة الثقة بأننا نتملك منتجاً قد يستفيد منه المستخدمون بالفعل.

يان لايكيه: أتمنى لو كنت قادراً على تفسير الرواج الهائل لنموذج تشات جي بي تي. وفي الواقع، لا نعلم ما هو السبب، ونحن نجهل التفسير .

يكمن أحد أسباب حيرة الفريق لنجاح نموذج تشات جي بي تي في أن أغلبية التكنولوجيات المستخدمة فيه ليست جديدة. تشات جي بي تي هو نسخة محسنة من نموذج جي بي تي-3.5 (GPT-3.5) الذي ينتمي إلى فئة من النماذج اللغوية الكبيرة التي أطلقتها شركة أوبن أيه آي قبل أشهر من إطلاق بوت الدردشة تشات جي بي تي. يعتبر نموذج جي بي تي-3.5 بدوره نسخة محدثة من نموذج جي بي تي-3 (الجيل الثالث من تقنية المحول المدرَّب لتوليد النصوص) الذي أُصدر في عام 2020.

تُتيح شركة أوبن أيه آي هذه النماذج للمستخدمين عبر موقعها على هيئة واجهات برمجة التطبيقات (APIs)، التي تجعل من السهل على مطوري البرمجيات إدخال النماذج البرمجية في الرموز البرمجية التي يطوّروها. أطلقت شركة أوبن أيه آي أيضاً نسخة محسنة سابقة من نموذج جي بي تي-3.5 تحمل اسم إنستركت جي بي تي (InstructGPT) في يناير/ كانون الثاني 2022. ولم تُطلق النسخ السابقة من التكنولوجيا للعوام.

ما الخطوات التي اتخذتها شركة أوبن أيه آي لتضمن أنه جاهز للإطلاق في السوق؟

ليام فيدس: طوّرنا نموذج تشات جي بي تي من النموذج نفسه الذي طوّرنا منه نموذج إنستركت جي بي تي، كما أننا استخدمنا المنهجية نفسها لتطويره. أضفنا كمية من بيانات المحادثات (أي المستخرجة من المحادثات) وعدّلنا قليلاً على عملية التدريب. لذلك، لم نرغب في المبالغة في الترويج للنموذج الجديد على أنه يمثّل خطوة أساسية وكبيرة للأمام. لكن اتضح لاحقاً أن الأثر الإيجابي لبيانات المحادثات كان كبيراً في نموذج تشات جي بي تي.

جون شولمان: لا تختلف القدرات الفنية الخام للنماذج (التي نقيّمها باستخدام مقاييس معيارية) كثيراً، لكن نموذج تشات جي بي تي متوفر بسهولة أكبر ويعتبر استخدامه أسهل.

يان لايكيه: يمكنك التفكير في نموذج تشات جي بي تي من إحدى النواحي على أنه نسخة من نظام ذكاء اصطناعي طوّرناه منذ زمن؛ إذ إنه ليس نموذجاً يتمتع بقدرات أكبر بكثير من النماذج التي طوّرناها سابقاً. كانت النماذج الأساسية نفسها متاحة على واجهة برمجة التطبيقات الخاصة بشركة أوبن أيه آي لمدة عام تقريباً قبل إصدار تشات جي بي تي. بتعبير آخر، ما فعلناه هو أننا جعلنا نموذج تشات جي بي تي أكثر توافقاً مع أهداف المستخدمين من استخدامه؛ إذ إنه يخوض حوارات مع المستخدمين، كما أنه سهل الاستخدام ضمن واجهة دردشة ويحاول أن يكون مفيداً. مثّل ذلك خطوة كبيرة للأمام، وأعتقد أن المستخدمين يدركون ذلك حالياً.

اقرأ أيضاً: التداعيات الاجتماعية والأخلاقية لبوت الدردشة تشات جي بي تي في العالم العربي

جون شولمان: يستنتج نموذج تشات جي بي تي نية المستخدم بسهولة أكبر. ويستطيع المستخدمون الحصول على ما يريدون من خلال خوض المحادثات.

درب مطورو نموذج تشات جي بي تي هذا النموذج بطريقة شبيهة للغاية بتلك التي استخدموها لتدريب نموذج إنستركت جي بي تي، وهي تعتمد على تقنية تحمل اسم التعلم المعزز باستخدام ملاحظات البشر (RLHF). تعتبر هذه التقنية بمثابة الوصفة السرية لنموذج تشات جي بي تي. تكمن فكرة هذه التقنية في تحسين نموذج لغوي كبير (نموذج جي بي تي-3.5 في هذه الحالة) يميل لتوليد مختلف النتائج من خلال تدريبه على الأجوبة التي يفضّلها المستخدمون البشر.

يان لايكيه: طلبنا من مجموعة من الأشخاص قراءة الأوامر النصية الموجّهة لنموذج تشات جي بي تي والأجوبة التي قدّمها وتحديد الأجوبة التي يفضّلونها على غيرها. بعد ذلك، دمجنا هذه البيانات في جولة تدريبية واحدة. تتألف عملية التدريب في معظمها من خطوات شبيهة للغاية بتلك التي طبقناها لتدريب نموذج إنستركت جي بي تي. يجب أن تكون النتائج مفيدة وصحيحة، كما يجب أيضاً أن تكون غير مسيئة. ثمة أيضاً خطوات تتعلق بجعل النموذج قادراً على إجراء الحوارات وأداء دور المساعد، مثل طرح أسئلة المتابعة إذا كان السؤال الذي طرحه المستخدم غير واضح. يجب على النموذج أيضاً أن يوضّح أنه نظام ذكاء اصطناعي؛ إذ يجب ألا يدّعي أنه يمتلك هوية ليست له وأنه يمتلك قدرات لا يمتلكها، كما يجب أن يرد برسالة رفض إذا طلب منه المستخدمون إجراء مهام ليس من المفترض أن يجريها. نصت إحدى الجمل التي ظهرت في هذا التدريب على ما يلي: "كنموذج لغوي درّبه الخبراء في شركة أوبن أيه آي...". لم توضع هذه الجملة صراحة ضمن الأجوبة التي يمكن أن يقدّمها النموذج، ولكنها كانت من الجمل التي منحها المستخدمون تقييماً عالياً.

ساندهيني أغاروال: أعتقد أن هذه هي الطريقة التي اتبعناها. شكّلنا قائمة من المعايير المختلفة التي كان على المقيّمين من البشر تقييم النموذج بناء عليها، مثل الصدق. لكن بدأ هؤلاء أيضاً بتفضيل معايير اعتبروها ممارسات جيدة، مثل عدم تظاهر النموذج بأنه متخصص بغير اختصاصه.

لم يتخذ مطورو نموذج تشات جي بي تي أي خطوات مختلفة عند التحضير لإطلاق هذا النموذج للجمهور لأنهم صمموه باستخدام تقنيات استخدمتها شركة أوبن أيه آي من قبل، اعتقد هؤلاء أن المعايير التي حددوها في أثناء تدريب النماذج السابقة كانت كافية.

اقرأ أيضاً: كيف تسعى أوبن أيه آي إلى جعل تشات جي بي تي أكثر أماناً وأقل تحيزاً؟

ما مستقبل هذا النموذج؟

ساندهيني أغاروال: لم نعتقد أن نموذج تشات جي بي تي سيمثّل مخاطرة جديدة كلياً عند التحضير لإطلاقه؛ إذ إننا أطلقنا نموذج جي بي تي-3.5 بالفعل، وكنا نعلم أنه آمن بما يكفي. اكتسب نموذج تشات جي بي تي سلوك الرفض (الذي يرفض وفقه الكثير من طلبات المستخدمين) آلياً لأنه خضع للتدريب بالاستعانة بتفضيلات البشر.

يان لايكيه: أجرينا أيضاً ما يدعى بجلسات الفرق الحمراء، حيث اجتمع موظفو شركة أوبن أيه واستخدموا نموذج تشات جي بي تي وحاولوا إجباره على توليد نتائج تخرق معاييره. (الفرق الحمراء هي مجموعات من الأفراد الذين يؤدون دور الخصوم ويحاكون تكتيكات وتقنيات المهاجمين السيبرانيين لتقييم مدى أمان مؤسسة أو منتج ما). طلبنا أيضاً من مجموعات خارج الشركة إجراء العملية نفسها. كما أقمنا ما يدعى بمشروع الوصول المبكر مع بعض المستخدمين الموثوقين وحصلنا على ملاحظاتهم.

ساندهيني أغاروال: لاحظنا أن نموذج تشات جي بي تي ولّد بعض النتائج غير المرغوب فيها، ولكن كانت هذه النتائج مماثلة للنتائج التي يولدها نموذج جي بي تي-3.5. لذلك، بدت مخاطر استخدام هذا النموذج كأداة لمراجعة الأبحاث ضئيلة، لأن هذا كان الهدف من تطويره في الأصل.

جون شولمان: لا يمكننا الانتظار حتى يصبح نظام الذكاء الاصطناعي الذي طوّرناه مثالياً لنطلقه. أجرينا الاختبارات التجريبية على النسخ السابقة لبضعة أشهر، وكان انطباع المختبرين التجريبيين عن المنتج إيجابياً. تمثّل مصدر القلق الأساسي بالنسبة لنا في توليد النتائج الواقعية، وذلك لأن النموذج يميل إلى اختلاق المعلومات. لكن كانت النماذج اللغوية الكبيرة الأخرى مثل نموذج إنستركت جي بي تي متوفرة للجمهور بالفعل، واعتقدنا أن نموذج تشات جي بي تي جاهز للإطلاق لأنه أعلى جودة مقارنة بهذه النماذج من ناحية صحة المعلومات المولدة والمسائل الأخرى المتعلقة بالأمان. قبل الإطلاق، تأكدنا أن نموذج تشات جي بي تي يبدو أكثر قدرة على توليد النتائج الصحيحة وأنه أكثر أماناً بقليل من النماذج الأخرى (وذلك وفقاً للتقييمات المحدودة المتوفرة لدينا). ولذلك، قررنا المضي قدماً في إطلاقه.

اقرأ أيضاً: المدارس تتسابق على حظر بوت تشات جي بي تي وطلاب يطوّرون برمجيات تكشفه

راقبت شركة أوبن أيه آي طريقة استخدام نموذج تشات جي بي تي منذ إطلاقه، ولاحظ الخبراء فيها لأول مرة كيف تؤدي النماذج اللغوية الكبيرة مهامها عند استخدامها من قبل ملايين الأشخاص الذين قد يحاولون كشف عيوبها وقدراتها القصوى. حاول مطورو تشات جي بي تي حل أكبر المشكلات التي تتسبب في توليد النتائج غير المرغوب فيها، مثل الأغاني المسيئة للشخصيات ذات المكانة الدينية والرموز البرمجية الضارة التي تسرق أرقام بطاقات الائتمان، واستخدام الحلول للتحكم بدرجة أكبر في النتائج التي يمكن أن تولدها النسخ الأحدث من النموذج.

ساندهيني أغاروال: أمامنا الكثير من الخطوات التي يجب علينا اتخاذها. أعتقد أن الانتشار الواسع لنموذج تشات جي بي تي تسبب بالتأكيد بتفاقم الكثير من المشكلات التي نعلم أن المجتمعات تعاني منها وازدياد تأثيرها، وهي مشكلات يجب علينا حلها بأسرع وقت ممكن. على سبيل المثال، نعلم أن النموذج يولّد الكثير من النتائج المتحيّزة. وعلى الرغم من أنه قادر على رفض الإجابة عن الأسئلة المسيئة، فإن كتابة أوامر نصية تجبره على قبول الأسئلة التي صممناه ليرفضها ليست بالأمر الصعب.

ليام فيدس: كانت مشاهدة الطرق المتنوعة والمبتكرة التي استفاد فيها المستخدمون من نموذج تشات جي بي تي مثيرة، ولكننا نركز دائماً على النواحي التي يمكننا تحسينها. نعتقد أننا نستطيع إنتاج التكنولوجيا الأكثر توافقاً مع أهدافنا والأكثر فاعلية من خلال تطبيق عملية تكرارية نطلق ضمنها هذه التكنولوجيا ثم نجمع الملاحظات والتقييمات من المستخدمين ثم نعدّل التكنولوجيا. ظهور المشكلات الجديدة أمر حتمي مع تطور هذا النموذج.

ساندهيني أغاروال: في الأسابيع التي تلت إطلاق نموذج تشات جي بي تي، راجعنا بعض أسوأ الأمثلة التي وجدها المستخدمون، وكانت من أسوأ نتائج البحث التي واجهها أي أحد على الإطلاق. قيّمنا هذه النتائج إفرادياً وناقشنا الطرق المحتملة لحل هذه المشكلات.

يان لايكيه: انتشر بعض هذه النتائج بشكل واسع على موقع تويتر، وفي بعض الأحيان، تواصل معنا أشخاص لينبّهونا عن المشكلات دون نشرها على العلن.

ساندهيني أغاروال: انتمى العديد من المشكلات التي وجدناها إلى نوع من إساءة الاستخدام يحمل اسم كسر الحماية، وهي مشكلة يجب علينا حلّها بالتأكيد. ولكن نظراً إلى أن المستخدمين سيضطرون إلى تطبيق طرق ملتوية لإجبار النموذج على توليد النتائج السيئة، لا يمكن أن نعتبر أننا لم ننتبه لهذه المشكلة تماماً، أو أنها كانت مفاجئة للغاية بالنسبة لنا. مع ذلك، نعمل حالياً بنشاط على حل هذه المشكلة. عندما نكشف عن الطرق التي يمكن تطبيقها لتوليد النتائج التي تساعد على كسر الحماية، فنحن نضيفها إلى بيانات التدريب والاختبار التي نستخدمها. وسنستخدم البيانات التي نجمعها حالياً في تطوير النماذج المستقبلية.

اقرأ أيضاً: بوت تشات جي بي تي مبدع وسهل الاستخدام لكن مخاطره كثيرة

يان لايكيه:  سنسعى دائماً إلى إطلاق النماذج الجديدة الأعلى جودة التي نطوّرها واختبارها. نشعر بالتفاؤل الشديد حيال إمكانية التخفيف بدرجة كبيرة من قدرة النموذج على كسر الحماية من خلال تطبيق بعض التدريبات الخصومية المستهدفة. ليس من الواضح ما إذا سنتمكن من حل هذه المشكلات بالكامل، ولكننا نعتقد أننا سننجح في زيادة صعوبة استخدام النموذج بهدف كسر الحماية. مجدداً، كنا نعلم أن هذه المشكلة محتملة قبل إطلاق النموذج. أعتقد أن توقّع المشكلات الأمنية الحقيقية التي قد تنشأ نتيجة إطلاق أنظمة الذكاء الاصطناعي واستخدامها صعب للغاية. لذلك، نركّز بشكل رئيسي حالياً على مراقبة الأغراض التي يُستخدم لأجلها النموذج، والاطلاع على النتائج ثم تعديل النموذج وفقها. لا يعني هذا أنه ينبغي علينا ألا نخفف من العواقب المحتملة للمشكلات المتوقعة بشكل استباقي. لكن مع ذلك، يعتبر التنبؤ بتأثير النموذج في العالم عند إطلاقه صعباً للغاية.

كشفت شركة مايكروسوفت في شهر يناير/ كانون الثاني عن خططها لإطلاق برنامج بينغ تشات (Bing Chat)، وهو بوت دردشة مخصص للبحث يعتقد الكثيرون أنه مجرد نسخة جديدة من نموذج جي بي تي-4 الذي طورته شركة أوبن أيه آي ولم تعلن عنه رسمياً. (صرحت شركة أوبن أيه آي بما يلي: "يعتمد برنامج بينغ على أحد نماذج الجيل التالي الذي طورته شركتنا وعدّلته شركة مايكروسوفت تحديداً لأغراض البحث. ويتضمن هذا البرنامج التحسينات التي طُبقت على نموذجي تشات جي بي تي وجي بي تي-3.5"). يولّد استخدام بوتات الدردشة من قبل شركات التكنولوجيا العملاقة التي تقدر قيمتها بمليارات الدولارات، التي تتمتع أيضاً بسمعة كبيرة يجب عليها حمياتها، تحديات جديدة بالنسبة للأشخاص الذين يطورون النماذج التي تعمل وفقها هذه البوتات.

تقليل المخاطر

ساندهيني أغاروال: المخاطر الآن أكبر بكثير مما كانت قبل 6 أشهر، ولكنها أقل مما يمكن أن تكون بعد سنة من الآن. يعتبر السياق الذي تستخدم فيه هذه النماذج واحداً من العوامل الأكثر أهمية وضوحاً. وكما هو الحال مع محركات البحث من شركتي جوجل (Google) ومايكروسوفت، يمكن أن تولّد معلومة واحدة غير صحيحة الكثير من المشكلات، وذلك لأن الغرض من هذه البرامج هو أن تكون محركات للبحث عن المعلومات. يختلف الأداء المطلوب للنماذج اللغوية الكبيرة إذا كانت ستستخدم لأغراض البحث عما إذا كانت ستستخدم كبوتات دردشة للتسلية فقط. يجب علينا أن نجد طريقة للموازنة بين هذه الاستخدامات المختلفة، وتطوير برامج تفيد الأشخاص ضمن سياقات عديدة ومتنوعة قد يختلف فيها الأداء المطلوب للنماذج كثيراً. يزيد ذلك من الضغط علينا، وذلك لأننا نعرف الآن أننا نصمم هذه النماذج حتى يتم تحويلها إلى منتجات. أصبح نموذج تشات جي بي تي الآن منتجاً لأننا نمتلك واجهته البرمجية. نحن نطور هذه التكنولوجيا متعددة الأغراض ويجب علينا ضمان أن تعمل بكفاءة في المجالات جميعها. هذا هو واحد من التحديات العديدة التي نواجهها حالياً.

جون شولمان: لقد قللت من تقدير مدى استعداد المستخدمين للبحث في التبعات السياسية لنموذج تشات جي بي تي والاهتمام بها. كان من الممكن أن نتخذ بعض القرارات الأفضل عند جمع بيانات التدريب، ما كان من الممكن أن يخفف من عواقب هذه المشكلة. ونحن نعمل على التوصل إلى حل لها حالياً.

يان لايكيه: من وجهة نظري، فإن نموذج تشات جي بي تي يفشل في الكثير من النواحي، وثمة الكثير من المشكلات التي يجب حلها. لا يبدو أننا توصلنا إلى حلول هذه المشكلات. يجب علينا أن نكون واضحين للغاية مع أنفسنا ومع الآخرين حول القيود التي تعاني منها هذه التكنولوجيا. استُخدمت النماذج اللغوية لزمن طويل، ولكن هذه التكنولوجيا لا تزال في مراحلها المبكرة. نعرف ما المشكلات التي تواجهنا. وأعتقد أنه يجب علينا أن نكون واقعيين في توقعاتنا وواضحين للغاية، كما يجب علينا أن نبيّن للجميع أن نموذج تشات جي بي تي هو منتج غير مكتمل.