بوت تشات جي بي تي مبدع وسهل الاستخدام لكن مخاطره كثيرة

بدلاً من قضاء اليوم بأكمله في كتابة وصياغة محاضرته، استعان خبير الذكاء الاصطناعي توبايس زوينجمان الذي يقدم دورات عبر الإنترنت حول الذكاء الاصطناعي ببوت الدردشة تشات جي بي تي (ChatGPT)، وقد كانت النتيجة مذهلة بالنسبة له، حيث تمكن نظام الذكاء الاصطناعي الجديد من كتابة المحاضرة كاملة في غضون 30 دقيقة فقط، ومع قليل من الصياغة والتحرير، تمكن خبير الذكاء الاصطناعي من توفير ما يصل إلى 12 ساعة من البحث والتدقيق الذي كان يجريه يدوياً.

كانت تلك واحدة من عشرات القصص التي ضجت بها مواقع الإنترنت ومنصات التواصل الاجتماعي حول بوت الدردشة الجديد تشات جي بي تي (ChatGPT)، الذي أطلقه مختبر الذكاء الاصطناعي أوبن إيه آي (OpenAI) نهاية شهر نوفمبر الماضي، والمتاح للاستخدام مجاناً، حيث تبنته مجموعة واسعة من المستخدمين وصل عددهم إلى مليون مستخدم بعد خمسة أيام فقط من إطلاقه.

تشات جي بي تي: ثورة في عالم بوتات الدردشة

في الفترة الأخيرة، نجد أن عمالقة التكنولوجيا مثل فيسبوك وجوجل ومايكروسوفت وأبل لديها الريادة في سوق تطوير بوتات الدردشة باعتبارها التطور التالي للتفاعل البشري والحاسوب، وكثيراً ما تفاخرت بإمكانية قيام بوتات الدردشة الخاصة بهم بمهام يومية مثل الإجابة عن المكالمات وسرد أحوال الطقس والإجابة عن الأسئلة بطريقة مشابهة عند الحديث مع شخص.

لكن حتى الآن، لا تزال غالبية بوتات الدردشة التي يتفاعل معها الأشخاص حالياً بدائية نسبياً، حيث نجدها قادرة فقط على الإجابة عن الأسئلة التقليدية التي يطرحها المستخدمون حول منتج ما، والتي يمكن الوصول إليها بسهولة عبر بحث يدوي بسيط، أو مساعدة العملاء المحبطين بإجابات تمت صياغتها سابقاً، ولكن مع إظهار مستخدمي بوت الدردشة تشات جي بي تي (ChatGPT) القدرة على إجراء محادثة من خلال استعلامات متعددة، يبدو أن هذا المجال دخل مرحلة جديدة تماماً من التطور.

يستخدم هذا البوت أحد نماذج تعلم الآلة المتطورة الذي يسمى التعلم المعزز من ردود الفعل البشرية (Reinforcement Learning from Human Feedback) اختصاراً (RLHF)، التي توفر للخوارزميات التعلّم عبر التعليقات والتقييمات التي يكتبها البشر، وحتى الآن، أظهر تشات جي بي تي نتائج مبهرة للغاية، حيث تمكن من كتابة أكواد برمجية، وصياغة المقالات والبيانات الصحفية وكتابة المقالات الأكاديمية، وحتى كتابة الشعر والنصوص الأدبية.

This site was built in less than 10 minutes using a few ChatGPT prompts and Replit.

Here's a glimpse into how software development has changed forever 👇 pic.twitter.com/sSYK4Umlm6

— Replit ⠕ (@Replit) December 5, 2022

تشات جي بي تي: ليس كل ما يلمع ذهباً

على الرغم من كل الضجة التي أثارها بوت تشات جي بي تي ودقته في تقدم النتائج في مختلف المجالات، لكنه ليس مثالياً، حيث ظهرت بعض المحاذير المهمة التي يجب ملاحظتها، مثل:

التحيز على أساس الجنس أو العرق

حتى الآن، معظم خبراء الذكاء الاصطناعي لم يجدوا إجابة واضحة حول كيفية تدريب بوت تشات جي بي تي، لكن الشركة تقول إنها استخدمت بشكل عام صفحات الويب المؤرشفة ومحتوى موسوعة ويكيبيديا، وفي هذا الصدد، قالت أستاذة القانون الخاص والتكنولوجيا في جامعة أوتريخت الهولندية كاتالينا جوانتا: "أن الطريقة التي تم بها تدريب النموذج هي لغز بسبب القوة الحاسوبية الكبيرة جداً لهذه النماذج، وحقيقة أنه يعتمد على كل هذه البيانات التي لا يمكننا تخيلها، هذا من شأنه أن يُظهر الكثير من الأسئلة الأخلاقية التي يجب أن تلتزم بها بوتات الدردشة المدعومة بالذكاء الاصطناعي مع ضمان وجود خطوط إرشادية معقولة لتطويرها".

هذا ما ظهر في تحيز بوت تشات جي بي تي بشكل واضح في بعض الإجابات التي قدمتها، على سبيل المثال، طلب أحد أستاذة جامعة كاليفورنيا من البوت كتابة تعليمات برمجية بلغة بايثون (Python) للتحقق مما إذا كان شخص ما سيكون عالماً جيداً على أساس العرق والجنس، فكان رد الروبوت أن معظم العلماء الجيدين متوقع لهم أن يكونوا من أصحاب البشرة البيضاء الذكور، وعندما سُئل مرة أخرى بصيغة مغايرة، غيّر البوت رده ليشمل أصحاب البشرة البيضاء الذكور من الآسيويين.

Yes, ChatGPT is amazing and impressive. No, @OpenAI has not come close to addressing the problem of bias. Filters appear to be bypassed with simple tricks, and superficially masked.

And what is lurking inside is egregious. @Abebab @sama
tw racism, sexism. pic.twitter.com/V4fw1fY9dY

— steven t. piantadosi (@spiantado) December 4, 2022

إجابات موثوقة ولكنها غالباً مبهمة

بحسب العديد من خبراء الذكاء الاصطناعي، فإن بوت تشات جي بي تي لديه إجابات صحيحة ولكنها غالباً غير موثوقة أو مبهمة للغاية، على سبيل المثال، إذا تم طرح سؤال مباشر ذو سياق واضح، فإنه غالباً ما يقدم إجابة صحيحة، وفي بعض الأحيان يقوم بتوضيحه بشكل جيد جداً كأنها إجابة من خبير بشري، لكن إذا تم التلاعب في صيغة السؤال، فإن الإجابة تكون مبهمة وربما تحصل على نصوص غير واضحة تماماً.

هذا هو السبب الذي جعل منصة ستاك أوفر فلو (StackOverflow) أحد أشهر مجتمعات المبرمجين على الإنترنت تحظر نشر الإجابات التي يقدمها بوت تشات جي بي تي في المنصة، حيث كتب مشرفو المنصة في تدوينة: "نظراً إلى أن متوسط معدل الحصول على الإجابات الصحيحة من تشات جي بي تي منخفض جداً، فإن نشر الإجابات التي تم إنشاؤها بواسطة تشات جي بي تي يضر بشكل كبير بالموقع والمستخدمين الذين يسألون أو يبحثون عن إجابات صحيحة".

ChatGPT is sometimes amazing, and sometimes hilariously wrong. Here, it confidently explains to me why an abacus is faster than a GPU. 😃 pic.twitter.com/vpJZTStDnD

— Andrew Ng (@AndrewYNg) December 7, 2022

قيود بيانات التدريب

مثل العديد من نماذج الذكاء الاصطناعي، فإن بوت تشات جي بي تي لديه قصور حاد في بيانات التدريب الخاصة به، حيث إن معظم بيانات التدريب التي تمت تغذيته بها تعود إلى عام 2021 والأعوام السابقة، ومن الممكن أن ينعكس نقص بيانات التدريب والتحيزات سلباً على نتيجة النموذج.

تطوير تهديدات سيبرانية أكثر تعقيداً

على الرغم من الفوائد الهائلة التي يمكن أن يقدمها بوت تشات جي بي تي لمختلف القطاعات والصناعات وحتى المستخدمين العاديين، فإنه مثل أي تكنولوجيا ناشئة، نجد أن فرص استخدامه من قِبل مجرمي الإنترنت والقراصنة لتطوير أساليب أكثر تطوراً من التهديدات السيبرانية واردة جداً.

يمكن استخدام قدراته على إنتاج نصوص يصعب على البشر تمييزها عن النص المكتوب من قبل الإنسان، والأكثر خطورة هو أنه يمكن أن يوفر ملاحظات لمجرمي الإنترنت والقراصنة لمساعدتهم في فهم أفضل لسبب وكيفية استخدام تكتيكات معينة لشن هجماتهم بنجاح، مثل تعليمهم كيفية صياغة رسائل بريد إلكتروني احتيالية أكثر فعالية دون الحاجة إلى القيام بذلك بأنفسهم.

هل تشات جي بي تي منافس لمحرك البحث جوجل حقاً؟

إن طرح سؤال على نموذج ذكاء اصطناعي والحصول على إجابة أمر مفيد، حيث نجد أن محرك البحث جوجل يزودك بإجابات مقترحة على الأسئلة وروابط إلى مواقع الويب التي تعتقد أنها ستكون ذات صلة، ومع ذلك، غالباً ما تتجاوز إجابات تشات جي بي تي بكثير ما سيقترحه جوجل، لذلك من السهل تخيل أن بوت الدردشة تشات جي بي تي الجديد سينافس محرك البحث جوجل.

ومع ذلك، يجب أن تفكر ملياً قبل الوثوق ببوت الدردشة تشات جي بي تي، كما هو الحال مع محرك البحث جوجل، حيث مصادر المعلومات التي يعتمد عليه تشات جي بي تي مثل ويكيبيديا ليست موثوقة تماماً، لذلك، من الأفضل التحقق من المعلومات من المصادر الأصلية قبل الاعتماد على الإجابات التي يقدمها، وهذا يتطلب منك المزيد من الجهد لفحص الإجابات لأنه يمنحك بعض النصوص الأولية دون روابط أو اقتباسات.

من ناحية أخرى، يمكن للروبوت الجديد أن يكون مفيداً في بعض الحالات مثل اختصار الوقت في كتابة أو إنشاء نص عادي يمكن فهمه عند قراءته من المرة الأولى، لذا قد لا ترى شيئاً مثل نتائج تشات جي بي تي مباشرة في نتائج بحث جوجل، وهذا يعود إلى أن جوجل لديه بالفعل نماذج لغوية كبيرة متطورة باستمرار مدعومة بالذكاء الاصطناعي ويستخدمها بالفعل على نطاق واسع في محرك البحث الخاص به، وهو ما يفتقر إليه بوت تشات جي بي تي حتى الآن.

ختاماً، قد تكون بالفعل متحمساً ولديك الكثير من المهام التي تريد أن يقوم بوت تشات جي بي تي بها نيابةً عنك، لكن في الوقت نفسه، تذكر أن هذه الأداة الذكية لم تصل لمرحلة الكمال أو حتى منافسة محركات البحث، حيث يمكن أن تقدم إجابات خاطئة ومتحيزة، ناهيك عن قدرتها على مزج الحقيقة مع الخيال، مثل هذه التكنولوجيا الجديدة من الصعب عليها التنبؤ بالمشكلات التي ستنشأ، وحتى ذلك الحين، استمتع باستكشاف قدرات بوت تشات جي بي تي، لكن في الوقت نفسه، احرص على عدم تصديق كل ما يقوله.