شارك
الرئيسية
4 دقيقة
من أكثر الجوانب إثارة للقلق عند استخدام بوت الدردشة تشات جي بي تي ميله إلى تلفيق الإجابات؛ أي تقديم معلومات بطريقة تبدو للوهلة الأولى صحيحة تماماً، ولكن عند إجراء المزيد من المراجعة والتدقيق على الإجابة المقدمة سوف تكتشف أنها غير صحيحة أو متحيزة أو غير متسقة، وهذه الإجابات كلّها مجتمعة تقع ضمن إطار ظاهرة الهلوسة التي يُشكك بعض الخبراء في استحالة إمكانية القضاء عليها تماماً في نماذج الذكاء الاصطناعي التوليدي مهما تطورت.
وتُعدّ ظاهرة الهلوسة في بوت الدردشة تشات جي بي تي حقيقة واقعية باعتراف الشركة المطورة، حيث يقول جون شولمان (John Schulman) الشريك المؤسس لشركة أوبن أيه آي، إن قلقه الأكبر عند إصدار النموذج كان يتعلق بالواقعية، لأن النموذج يميلُ إلى تلفيق الحقائق. ومن ثَمَّ، إذا كنت تستخدم تشات جي بي تي وتريد الحصول على إجابات صحيحة وضمان عدم هلوسته أو تقديمه معلومات خاطئة بالحد الأدنى، فإليك نصائح عملية للحد من ظاهرة الهلوسة التي يعانيها.
اقرأ أيضاً: هلوسات الذكاء الاصطناعي: ما الذي يدفع النماذج اللغوية لاختلاق المعلومات؟
تحسين إجابات تشات جي بي تي: الأمر كلّه يتعلق بكيفية طرح أسئلتك
تشير تعقيدات تطوير نماذج اللغة الكبيرة التي تدعم بوتات الدردشة مثل تشات جي بي تي إلى أنه على الرغم من إمكانية إجراء تحسينات، فقد تكون درجة معينة من الهلوسة موجودة دائماً في نماذج الذكاء الاصطناعي التوليدي. وللحصول على أقصى درجة من الإجابات الصحيحة وتجنب تلفيقها للإجابات لأقل قدر ممكن، إليك النصائح التالية:
1- صياغة مطالبات واضحة ومحددة
عند كتابة مطالبتك يدوياً أو صوتياً، من الأفضل أن تكون واضحاً ودقيقاً، فكلما كنت أكثر دقة قل المجال أمام النموذج لإنشاء معلومات غير دقيقة. تأكد من أن أسئلتك واضحة ولا لبس فيها لمنع الارتباك الذي قد يؤدي إلى الهلوسة، حيث تمنح المطالبات الغامضة أو التي لا توفّر تفاصيل كافية المجال لبوت الدردشة تشات جي بي تي لمحاولة ملء التفاصيل التي تركتها.
2- تجنُّب دمج المفاهيم غير ذات الصلة
المطالبات التي تدمج المفاهيم غير ذات الصلة والتي تجمع بين المفاهيم غير المتناسقة في مطالبة واحدة أو ليس لها علاقة أو ارتباط مباشر مع بعضها، قد تُشجّع تشات جي بي تي على تلفيق استجابة تشير إلى أن المفاهيم غير ذات الصلة في الواقع مرتبطة.
وتذكر أن تشات جي بي تي سيحاول ملاءمة ما يُطلب منه القيام به بكامل قدرته، وإذا لم يستطع ملاءمته باستخدام الحقائق الفعلية والمعلومات المتوفرة في بيانات تدريبه، فسيحاول إرضاءك بقدراته من خلال توفير معلومات غير صحيحة لملء الفراغات ليس إلّا.
اقرأ أيضاً: ما هو الحل إذا نفدت بيانات تدريب الذكاء الاصطناعي؟
3- استخدام تقنيات هندسة الأوامر بفاعلية
هندسة الأوامر هي أوامر تُلقَّن لتشات جي بي تي لإعطاء أقصى قدرٍ من المعلومات الموثوقة والصحيحة. على سبيل المثال، بعد تلقي استجابة أولية، اطلب منه مراجعة إجابته والتفكير فيها للتأكد من دقتها، والغرض من ذلك المساعدة على تحديد أي تناقضات أو أخطاء في الإجابة التي أنشأها وتحسين دقة الاستجابة بمرور الوقت.
4- تقسيم الأسئلة المعقدة
قسّم الأسئلة المعقدة إلى أجزاء أصغر يمكن إدارتها، وبهذه الطريقة سيتمكن تشات جي بي تي من التركيز على جانب واحد في كل مرة، ما يقلِّل احتمالية إنشاء إجابات غير صحيحة.
اقرأ أيضاً: هندسة الأوامر: تعلّم الطريقة الصحيحة لطرح الأسئلة على تشات جي بي تي
5- تشجيعه على التحقق من المعلومات
وذلك من خلال:
- تقديم إجابة مدعومة بالمصادر: اطلب من تشات جي بي تي أن يستند في استجاباته إلى مصادر محددة وموثوقة. على سبيل المثال، يمكنك أن تطلب كالآتي: "أنشئ الإجابة باستخدام المعلومات الموجودة في موقع الجزيرة نت ونيويورك تايمز والغارديان فقط" لتوجيهه نحو إنشاء نص من مصادر موثوقة.
- التحقق من المعلومات بشكلٍ مستقل: راجع دائماً المعلومات التي يوفّرها تشات جي بي تي بشكلٍ مستقل عبر البحث عنها في مصادر خارجية موثوقة وخاصة للموضوعات العلمية أو الاقتصادية أو الطبية أو الغذائية.
6- توفير السياق المناسب
إذا كانت مطالبتك متعلقة بمناقشات سابقة أو مواضيع محددة موجودة في ذاكرة النموذج، فأرفق هذا السياق في مطالبتك لمساعدته على إنشاء إجابات أكثر صلة ودقة.
7- تجنُّب مزج الحقائق المختلفة
عند محاولة الحصول على إجابات واضحة من تشات جي بي تي، كُنْ حذراً بشأن خلط العناصر من حقائق مختلفة بطريقة تبدو معقولة ولكنها غير ممكنة، فأحد الأسباب التي تقودك لتوخي الحذر بشأن هذه الأنواع من المطالبات هي أنك قد لا تمتلك المعرفة الكافية للتحقق من صحة الحقائق، أو قد تستغرق منك وقتاً وجهداً كبيرين.
8- تبنّي عقلية نقدية
عند استخدام تشات جي بي تي تذكر أنها أداة مساعدة وليست بديلاً عن بذل الجهد للوصول إلى الإجابات أو المعلومات التي تريدها من مصادر مستقلة خارجية موثوقة، لذا لا تأخذ جزءاً من الإجابات أو كلّها التي يقدّمها لك على أنها النسخة النهائية، بدلاً من ذلك طوّر مهارات التقييم النقدي للإجابات التي يوفّرها لك، ومن ثَمَّ إذا ساورك الشك بمعلومة أو رقم ووجدته غير منطقي، أجرِ مزيداً من التحقيق أو اطلب التوضيح منه.
اقرأ أيضاً: لماذا تكون المعلومات المزيفة التي يولدها الذكاء الاصطناعي أكثر إقناعاً من تلك التي يولدها البشر؟
لماذا ينبغي لك الحذر عند استخدام تشات جي بي تي لإنشاء المحتوى النصي؟
يُعدّ ميل بوت الدردشة تشات جي بي تي إلى الهلوسة بالمعلومات -إنتاج محتوى زائف أو مضلل أو خاطئ- موضوعاً يُناقش باستمرار بين الباحثين والمطورين، بالإضافة إلى الدراسات التي ركزت على إبراز مدى دقة معلوماته ومعدل الهلوسة وطبيعتها التي ينشئها في سياقات مختلفة وأبرزها:
-وفقاً للمؤسس المشارك ورئيس مجلس إدارة شركة الذكاء الاصطناعي غوت إت (Got It) بيتر ريلان (Peter Relan)، فإن معدل الهلوسة التي ينتجها تشات جي بي تي يتراوح ما بين 15-20%، وهذا يعني أنه على الرغم من أنه يُنشئ إجابات صحيحة في نحو 80% من استجاباته، فإنه لا يزال يُنشئ معلومات غير صحيحة أو ملفقة.
-وجدت دراسة نُشرت في مجلة علم النفس الكندية عام 2023 أن نحو 32.3% من المصادر التي أوردها تشات جي بي تي في استجاباته كانت ملفقة، أو تحتوي على عناصر تبدو موثوقة مثل المؤلفين الحقيقيين المعترف بهم في مجالات تخصصهم والإشارات إلى المجلات العلمية الموثوقة التي راجعها الأقران، ولكنها لم تكن صحيحة في النهاية، ما يُسلّط الضوء على ميل النموذج إلى إيراد مراجع تبدو معقولة ولكنها خاطئة، ما يمكن أن يضلل بسهولة كلاً من الطلاب والباحثين.
- أشار مقال نشرته صحيفة نيويورك تايمز عام 2023 إلى أن معدل الهلوسة قد يصل إلى 27% في نماذج الذكاء الاصطناعي التوليدي، مع وجود أخطاء واقعية بنسبة 46% في النصوص التي يُنشئها، ما يشير إلى وجود تحدٍ كبير في ضمان موثوقية مخرجات بوتات الدردشة مثل تشات جي بي تي.
- يمكن أن تزداد احتمالية الهلوسة أيضاً بناءً على كيفية صياغة الأسئلة أو ما يُطلق عليه اسم تأثير التحفيز (Impact of Prompting). على سبيل المثال، إذا قدّم المستخدم فرضيات خاطئة في مطالبته، فقد يبني تشات جي بي تي استجاباته بناءً على هذه الفرضيات الخاطئة، ما يؤدي إلى إنشاء مزيدٍ من المعلومات المضللة والخاطئة.
- وجدت دراسة نشرتها مجلة كيوريوس الطبية (Cureus Medical Journal)، أن تشات جي بي تي لديه قدرة عالية على إنشاء استجابات موثوقة في المجال الطبي، إلّا أنها غير منطقية أو غير صحيحة من الناحية الواقعية، ما يدل على ميلها إلى إنتاج استجابات لا تستند إلى بيانات حقيقية في الواقع أو ما يُعرف باسم الهلوسة الاصطناعية (Artificial Hallucination)، ما قد يؤدي إلى سوء الفهم وانتشار المعلومات الخاطئة.