شارك
الرئيسية
4 دقيقة
حتى وقتٍ قريب جداً وبالتحديد قبل عامين، كان محرك البحث جوجل وجهتك المحتملة الأولى إذا كنت تريد معرفة معلومات إضافية عن موضوع علمي مثير للجدل، حيث تتلقى روابط متعددة ثم يمكنك اختيار زيارة موقع الويب الذي تثق به للحصول على المعلومات التي تريدها، ما قد يستغرق زمناً ليس بالقليل اعتماداً على الموضوع الذي تريد البحث عنه.
ولكن الآن مع ظهور بوتات الدردشة المدعومة بالذكاء الاصطناعي التوليدي، أصبح الأمر أسهل بكثير مما مضى، حيث توفّر لك إجابة سريعة وموجزة يمكنك قراءتها خلال أقل من دقيقة أو دقيقتين. ومع أن الإجابات الجاهزة قد تكون طريقة مفيدة لاستهلاك المعلومات بسرعة، فإنها قد تحمل الكثير من المخاطر التي قد لا تدركها أو تغفل عنها، خاصة فيما يتعلق بالمواضيع العلمية المعقدة أو التي يُثار حولها الجدل باستمرار.
ومن هذه المخاطر، إمكانية أن تكون هذه الإجابات خاطئة تماماً أو مضللة، من واقع أن الإجابة قد أُنشئت من خلال التنبؤ بمجموعات الكلمات المحتملة الموجودة في بيانات التدريب الخاصة ببوت الدردشة، وهو ما قد يسهم بشكلٍ مباشر في نشر المعلومات المضللة، خاصة إذا نقلتها أو تداولتها دون التحقق منها. إذاً، كيف يمكنك تفادي استهلاك معلومات علمية مضللة أو خاطئة أنشأها الذكاء الاصطناعي التوليدي؟
اقرأ أيضاً: هلوسات الذكاء الاصطناعي: ما الذي يدفع النماذج اللغوية لاختلاق المعلومات؟
كيف تعمل أدوات الذكاء الاصطناعي التوليدي على إنشاء المعلومات العلمية المزيفة؟
على الرغم من أن بوتات الدردشة المدعومة بالذكاء الاصطناعي التوليدي أثبتت أن لديها القدرة على تعزيز الإنتاجية وتحسينها، فإن لديها مشكلات لا تزال قيد المناقشة، ولم يجد لها حل حتى الآن، وعلى رأسها مشكلة الهلوسة التي تُعرّف ببساطة في قدرتها على إنشاء محتوى يبدو مقنعاً ولكنه بعيد كل البعد عن الواقعية أو أنه ليس صحيحاً. ويرجع ذلك إلى سبب رئيسي هو تدريبه على عدم قول كلمة "لا أعرف".
والسبب يعود إلى عدم امتلاكه فهماً أو قدرات تفكير حقيقية مثل البشر، حيث إنه يُنشئ النص اعتماداً على الأنماط والاحتمالات بدلاً من الفهم أو الاستدلال، وهذا يعني أنه عند مواجهته بسؤال لا يمكنه الإجابة عنه فقد يحاول إنشاء استجابة معقولة حتى وإن كانت خاطئة بدلاً من الاعتراف بجهله بالموضوع، وهو ما شُبِّه بأنه مثل التحدث إلى ممثل محترف يتقمص دور الطبيب في مشهد مسرحي.
علاوة على ذلك، فإن الهدف من استخدام العديد من بوتات الدردشة المدعومة بالذكاء الاصطناعي التوليدي هو تقديم إجابات دقيقة وذات صلة مهما كان نوع السؤال ومنطقه، لذلك غالباً ما تجتهد البوتات في إنشاء شكل من أشكال الاستجابة حتى ولو كانت مختلقة أو غير منطقية بدلاً من الاعتراف صراحة بعدم معرفتها بالموضوع، أو بعد كفاية المعلومات المتوفرة حوله.
كما أن البيانات التي دُرِّب عليها بوت الدردشة تؤدي دوراً بارزاً في اختلاقه للمعلومات، حيث صُمِّمت نماذج الذكاء الاصطناعي التوليدي في المقام الأول لتوفير استجابات مفيدة وغنية بالمعلومات، وهذا غالباً ما يؤدي إلى إنشاء إجابات بناءً على أنماط في البيانات التي دُرِّبت عليها، حتى عندما تفتقر إلى عدم اليقين بشأن استعلام معين، ومن ثَمَّ قد تلجأ إلى الهلوسة أو اختلاق المعلومات بدلاً من الاعتراف بعدم اليقين
بالإضافة إلى ذلك تتضمن عملية تدريب نماذج الذكاء الاصطناعي التوليدية مجموعات بيانات ضخمة قد لا تتضمن تعليمات صريحة حول متى ينبغي لها قول "لا أعرف"، ومع ذلك في حين يمكن للمطورين تنفيذ إرشادات لتشجيعها على إنشاء استجابات أكثر دقة أو الاعتراف صراحةً بعدم قدرتها على إنشاء استجابة موثوقة ودقيقة، فإن الطبيعة المتأصلة لها والتي تُدرَّب عليها غالباً ما تؤدي إلى تشجيعها لإنشاء إجابات تخمينية بدلاً من ذلك.
اقرأ أيضاً: 8 نصائح لتحسين دقة إجابات تشات جي بي تي وتقليل ظاهرة الهلوسة
ما هي المعلومات العلمية المزيفة التي تُنشئها نماذج الذكاء الاصطناعي التوليدي؟
تتمتّع نماذج الذكاء الاصطناعي التوليدي بالقدرة على إنشاء أشكال مختلفة من المعلومات العلمية المزيفة، ما يُثير مخاوف كبيرة بشأن سلامة الأبحاث والدراسات العلمية. فيما يلي بعض الجوانب الرئيسية لكيفية مساهمتها في إنشاء المعلومات العملية المزيفة:
إنشاء أوراق بحثية مزيفة
يمكن للذكاء الاصطناعي التوليدي إنتاج مقالات علمية مزيفة بالكامل تحاكي بنية البحث ولغته الحقيقية، بحيث تبدو متطورة ومقنعة وغالباً ما تخدع القرّاء العاديين وحتى الباحثين أصحاب الخبرة عند الفحص الأولي. على سبيل المثال، أظهرت دراسة نُشِرت في دورية بي إم سي (PMC) العلمية، أن تشات جي بي تي لديه القدرة على إنشاء مقالات طبية معقولة بما يكفي دون اكتشافها على أنها احتيالية.
المعلومات المضللة في الملخصات والنتائج
يمكن أن تكون الملخصات والنتائج التي يُنشئها الذكاء الاصطناعي التوليدي غير قابلة للتمييز عن تلك الحقيقية، ما يؤدي إلى نشر نتائج كاذبة في قواعد البيانات الأكاديمية وقد يشكّل ذلك خطراً، لأن مثل هذا المحتوى يمكن أن يضلل الباحثين والجمهور على حد سواء ويقوّض الثقة في المنصات العملية المعتمدة.
اقرأ أيضاً: كيف تستخدم تشات جي بي تي لكتابة بحث علمي؟
البيانات والصور المزيفة
يمكن للذكاء الاصطناعي التوليدي إنشاء مجموعات بيانات وصور علمية مقنعة ولكنها مزيفة بالكامل، بما في ذلك الأرقام التي يتلاعب بها، والتي يمكن استخدامها لدعم الادعاءات الكاذبة في أوراق البحث العملية، ما يعقّد الجهود المبذولة للحفاظ على أخلاقيات النشر.
حملات التضليل المنهجية
يمكن للذكاء الاصطناعي التوليدي تسهيل حملات التضليل بشكلٍ واسع من خلال إنتاج كميات كبيرة من المحتوى المضلل القابل للانتشار بسرعة عبر منصات التواصل الاجتماعي، لدعم فرضية علمية دون التحقق منها، ما يمثّل تحدياً في التمييز بين المعلومات العلمية الحقيقية والمزيفة عبر الإنترنت.
نتيجة لذلك، تنتج العديد من التحديات أمام استخدام نماذج الذكاء الاصطناعي التوليدي:
- تزايد حالات الشك في الأبحاث والدراسات الحقيقية، ما قد يضرُّ بمصداقية المؤسسات والمجلات والدوريات العلمية.
- الانتشار السريع للمحتوى العلمي المزيف يمكن أن يعقّد الجهود المبذولة لسحب المعلومات المضللة أو تصحيحها بمجرد نشرها، ما يسهم في دورة من المعلومات المضللة التي يمكن أن تكون لها عواقب في العالم الحقيقي.
- تزايد الضغوط على أنظمة مراجعة الأقران المتعلقة بالأبحاث العلمية، ما قد يؤدي إلى قبول الأبحاث المزيفة دون مراجعتها بدقة.
كيفية تجنب استهلاك المعلومات العلمية المزيفة التي يُنشئها الذكاء الاصطناعي التوليدي
لتجنب استهلاك المعلومات العلمية المزيفة المُنشأة بواسطة الذكاء الاصطناعي التوليدي، اتبع الاستراتيجيات التالية:
- تحقق من مؤلف المحتوى وتأكد إذا كان لديه حسابات عبر الإنترنت أو منشورات أو مقالات علمية في مجلات أو مواقع أخرى.
- تحقق من موثوقية منصة النشر، حيث عادةً ما يكون لدى المجلات العلمية والدوريات ذات السمعة الطيبة عمليات فحص صارمة قبل قبول الأوراق العلمية.
- تقدّم الأوراق العلمية والأبحاث الحقيقية عادةً مصادر موثوقة للمحتوى الخاص بها، لذا تأكد من المصادر المرفقة من خلال اتباع الروابط والتحقق من مصداقيتها.
- تحقق دائماً من صحة المعلومات من مصادر موثوقة متعددة لتأكيد دقة المعلومات الواردة في الورقة العلمية.
- طوّر المهارات اللازمة لتقييم المعلومات بشكلٍ نقدي من خلال طرح الأسئلة المنطقية حول المعلومات والأرقام والنسب المئوية الواردة في المحتوى.
- تابع المناقشات والأبحاث حول المعلومات المضللة ودور الذكاء الاصطناعي التوليدي فيها للتعرف إلى كيفية كشف المحتوى المزيف بشكلٍ أكثر فاعلية.
- كُنْ على دراية بأن الذكاء الاصطناعي التوليدي لديه إمكانية عالية في إنشاء معلومات ملفقة تبدو معقولة ولكنها خاطئة تماماً.
- استخدم أدوات الكشف المخصصة مثل أداة (xFakeSci) التي يمكنها اكتشاف ما يصل إلى نحو 94% من المقالات العلمية التي أُنشئت بواسطة الذكاء الاصطناعي التوليدي.
- توخَّ الحذر عند استخدام بوتات الدردشة المدعومة بالذكاء الاصطناعي التوليدي كأداة وحيدة للحصول على المعلومات العلمية حول موضوع ما، حيث يمكنك أيضاً متابعة البحث باستخدام محركات البحث التقليدية قبل استخلاص النتائج النهائية.
