شارك
الرئيسية
1 دقيقةما هي هلوسات الذكاء الاصطناعي؟
تنتج الهلوسة في بوتات دردشة الذكاء الاصطناعي عندما يوفر بوت الدردشة إجابات مقنعة ولكنها مختلقة تماماً. وتعد هذه الهلوسات ظاهرة غير جديدة وقد حذّر المطورون من تعلم نماذج الذكاء الاصطناعي حقائق غير صحيحة، والرد على استفسارات المستخدمين بإجابات كاذبة.
اكتشاف هلوسات الذكاء الاصطناعي
في 11 فبراير/ شباط 2023، حذّر برابهاكار راجافان، نائب الرئيس الأول لشركة جوجل من هلوسات الذكاء الاصطناعي في بوتات الدردشة.
بعد أيام، ظهرت تقارير تفيد بأن مختبِري بينغ تشات بوت من مايكروسوفت تلقوا ردوداً واتهامات مزعجة من بوتات الذكاء الاصطناعي.
ظهرت هذه التقارير عندما كانت كل من جوجل ومايكروسوفت تمنحان الوصول إلى بوتات الدردشة المدعومة بالذكاء الاصطناعي لمستخدمي الاختبار.
إضافةً إلى ذلك، حذّر مهندسو شركة ميتا من أنه ينبغي ألا نعتمد على بوت الدردشة للحصول على معلومات واقعية وأن البوت يمكن أن يهلوس ويقدم معلومات خاطئة كلياً.
مستقبل بوتات الدردشة المهلوسة
يجري البحث لجدولة وتجميع النصوص المهلوسة من نماذج الذكاء الاصطناعي التي يمكن استخدامها لصياغة طريقة لتحديد المخرجات المهلوسة، ودمج المرشحات في نماذج الذكاء الاصطناعي لتحديد مثل هذه النصوص وإزالتها وابتكار طرق لمصادقة الحقائق والتحقق منها.