العلماء قلقون من إجابات الذكاء الاصطناعي عن الأسئلة المتعلقة بالسرطان

يقول العلماء إن أدوات الذكاء الاصطناعي لا تقدّم دائماً إجابات صحيحة عن استفسارات المرضى حول معلومات الرعاية الصحية المتعلقة بأمراض السرطان.

أشار العلماء في مقال نشرته المجلة الأوروبية للسرطان (European Journal of Cancer) إلى أن "المشكلات المتعلقة بدقة المعلومات الصحية وجودة المراجع وسهولة قراءة النتائج لا تزال قائمة. تبرز هذه المشكلات بصورة خاصة في اللغات المختلفة عن الإنجليزية؛ إذ لا تزال الهلوسة مصدر قلق".

اختبر العلماء سبعة من بوتات الدردشة الرائدة التي تعمل بالذكاء الاصطناعي، وهي تشات جي بي تي، وجيميناي من شركة جوجل، وكوبايلوت من شركة مايكروسوفت، وميتا أيه آي، وكلود (Claude)، وغروك (Grok)، وبيربليكسيتي (Perplexity)؛ لتقييم قدرتها على الإجابة عن الاستفسارات الشائعة المتعلقة بالسرطان باللغات الإنجليزية والعربية والفرنسية والصينية والتايلاندية والهندية والنيبالية والفيتنامية.

يؤكد العلماء في دراستهم، التي يمكن أن تنبه شركات الذكاء الاصطناعي التي تؤدي دوراً متزايد الأهمية في مجال الرعاية الصحية العامة، إلى الأهمية البالغة لضمان تقديم هذه الأدوات معلومات دقيقة ومفهومة وموثقة جيداً، لا سيما بالنظر إلى أن ملايين الأشخاص يحصلون الآن على النصائح الصحية من بوتات الدردشة التي تعمل بالذكاء الاصطناعي.

يتخيّل الأستاذ المساعد في كلية الصيدلة بجامعة الشارقة والمؤلف المشارك للدراسة الجديدة، أحمد أبو حلوة، شخصاً ما يلجأ إلى بوت دردشة ذكي للحصول على إجابات فورية وسهلة الفهم ودقيقة، ويقول متسائلاً: "هل يمكنه الوثوق بالإجابات؟"

للإجابة عن هذا السؤال، حاول علماء من جامعة فلندرز الأسترالية ومستشفى ماساتشوستس العام وكلية الطب في جامعة هارفارد وجامعة أمير سونغكلا التايلاندية وجامعة الشارقة في الإمارات العربية المتحدة، تقييم دقة بوتات الدردشة المعتمدة على الذكاء الاصطناعي التوليدي وموثوقيتها في توفير المعلومات المتعلقة بالسرطان بلغات متعددة.

تقول الباحثة من جامعة فلندرز والمؤلفة المشاركة للدراسة الجديدة، آشلي هوبكنز: "أصبحت بوتات الدردشة الذكية أداة أساسية للأشخاص الذين يبحثون عن معلومات حول السرطان. ولكن دراستنا تسلط الضوء على ضرورة زيادة دقتها، خاصة في اللغات غير الإنجليزية، بهدف ضمان موثوقيتها للجميع".

من خلال تحليل إجابات بوتات الدردشة الذكية عن أسئلة بسيطة تتعلق بالسرطان، توصّل العلماء إلى أن ثمة حاجة إلى زيادة دقة النتائج المتعددة اللغات، وأكدوا أهمية جودة المراجع وأقرّوا بالتحديات العديدة المتعلقة بالوصول وسهولة القراءة. اعتمد تقييم المؤلفين للإجابات على معايير الدقة وموثوقية المصدر وسهولة القراءة والإرشادات الطبية.

على الرغم من أن الباحثين توصلوا إلى أن الإجابات المكتوبة باللغة الإنجليزية موثوقة إلى حد ما وخالية من أي أخطاء جوهرية، فإنهم لاحظوا بعض المشكلات في الإجابات المكتوبة بغير الإنجليزية؛ إذ إنه وفقاً للدكتور أبو حلوة، "احتوت 7 من أصل 294 إجابة على أخطاء، مثل أخطاء الترجمة وأخطاء في أسماء الأدوية والتوصيات العلاجية غير المناسبة. كانت جودة المراجع متفاوتة؛ إذ كانت مراجع 48% من الإجابات موثوقة، بينما كانت 39% من المراجع الإنجليزية عبارة عن روابط بلاحقة ".com"، ما يعكس مخاوف تتعلق بالجودة".

يؤكد الباحث في جامعة فلندرز والمؤلف الرئيسي للدراسة، برادلي مينز، أهمية تعامل مطوري الذكاء الاصطناعي مع المستخدمين المتنوعين لغوياً بإنصاف عند تقديم معلومات الرعاية الصحية؛ إذ يقول: "يعتمد المرضى ومقدمو الرعاية بصورة متزايدة على الذكاء الاصطناعي للحصول على المشورة الطبية، وتُبرز دراستنا الحاجة الملحة لرفع جودة المعلومات التي تقدمها بوتات الدردشة المعتمدة على الذكاء الاصطناعي لضمان وصول آمن وعادل إلى معلومات الرعاية الصحية".

يعتقد العديد من المستخدمين أن المعلومات التي تستخلصها أدوات الذكاء الاصطناعي من الروابط ذات اللاحقة ".com" موثوقة عموماً، لكن المؤلفين يؤكدون أن هذه الروابط غير موثوقة غالباً؛ إذ يمنح كاتبو المحتوى فيها الأولوية للمصالح التجارية على حساب الدقة والأدلة العلمية. يشير المؤلفون إلى أنه على عكس المصادر الحكومية (ذات اللاحقة ".gov") والأكاديمية (ذات اللاحقة ".edu")، لا تخضع المواقع ذات اللاحقة ".com" لمعايير صارمة فيما يتعلق بالدقة الطبية.

يشيد المؤلفون بإمكانات الذكاء الاصطناعي في إحداث ثورة في قابلية الوصول إلى معلومات الرعاية الصحية. مع ذلك، فإنهم يدعون إلى الحذر لأن موثوقيته في توفير معلومات آمنة ومبنية على الأدلة حول السرطان لا يمكن الوثوق بها بالكامل حتى الآن.

يقول الدكتور أبو حلوة: "قد تؤدي المعلومات الصحية غير الصحيحة، خاصة المتعلقة بالسرطان، إلى عواقب وخيمة. تبين دراستنا أنه على الرغم من التقدم الكبير الذي أحرزته أدوات الذكاء الاصطناعي، يجب علينا ضمان أن توفر هذه الأدوات معلومات صحية واضحة ودقيقة وموثّقة جيداً.

تؤكد دراستنا ضرورة إخضاع الذكاء الاصطناعي للقوانين والمراقبة المستمرة للوقاية من الأضرار المحتملة للمعلومات الصحية الخاطئة. هذه الدراسة هي تنبيه لمطوري الذكاء الاصطناعي؛ إذ يجب أن تخضع أدوات الذكاء الاصطناعي المتاحة للعامة لأعلى المعايير بهدف ضمان خدمتها للجمهور بأمان وفعالية لتحقيق المنفعة للجميع.

قدّم العلماء عدة توصيات؛ إذ إنهم حثوا مطوري الذكاء الاصطناعي على تعزيز خدماتهم المتعددة اللغات أكثر لضمان حصول المرضى في مختلف أنحاء العالم على المشورة الصحية الصحيحة، وجعل الإجابات التي يولدها الذكاء الاصطناعي أسهل وأبسط للفهم، والعمل على نحو أوثق مع المتخصصين في مجال الرعاية الصحية لتحسين جودة أدواتهم.

أعرب الدكتور أبو حلوة عن تفاؤله بنتائج البحث التي يقول إنها قد تتمتع "بتطبيقات في العالم الحقيقي"، خاصة في تحسين نماذج الذكاء الاصطناعي ودعم الرعاية الصحية وتثقيف المرضى وصياغة السياسات.