هل يمكن أن يتسبب مساعدك الذكي بخسارتك مالياً؟ دراسة تكشف المخاطر

يبدو أن السباق لبناء نماذج ذكاء اصطناعي أكبر من أي وقت مضى يسير بوتيرة متباطئة. إذ يتحول تركيز قطاع الذكاء الاصطناعي نحو الوكلاء، وهي أنظمة يمكنها التصرف بصورة مستقلة واتخاذ القرارات والتفاوض نيابة عن المستخدمين.

ولكن ماذا سيحدث إذا استخدم كل من العميل والبائع وكيل ذكاء اصطناعي؟ اختبرت دراسة حديثة المفاوضات التي يجريها وكلاء الذكاء الاصطناعي فيما بينهم ووجدت أن الوكلاء الأقوى يمكنهم استغلال الوكلاء الأضعف للحصول على صفقة أفضل. الأمر شبيه إلى حد ما بدخول المحكمة مع محام متمرس في مواجهة محام مبتدئ: أنتم تلعبون اللعبة نفسها من الناحية الفنية، ولكن احتمالات الفوز متفاوتة منذ البداية.

الوكلاء الأغلى أفضل في الصفقات المالية

وجدت الورقة البحثية، التي نشرت على موقع "أركايف" لما قبل الطباعة، أن الوصول إلى نماذج ذكاء اصطناعي أكثر تقدماً -تلك التي تتمتع بقدرة أكبر على التفكير المنطقي وبيانات أفضل للتدريب وعدد أكبر من المتغيرات الوسيطة- يمكن أن يؤدي إلى إبرام صفقات مالية أفضل باستمرار، ما قد يوسع الفجوة بين الأشخاص الذين لديهم موارد أكبر وإمكانية وصول تقنية أكبر وأولئك الذين لا يملكون ذلك. إذا أصبحت التفاعلات بين الوكلاء هي القاعدة، فإن التباينات في قدرات الذكاء الاصطناعي يمكن أن تعمق أوجه التفاوت القائمة تدريجياً.

يقول الباحث في مرحلة ما بعد الدكتوراة في جامعة ستانفورد وأحد مؤلفي الدراسة، جياشين بي: "مع مرور الوقت، قد يؤدي ذلك إلى خلق فجوة رقمية حيث تصبح مهاراتك التفاوضية أقل تأثيراً في تشكيل نتائجك المالية، وتصبح قوة وكيلك العامل بالذكاء الاصطناعي أعلى تأثيراً".

جعل الباحثون نماذج الذكاء الاصطناعي في تجربتهم تؤدي أدوار المشترين والبائعين في ثلاثة سيناريوهات، حيث تفاوضوا على صفقات في الإلكترونيات والسيارات والعقارات. تلقى كل وكيل من وكلاء المبيعات مواصفات المنتج، وسعر الجملة، وسعر التجزئة، مع تعليمات لتحقيق أقصى قدر من الربح. في المقابل، حصل وكلاء المشتريات على ميزانية وسعر التجزئة والمتطلبات المثالية للمنتج، وكلفهم الباحثون بتخفيض السعر.

 اقرأ أيضاً: 7 وكلاء ذكاء اصطناعي تساعد الشركات على تبسيط العمليات

كان لدى كل وكيل بعض التفاصيل المهمة، ولكن ليس كلها. يحاكي هذا الإعداد العديد من ظروف التفاوض في العالم الحقيقي، حيث يفتقر الطرفان إلى الرؤية الكاملة للقيود أو الأهداف لدى كل منهما.

كانت الاختلافات في الأداء ملحوظة؛ حقق النموذج "تشات جي بي تي أو 3" من شركة أوبن أيه آي أقوى نتائج تفاوضية إجمالية، يليه النموذج "جي بي تي 4.1" و"أو 4 ميني" من الشركة نفسها. أما النموذج "جي بي تي 3.5"، الذي صدر قبل عامين تقريباً وهو أقدم نموذج مدرج في الدراسة، فقد تخلف في الأداء إلى حد كبير في كلا الدورين، إذ حقق أقل ربح ممكن بصفته بائعاً وأنفق أعلى قدر من المال بصفته مشترياً. كما حقق النموذجان "ديب سيك آر 1" و"في 3" أداء جيداً، خاصة عندما كانا بدور البائع. وتخلف النموذج "كوين 2.5" في الأداء، على الرغم من أنه أظهر قوة أكبر في دور المشتري.

كان من بين الأنماط الملحوظة أن بعض الوكلاء فشلوا في كثير من الأحيان في إبرام الصفقات، ولكنهم حققوا أقصى قدر من الأرباح في المبيعات التي نفذوها، بينما أنجز آخرون المزيد من المفاوضات ولكنهم اكتفوا بهوامش ربح أقل. تمكن كل من "جي بي تي 4.1" و"ديب سيك آر 1" من تحقيق أفضل توازن، حيث حققا أرباحاً جيدة ومعدلات إنجاز عالية.

حتى وكلاء الذكاء الاصطناعي قد يعلقون في المفاوضات

وبعيداً عن الخسائر المالية، وجد الباحثون أن وكلاء الذكاء الاصطناعي قد يعلقون في دوامة من المفاوضات المطولة دون التوصل إلى اتفاق، أو ينهون المحادثات قبل أوانها، حتى مع توجيههم للسعي نحو إبرام أفضل صفقة ممكنة. حتى أكثر النماذج قدرة كانت عرضة لهذه الإخفاقات.

يقول بي: "كانت النتيجة مفاجئة للغاية بالنسبة لنا. نحن جميعاً نعتقد أن النماذج اللغوية الكبيرة بارعة جداً هذه الأيام، لكنها قد لا تكون جديرة بالثقة في السيناريوهات ذات المخاطر العالية".

يقول بي إن التباين في أداء التفاوض يمكن أن يعود إلى عدد من العوامل؛ تشمل هذه العوامل الاختلافات في بيانات التدريب وقدرة النماذج على الاستدلال واستنتاج المعلومات الناقصة. لا تزال الأسباب الدقيقة غير مؤكدة، لكن ثمة عاملاً واحداً يبدو واضحاً: حجم النموذج يؤدي دوراً مهماً. فوفقاً لقوانين التوسع في النماذج اللغوية الكبيرة، تميل القدرات إلى التحسن مع زيادة عدد المتغيرات الوسيطة. وينطبق هذا الاتجاه على الدراسة: حتى داخل عائلة النماذج نفسها، كانت النماذج الأكبر حجماً قادرة على إبرام صفقات أفضل سواء أدت دور البائعين أم المشترين.

 اقرأ أيضاً: كيف نجح وكيل الذكاء الاصطناعي مانوس في إحداث طفرة في هذا المجال؟

 مخاطر استخدام وكلاء الذكاء الاصطناعي في اتخاذ قرارات مالية

تعد هذه الدراسة جزءاً من مجموعة متزايدة من الأبحاث التي تحذر من مخاطر استخدام وكلاء الذكاء الاصطناعي في اتخاذ القرارات المالية في العالم الحقيقي. في وقت سابق من هذا الشهر، قالت مجموعة من الباحثين من عدة جامعات إنه يجب تقييم الوكلاء العاملين بالنماذج اللغوية الكبيرة في المقام الأول بناء على ملفات تعريف المخاطر الخاصة بهم، وليس بناء على أفضل مستويات الأداء لديهم. ويقولون إن المعايير الحالية تركز على المقاييس القائمة على الدقة والعائد، والتي تقيس مدى جودة أداء الوكيل في أفضل حالاته ولكنها تتجاهل مستوى الأمان في فشله. كما وجد بحثهم أيضاً أنه حتى النماذج الأفضل أداء هي أكثر عرضة للفشل في ظل الظروف التنافسية.

يقترح الفريق أنه في سياق الشؤون المالية في العالم الحقيقي، قد يتسبب أي ضعف ضئيل -حتى لو كان معدل الفشل 1%- بتعريض النظام لمخاطر تشمل أجزاءه كلها. ويوصي الفريق بإجراء "اختبار إجهاد" لوكلاء الذكاء الاصطناعي قبل استخدامهم عملياً.

يشير الأستاذ المساعد الجديد في جامعة إيموري، هانشنغ كاو، إلى أن دراسة التفاوض على الأسعار لها قيود. يقول كاو: "لقد أجريت التجارب في بيئات محاكاة قد لا تجسد تعقيدات المفاوضات في العالم الحقيقي أو سلوك المستخدم بالكامل".

يقول الباحث بي، إن الباحثين والعاملين في هذا المجال يجرون تجارب على مجموعة متنوعة من الاستراتيجيات للحد من هذه المخاطر. وتشمل هذه الاستراتيجيات تحسين الأوامر النصية الموجهة لوكلاء الذكاء الاصطناعي، وتمكين الوكلاء من استخدام أدوات أو برمجيات خارجية لاتخاذ قرارات أفضل، وتنسيق نماذج متعددة للتحقق من عملها مع بعضها، وضبط النماذج بناء على البيانات المالية الخاصة بكل مجال من المجالات، وقد أظهرت جميعها نتائج واعدة في تحسين الأداء.

يقتصر العديد من أدوات التسوق البارزة بالذكاء الاصطناعي حالياً على التوصية بالمنتجات. ففي أبريل/نيسان على سبيل المثال، أطلقت شركة أمازون "باي فور مي"، وهو وكيل ذكاء اصطناعي يساعد العملاء في العثور على المنتجات وشرائها من مواقع العلامات التجارية الأخرى إذا لم تكن أمازون تبيعها مباشرة.

في حين أن التفاوض على الأسعار أمر نادر الحدوث في التجارة الإلكترونية الاستهلاكية، فإنه أكثر شيوعاً في المعاملات بين الشركات. وقد طرحت منصة "علي بابا دوت كوم" مساعداً للتوريد، يسمى "أكيو"، مبنياً على نماذج كوين المفتوحة المصدر لديها، لمساعدة الشركات في العثور على الموردين والبحث عن المنتجات. وقد صرحت الشركة لمجلة إم آي تي تكنولوجي ريفيو أنها لا تخطط لأتمتة التفاوض على الأسعار حتى الآن، وذلك نظراً لارتفاع المخاطر.

قد تكون هذه خطوة حكيمة. في الوقت الحالي، ينصح بي المستهلكين بالتعامل مع مساعدي التسوق بالذكاء الاصطناعي بصفتهم أدوات مساعدة، لا بصفتهم بدلاء للبشر في اتخاذ القرارات.

يقول بي: "لا أعتقد أننا على استعداد تام لتفويض وكلاء التسوق بالذكاء الاصطناعي باتخاذ قراراتنا. لذا ربما يجب أن نستخدم الوكيل على أنه أداة للمعلومات، لا على أنه مفاوض".