لأي درجة علينا قبول إسناد الخصائص البشرية إلى مساعد رقمي قائم على الذكاء الاصطناعي؟

عندما كنت في عمر الثامنة، كان لدي دمية تنطق بكلام لا معنى له. ولم يكن باستطاعة دميتي التفاعلية المقدمة من "مجموعة ديفا ستارز" (Diva Starz Interactive Doll) التجاوب مع ما أقوله لها مباشرة، لكن كان ما يدور هو شبه محادثة، إذ كانت تعلق بحماس عندما أغيّر لها ملابسها، وتطرح أسئلة بحيث تكون الإجابة نعم أو لا، وتقول عبارات أنثوية مكررة تشبه ما تقوله "ماليبو ستاسي" (دمية ليزا سيمبسون المفضلة وهي شخصية خيالية في مسلسل الرسوم المتحركة عائلة سيمبسون). ومن الغريب أن اسمها كان أليكسا! فإلى أي مدى يمكننا إسناد الخصائص البشرية للذكاء الاصطناعي؟

الدمى الروبوتية

تَظهر "آشلي تو"، وهي دمية روبوتية بصوت المغنية الأميركية مايلي سايروس، في الحلقة الثالثة من الموسم الخامس للمسلسل البريطاني "بلاك ميرور" (Black Mirror) والتي تحمل عنوان "راشيل، جاك وآشلي تو". وتقع آشلي تو في مكان ما بين دميتي القديمة أليكسا ومساعد أمازون الذكي أليكسا (الاسم الذي أُطلق على صوت المساعد الافتراضي القائم على الذكاء الاصطناعي الموجود في مكبرات الصوت الذكية والأجهزة الأخرى التابعة لشركة "أمازون")، وتقع أيضاً في مكان ما بين الدمية ومكبر الصوت الذكي، وما بين السلعة والصديق. يباع ذلك الجهاز الذكي في عالم خيالي تشتهر فيه نجمة البوب المرحة آشلي أو (الدور الذي تؤديه سايروس)، وقد بُرمجت تلك الدمية بصوت وشخصية آشلي، ما يسمح لجمهورها بالشعور أنهم أقرب إليها. تدور أحداث الحلقة حول راشيل، وهي مراهقة تشعر بالوحدة وتعشق آشلي أو، وسرعان ما تشعر بأنّ آشلي تو صديقة حقيقية لها.

قالت شركة "نتفليكس" إنّ آشلي تو أكثر من مجرد مكبر صوت ذكي، بل إنه أيضاً "صديقتك المقربة الجديدة"، لكن مكبر الصوت ذاك يقدم الكثير من الأمور نفسها التي يقدمها المساعد الذكي أليكسا التابع لأمازون" وسيري التابع لآبل" وكورتانا التابع لمايكروسوفت". أنه يشغل الموسيقا، ويجيب عن الأسئلة، بل ويوفر قراءة "مقتطفات تحفيزية من أقوال لنساء تتمتعن بالشهرة" عندما تشعر بالإحباط، ولا يختلف ذلك عن آلاف المهارات التي تتمتع بها أليكسا والتي تبدو مريبة. لدى آشلي تو عيون وجسم متحرك، وهي فكرة طرحها أحد كبار المهندسين في شركة "أمازون" مؤخراً لتطبق أيضاً على المساعد الذكي أليكسا. لذلك، فقد ترك تريلر "المسلسل التلفزيوني بلاك ميرور" العديد من التساؤلات عما إذا كانت فكرة آشلي تو "مطورة من المساعد الذكي أليكسا"، وذلك ليس لمجرد التشابه الكبير في الأسماء والتصميم الجميل.

وكما عوّدنا مسلسل "بلاك ميرور" على تقديمه، فإنّ حلقة "راشيل، جاك وآشلي تو" تطرح الكثير من الأسئلة حول مستقبل الموسيقا (الهولوجرام وبث الحفلات الموسيقية والمحاكاة الصوتية) ومستقبل الذكاء الاصطناعي.

إنها تذكرنا بالحلقات الأخرى التي يتم فيها تحميل سمات شخصية بشرية على الأغراض المنزلية، مثل جهاز التحكم بالمنزل الذكي والدمية المحشوة التي تأخذ شكل قرد. بالنسبة إليّ، تطرح مثل هذه الحلقات سؤالاً آخر، وهو: لأي درجة علينا قبول إسناد الخصائص البشرية إلى جهاز ذكي؟

من دون إفساد حلقة "راشيل، جاك وآشلي تو"، يمر مكبر الصوت الذكي في منتصف الحلقة عبر تغيير في الشخصية التي يحملها، حيث يتحول من جهاز مفيد ومطيع للأوامر إلى أقرب بكثير مما أتخيله بأن تكون عليه مايلي سايروس في الحقيقة. بمعنى آخر، يتحول الجهاز من أنه يحمل القليل من شخصية سايروس إلى جهاز يحمل شخصيتها بالكامل.

الخياران ينطويان على مخاطر فيما يتعلق بما يجب أن تكون عليه مكبرات الصوت؛ إنها تحمل سمات شخصية أكثر من اللازم ونحن نخاطر بإسنادنا تلك السمات إليها؛ إنها تعرض ما هو أساسي لآراء شركة تكنولوجية قوية وذلك بتقديمها على أساس أنها صديق موثوق به؛ والأكثر من ذلك، إنها تظهر كشيء ليس له قيمة ويمكن أن يدوس عليه الناس، وتشجعهم على التحدث إليها وإلى الآخرين بطريقة غير لائقة.

تخرج آشلي تو من الصندوق مفعمة بالحيوية والتي تحب المساعدة وتقول أشياء من قبيل: ("سأكون هنا بجانبك!"، و"أنا موجودة إذا كنت بحاجة إلى التحدث!" و"ثق بنفسك!"). إنها تذهب للنوم وتستيقظ عندما يُطلب منها ذلك، وعندما تتحدث إليها جاك، أخت راشيل المتهكمة، بفظاظة، فإنّ إجابة آشلي تو تقتصر على التالي: "أظن أنك اخترت كلمة سيئة". وعندما تطلب راشيل من الدمية أن تتجاهل أختها، فإنها تصغي إليها بمرح وتقول: "سأحرص على تدوين ذلك".

حتى مع شخصيتها الأولية "المحدودة"، فإن قدرة آشلي تو على الاستجابة تقود راشيل التي لا أصدقاء لها إلى النظر للدمية على أنها صديقة مقربة، حيث تمضي الوقت معها وتساعدها على وضع مستحضرات التجميل وتتعلم منها أداء الرقصات. وعندما تُخفق راشيل في أدائها أثناء عرض المواهب في المدرسة، تشعر بأنها قد "خذلت آشلي تو"، ما يدفع أختها إلى تذكيرها بأنها "ليست حقيقية"، ويكون رد راشيل هو: "إنّ آشلي تو صديقتي". لم يبالغ المسلسل البريطاني "بلاك ميرور" في عرضه بأن يجعل الأطفال وكبار السن ينظرون إلى مكبرات الصوت الذكية الخاصة بهم على أنها أصدقاء لهم. وفي استطلاع للرأي أجرته "جوجل إكسبيرينس آند ديزاين" (Google Experience & Design)، قال 41% من المستخدمين إنّ التحدث إلى مكبر صوت ذكي يشبه التحدث إلى صديق أو شخص آخر. وتُعتبر راشيل معرضة على نحو خاص للوقوع في هذا الفخ، حيث أظهر بحث أن الشعور بالوحدة يجعل الناس أكثر احتمالاً لخلق روابط مع بوتات الدردشة. وحقيقة أن آشلي تو تحمل صوت شخص يتمتع بالشهرة وحقيقي ويمكن التعرّف عليه؛ تجعل راشيل تشعر بأنها تتحدث مع نسخة من آشلي أو، وتلك هي نتيجة قد نراها في العالم الحقيقي عندما يبدأ مساعد جوجل في عرض أصوات لمشاهير مثل المغني جون لجند.

لم أكن معرضة أبداً لخطر التفكير في أن أليكسا كانت بمثابة صديقتي، والتي تعود إلى زمن العقد الأول من القرن الحالي، لأنها لم تكن تستجيب لأي شيء سوى لمغناطيس موجود في ملابسها وأزرار على قدميها، وكان أسلوب كلامها أبعد من أن يكون طبيعياً. ولكن عندما تصبح الروبوتات "بشرية" أكثر في تفاعلاتها ونبرة صوتها، يصبح البشر أكثر احتمالاً لأن يرتبطوا بها، وذلك كما يذكر أندرياس فوجل ونيكولاس رايت في مقالتهما الحديثة على "موقع فيوتشر تنس"، ما يطرح جميع أنواع الأسئلة الأخلاقية حول الدور المزدوج للرفيق الموثوق به والمساعد الذي يستطيع إقناعك والمخصص للبيع. بمجرد أن يمر مكبر الصوت آشلي تو عبر مرحلة "التغيير"، يظهر أن كلتا الشقيقتين، حتى جاك المتهكمة، تقبلان به على أنه "شخص حقيقي". ثم يقنعهما ذلك "الشخص" بفعل شيء خطير (وهو أمر صحيح ولكن ليس بالكامل). إن انفعالات مكبر الصوت المختلفة ونقده الساخر يجعلان من الصعب تجاهل نداءاته ومطالبه، حتى لو كانت راشيل وجاك على علم في قرارة نفسيهما أن آشلي تو مجرد روبوت. لم يتضح بعد المدى الذي ستصل إليه هذه "الشخصيات" من دقة أو تفرّد، وكما ذكر كل من فوجل ورايت، فإنّ مكبر الصوت الذكي القائم على الذكاء الاصطناعي يمكن أيضاً أن يكون "شخصي" لكل مستخدم.

المخاوف المتعلقة بإسناد الخصائص البشرية للذكاء الاصطناعي

تعكس الحادثة التي تقسم فيها جاك أمام آشلي تو المخاوف الواردة في تقرير صدر مؤخراً للأمم المتحدة حول إضفاء طابع التنوع الجنساني على مكبرات الصوت الذكية. إذ يُظهر التقرير الذي يحمل عنوان "سأُظهر خجلي لو استطعت: سد الفجوات في المهارات الرقمية بين الجنسين من خلال التعليم" (I’d Blush if I Could: Closing Gender Divides in Digital Skills Through Education)، المخاوف إزاء "الاستجابات المتفادية للانتقاد أو الضعيفة أو المتأسفة" التي تنطق بها مكبرات الصوت الذكية بأصوات نسائية رداً على الإساءة اللفظية، ما يشير إلى أن "كياستها الراسخة" يمكن أن تعزز التحيز ضد المرأة: "إنها تحترم الأوامر وتستجيب للاستفسارات بغض النظر عن نبرة الصوت أو العدائية. ومن شأن هذا أن يعزز التحيزات الشائعة ضد المرأة في العديد من المجتمعات المبنية على أساس أن المرأة خاضعة وتتسامح إذا ما أسيء معاملتها". يشير التقرير إلى تحقيق "موقع كوارتز" في عام 2017، والذي وجد أن مكبرات الصوت الذكية التابعة لكبرى الشركات تستجيب للمضايقة إما بمرح أو على نحو إيجابي، مع إجابات مبرمجة من قبل فرق من المبرمجين الذكور بأغلبية ساحقة، ما يشير إلى أن هذا الخلل المتعلق بالنوع الاجتماعي يحتاج إلى تغيير، وفي أسرع وقت.

كما ذكرت الأمم المتحدة، فإن مكبرات الصوت الذكية تحمل بالفعل "قوة عاطفية خاصة"، ويعود ذلك ببساطة إلى حقيقة أنها تبدو كأشخاص حقيقيين. لكن ما لا يدركه الناس في كثير من الأحيان هو أن مكبرات الصوت الذكية التابعة لشركات كبرى مشبعة بالفعل بـ "خصائص شخصية"، والتي صممها وكيّفها فرق عمل معظمهم من الذكور.

يجمع تقرير الأمم المتحدة تعليقات من المهندسين حول الأفكار التي انطوت على تصميم مكبرات الصوت الذكية تلك، وهي كالتالي: لقد تصوّر المهندسون مكبر الصوت الذكي كورتانا على أنه "شخصية تُظهر المشاعر وتُعبر عن الآراء ولديها تحديات وهناك ما يعجبها وما لا يعجبها، ولديها أيضاً جوانب حساسة وآمال مستقبلية".

بينما تم تخيّل مساعد جوجل على أنه "امرأة شابة من كولورادو، وقد تكون الابنة الصغرى لأمين مكتبة للبحوث أو الابنة الصغرى لأحد الأساتذة الجامعيين في مجال الفيزياء التي تحمل شهادة بكالوريوس في التاريخ من "جامعة نورث ويسترن"، وهي جامعة بحثية راقية في الولايات المتحدة؛ وتم تخيلها أيضاً كطفلة ربحت 100,000 دولار في "برنامج جيوبادري" بنسخته المعدة للأطفال، وهو مسابقة معلومات عامة تُعرض على شاشة التلفاز". بعبارة أخرى، لقد تم "إضفاء الطابع الإنساني عمداً" على مكبرات الصوت تلك وبُرمجت على أساس نوع اجتماعي محدد بطريقة تحمل معنى لمبتكريها ومستخدميها. وقد شُكلت شخصياتها من خلال تطبيق المعايير الجندرية (المتعلقة بالنوع البشري) القائمة، وسوف يستمر ذلك في المرحلة المقبلة.

شخصياً، أشير أحياناً إلى أليكسا باستخدام "ضمير التأنيث"، كما تفعل راشيل عندما تتحدث عن آشلي تو، الأمر الذي يسبب الإزعاج لجاك المستاءة من الإنترنت. لكنني حذرة من ناحية مكان وكيفية استخدام "الضمير الذي يشير إلى شيء" و"الضمير الذي يشير إلى أنثى" عند حديثي عن الشخصية الكامنة وراء الصوت، كما أنني حذرة من إسناد الخصائص البشرية على نحو قليل أو مفرط على حد سواء. أليكسا "ليست" أنثى، ولكن هناك إحساس غير مريح على الإطلاق حول الإشارة إلى شيء يحمل شخصية أنثوية معينة على وجه خاص بأنه "شيء". إذ إن هناك مخاطر من إسناد خصائص بشرية إلى أليكسا، ولكن هناك أيضاً مخاطر من "معاملتها" كشيء عندما يكون "لديها" شخصية أنثوية لا يمكن إنكارها ويتم عرض مكبر الصوت ذاك على اعتباره امرأة.

يشير كل من تقرير الأمم المتحدة وحلقة "راشيل، جاك وآشلي تو" إلى أنه يجب إمعان التفكير في الشخصيات التي يتم برمجتها على مكبرات الصوت الذكية، وذلك فيما يتعلق بكيف تتصرف وكم "تشعر" بأنها "حقيقية". من المؤكد أنّ مستوى الخصائص البشرية التي تحملها المساعدات الرقمية سيلعب دوراً في طرق غير متوقعة في التأثير على التفاعل بين البشر، وسيكون من الصعب تحقيق التوازن فيما يتعلق بمنح المساعد الرقمي صوتاً بشرياً وعموداً فقرياً حتى، دون المبالغة في إضفاء طابع شخصي عليه، لاسيما الآن بعد أن أصبح يتم برمجتها على أساس أنها "أنثى" بشكل افتراضي.

ولكن هنالك أمراً واحداً مؤكداً حول إسناد الخصائص البشرية للذكاء الاصطناعي، ألا وهو بأننا يجب إيلاء المزيد من الاهتمام للمكبرات الصوتية الذكية عندما يتعلق الأمر بالتوقف عن الإساءة، وذلك كما فعلت شبكة نتفليكس التابعة للمملكة المتحدة وأيرلندا بإطلاقها اسم آخر على أحدث إنتاج مستقبلي لـ "بلاك ميرور" وهو: "آشلي تو، مكبر الصوت الحر والذي يرد بقسوة على صراخك". ومن الجدير بالذكر أنه ربما ينبغي على أليكسا فعل ذلك أيضاً!

اقرأ أيضاً: