المعاملات الفائقة Hyperparameter

ما هي المعاملات الفائقة؟

عبارة عن معاملات تستخدم في مجال التعلم الآلي للتحكم بعملية التعلم. وبكلمات أخرى هي متغيرات تُحدد بُنية الشبكة العصبونية الاصطناعية وكيفية تدريبها. يتم تحديد قيمة المعاملات الفائقة قبل بداية عملية التعلم، ولهذه المعاملات تأثير مباشر على تدريب خوارزميات ونماذج التعلم الآلي. ونظراً لأهميتها فإنه من الضروري فهم آليا واستراتيجيات أمثلتها بهدف تحقيق أفضل أداء ممكن لتلك النماذج. ومن الأمثلة عليها:

1. مُعدل التعلم.
2. عدد دورات التدريب.
3. تابع التفعيل المُستخدم.
4. عدد الوحدات والطبقات الخفية (Hidden Layers & Units).
5. عدد الفروع في شجرة القرار.
6. عدد المجموعات في خوارزميات التجميع مثل خوارزمية تجميع كي-المتوسط (K-means).

أهمية ضبط المعاملات الفائقة في نموذج التعلم الآلي

يمكن النظر إلى المعاملات الفائقة على أنها إعدادات الخوارزمية التي يتم ضبطها لتحسين الأداء، وتشبه تماماً تدوير مفاتيح الراديو لتحسين إشارة الإذاعة، بحيث يمكن لاختيار القيم الصحيحة للمعاملات الفائقة أن يساعد على تحسين سرعة التدريب وتحسين دقة التنبؤات وزيادة كفاءة النموذج.

ما الفرق بين المعاملات والمعاملات الفائقة؟

 تعبّر المعاملات عن المتغيرات التي تتحكم في سلوك النموذج، وتتم معالجتها خلال عملية التدريب وتعديل قيمها لتحسين أداء النموذج، بينما تتحكم المعاملات الفائقة في عملية التدريب نفسها، مثل عدد الدورات التدريبية ومعدل التعلّم وحجم البيانات في كل دورة تدريب. ويعد تحديد القيم الصحيحة للمعاملات الفائقة محوراً أساسياً لتحسين أداء النموذج ودقته في التنبؤ بالبيانات الجديدة.

كيف تضبط المعاملات الفائقة؟

يمكن اعتماد نهج تلقائي لضبط المعاملات يدوياً، ويُسمَّى مقياس الأداء المحدد بالاستراتيجية الأمثل، إليك كيفية عمله:

1. تقسيم البيانات المتاحة إلى مجموعات تدريب واختبار.
2. تكرار حلقة التدريب لعدد ثابت من الدورات أو حتى تتحقق الشروط التالية:
   1. اختيار مجموعة جديدة من المعاملات الفائقة للنموذج.
   2. تدريب النموذج على مجموعة التدريب باستخدام مجموعة المعاملات الفائقة المحددة.
   3. تطبيق النموذج على مجموعة الاختبار وإنشاء التنبؤات.
   4. تقييم التنبؤات المتعلقة بالاختبار السابق باستخدام مقياس الأداء الصحيح للمشكلة المحددة، مثل الدقة أو الخطأ المطلق المتوسط. 
   5. تخزين قيمة المقياس التي تتوافق مع مجموعة المعاملات الفائقة المحدد.
3. مقارنة قيم المقاييس جميها واختيار مجموعة المعاملات الفائقة التي تولد أفضل قيمة للقياس.

ما هي طرق أمثلة المعاملات الفائقة؟

هناك العديد من الاستراتيجيات المُستخدمة لتحديد وأمثلة المعاملات الفائقة أهمها:

1. بحث الشبكة (Grid Search): البحث ضمن مجموعة محددة مسبقاً من المعاملات الفائقة عن المعاملات ذات الأداء الأفضل واستخدامها.
2. البحث العشوائي (Random Search): تشبه الطريقة السابقة لكن بدلاً من البحث الشامل ضمن المجموعة يتم اللجوء إلى البحث العشوائي. يتفوق البحث العشوائي على بحث الشبكة عندما يكون هناك عدد صغير من المعاملات الفائقة المطلوب أمثلتها فقط.
3. الأمثلة البايزية (Bayesian Optimization): يتم في هذه الطريقة بناء نموذج احتمالي لتابع التخطيط بدءاً من قيمة المعاملات الفائقة وصولاً إلى الهدف المطلوب الوصول إليه عند استخدام مجموعة التحقق مع نموذج التعلم الآلي.
4. الأمثلة التطورية (Evolutionary Optimization): تعتمد هذه الطريقة على استخدام خوارزميات الحوسبة التطورية للوصول إلى أفضل حل ممكن.