شارك
الرئيسية
1 دقيقةما هي هندسة الأوامر؟
تتفاعل نماذج الذكاء الاصطناعي المولِدة بشكل أساسي مع المستخدم من خلال المدخلات النصية. يمكن للمستخدمين توجيه النموذج بشأن المهمة من خلال تقديم وصف نصي.
والتوجيه ببساطة هو طريقة تفاعل المستخدم مع نماذج الذكاء الاصطناعي باستخدام لغة بشرية طبيعية. سيترجم الموجه فكرتك من لغة المحادثة إلى تعليمات قابلة للقراءة بواسطة نموذج الذكاء الاصطناعي.
الهدف من هندسة الأوامر
تختلف النتائج الصادرة عن نماذج الذكاء الاصطناعي بشكل كبير بناء على هندسة الأوامر. والغرض منها تصميم المحفزات التي تثير الاستجابة الأكثر صلة والأكثر صحة من النموذج اللغوي الكبير، وينطوي على فهم قدرات النموذج وصياغة المحفزات اللغوية المستخدمة.
مثلاً، في حالة نماذج توليد الصور مثل تقنية إيه آي آرت (AI ART) التي ابتكرتها شركة ميد جورني (Mid-Journey)، فإن الموجه يستقبل النص الذي يصف الصورة بشكل أساسي ويقوم بتوليدها. وستؤثر دقة هذا الموجه بشكل مباشر على جودة الصورة المولَدة. وكلما كانت الموجهات أفضل، كان الناتج أفضل.
أهمية هندسة الأوامر
تشكل الموجهات الجسر بيننا وبين ونموذج الذكاء الاصطناعي، ما يسمح لنا بتوليد نتائج توافق احتياجاتنا، وتعود أهمية هندسة الأوامر إلى عدة أسباب ومنها:
- تسمح للنص المدخل بواسطة المستخدم بأن يُفسر بطريقة أكثر وضوحاً.
- توجه النموذج لإنشاء مخرجات أكثر تماسكاً وذات صلة بالمطلوب.
- تحسن من جودة النصوص المنشأة.
- تقلل من التحيز المحتمل بواسطة البيانات المدخلة من قبل المستخدمين.
- تحفز النماذج التوليدية المعتمدة على التعلم الآلي على الاعتماد على مصادر المعلومات الصحيحة لتكون أكثر واقعية.
- تعمل هندسة الأوامر على تحسين أمان النموذج وتساعد على الدفاع ضد هجوم حقن موجه الأوامر.
أبرز تحديات هندسة الأوامر
أدى ظهور هندسة الأوامر إلى اكتشاف نقاط الضعف الأمنية في النماذج اللغوية الكبيرة، مثل:
- هجوم حقن موجه الأوامر حيث يمكن للمهاجم التلاعب بالنموذج اللغوي من خلال المدخلات.
- تسريب المعلومات الحساسة من خلال المخرجات المتولدة.
- تخريب النموذج اللغوي، بحيث يمكن للمهاجم الوصول غير المصرح به إلى المعايير الداخلية للنموذج.
- توليد معلومات مزيفة أو مضللة.
- قدرة النموذج على إدامة التحيزات المجتمعية إذا لم يتم تدريبه على بيانات متنوعة وغير متحيزة.
- توليد نصوص واقعية ومقنعة يمكن استخدامها لأغراض خبيثة أو خادعة.