أوبن إيه آي تطوّر أدوات تكشف الصور والأصوات المولَّدة عبر الذكاء الاصطناعي

تعمل أوبن إيه آي على اكتشاف المحتوى السمعي والبصري الذي ينشئه المستخدمون عبر أدوات الذكاء الاصطناعي التوليدي المختلفة؛ فقد أضافت علامة مائية إلى مقاطع الصوت، وأطلقت أداة ذكاء اصطناعي تكتشف الصور التي يُنشئها المستخدمون عبر أداة توليد الصور دال-إي 3 (DALL-E 3)، وتتمتّع بدقة عالية تبلغ نحو 98%، حتى لو عُدِّلت الصور عبر القص أو الضغط، وذلك بعد انضمامها إلى اللجنة التوجيهية لتحالف مصدر المحتوى والأصالة (C2PA).

أوبن إيه آي ملتزمة بأصالة المحتوى المرئي والمسموع

يحتاج العالم إلى طرق مشتركة لتبادل المعلومات حول كيفية إنشاء المحتوى الرقمي، لذلك تعمل أوبن أيه آي على تمكين المستخدمين من التحكم في كيفية استخدام أعمالهم في أنظمة الذكاء الاصطناعي، ما يؤكد التزامهم بأصالة المحتوى، ومساعدة المستخدمين على فهم الأدوات المستخدمة لإنشاء المحتوى الذي يجدونه عبر الإنترنت.

لتجاوز هذا التحدي انضمت أوبن أيه آي إلى اللجنة التوجيهية لتحالف مصدر المحتوى والأصالة (C2PA)، الذي يُعدُّ معياراً معتمداً على نطاقٍ واسع لشهادة المحتوى الرقمي ويستخدمه العديد من شركات البرمجيات وشركات تصنيع الكاميرات والمنصات عبر الإنترنت، حيث يمكن استخدامه لإثبات أن المحتوى يأتي من مصدر معين. وبذلك ستعمل أوبن أيه آي على تطوير معاييرها وتوفير معلومات واضحة حول عملية إنشاء المحتوى (على غرار بيانات الكاميرا المضمنة في الصور الفوتوغرافية)، ما يعزز الشفافية من خلال تمكين المستخدمين من فهم أصل المحتوى الذي يواجهونه عبر الإنترنت.

ستُدمج أيضاً بيانات تعريف التحالف على نموذج إنشاء الفيديو سورا (Sora) عندما يُطلق النموذج على نطاقٍ واسع أيضاً.

أطلقت أوبن إيه آي أيضاً، وبالتعاون مع مايكروسوفت، صندوق المرونة المجتمعية بقيمة مليوني دولار. يدعم هذا الصندوق تعليم الذكاء الاصطناعي وفهمه من خلال منظمات مثل خدمات تكنولوجيا كبار السن، وتعزيز المثل الديمقراطية وتطوير الذكاء الاصطناعي المسؤول. وتؤكد هذه المبادرة أهمية تثقيف المستخدمين حول المحتوى المولّد بالذكاء الاصطناعي وكيفية التحقق من صحته.

تتطلب جهود أوبن أيه آي تعاوناً أوسع في الصناعة لتحقيق هذا الهدف، بالإضافة إلى التعاون بين المنصات ومنشئي المحتوى والمعالجين الوسطاء لضمان الحفاظ على الشفافية حول مصدر المحتوى طوال دورة حياته، بدءاً من الإنشاء وحتى المشاركة وإعادة الاستخدام.

ما الفائدة التي يحصل عليها المستخدم؟

تعود هذه الاستراتيجية بعدة فوائد على المستخدمين، منها الشفافية؛ إذ يمكن للمستهلكين فهم عملية إنشاء المحتوى الذي يواجهونه عبر الإنترنت، ما يُتيح لهم اتخاذ قرارات مستنيرة بشأن صحتها ومصدرها، كما يساعد التحالف المنشئين في الحفاظ على السيطرة على عملهم والحصول على الإسناد المناسب عند استخدام المحتوى الخاص بهم أو إعادة توجيهه.

من خلال تحديد المحتوى المولّد عبر الذكاء الاصطناعي، يمكن أن يساعد التحالف على تقليل انتشار المعلومات الخاطئة وتسهيل تحديد المحتوى الذي قد لا يمثّل الواقع تمثيلاً حقيقياً.

أدوات جديدة تكشف المحتوى المولَّد بالذكاء الاصطناعي

تطبّق أوبن أيه آي علامة مائية غير مرئية مقاومة للتلاعب خاصة بالمحتوى الصوتي الناتج عن أداتها قيد التطوير "فويس إنجين" (Voice Engine)، تحدد مصدر الصوت ويصعب إزالتها دون اكتشافها. تسهم هذه التكنولوجيا في مكافحة التزييف العميق للصوت، ومنع استخدامه لأغراض ضارة، لتكون تقنياتها الصوتية شفافة وآمنة بالقدر نفسه.

بالإضافة إلى المحتوى الصوتي، تطوّر أوبن أيه آي أدوات ذكاء اصطناعي مدربة على تحليل المحتوى وتقييم احتمالية نشوئه من نماذج الذكاء الاصطناعي التوليدية. وتركّز في البداية على تحديد الصور التي ينتجها نظام دال-إي 3 الخاص بها.

تُظهر التكنولوجيا الجديدة دقة عالية تبلغ نحو 98% في التعرف إلى الصور التي يولّدها دال-إي 3، بالإضافة إلى المرونة في مواجهة المشاركة والتعديلات الشائعة على الصور التي تولّدها أدوات الذكاء الاصطناعي مثل الضغط والاقتصاص وتشبع الألوان.

على الرغم من دقة الأداة العالية في تحديد الصورة المولّدة عبر دال-إي 3، فإنها تُخطئ في تحديد 5-10% من الصور التي تولّدها نماذج ذكاء اصطناعي أخرى.

فُتِحت طلبات الوصول إلى أداة اكتشاف الصور للمجموعة الأولى من المختبرين، بما في ذلك مختبرات الأبحاث والمؤسسات الصحفية غير الربحية ذات التوجه البحثي، للحصول على تعليقات من خلال برنامج وصول الباحثين، وذلك بهدف تمكين البحث المستقل الذي يُقيِّم فاعلية الأداة، ويحلل تطبيقها في العالم الحقيقي، ويبرز الاعتبارات ذات الصلة بهذا الاستخدام، ويستكشف خصائص الذكاء الاصطناعي المحتوى الذي أُنشئ.