الشبكة العصبونية ذات الذاكرة الطويلة قصيرة الأمد LONG SHORT-TERM MEMORY (LSTM)

ما هي الشبكة العصبونية ذات الذاكرة الطويلة قصيرة الأمد؟

نوع من الشبكات العصبونية المتكررة التي يمكنها تذكّر تسلسل من البيانات مثل الكلام المنطوق والفيديو لفترات زمنية أطول من فترات تذكر الشبكات العصبونية العادية. تم تطوير الشبكة العصبونية ذات الذاكرة الطويلة قصيرة الأمد من قبل عالمي الحاسوب الألمانيين سيب هوشريتر ويورغن شميدهوبر عام 1990. وتستخدم على نطاق واسع اليوم في تحليل الصورة والصوت والسلاسل الزمنية.

تتألف خلية الذاكرة الطويلة قصيرة الأمد من ثلاث بوابات هي بوابة الدخل التي تقوم بإضافة المعلومات المفيدة إلى حالة الخلية. وبوابة النسيان التي تقوم بإزالة المعلومات التي لم يعد لها فائدة في حالة الخلية. وأخيراً بوابة الخرج التي تقوم باستخراج المعلومات المفيدة من حالة الخلية الحالية لتقديمها كخرج.

تحل الشبكة العصبونية ذات الذاكرة الطويلة قصيرة الأمد مشكلة تلاشي المشتق (Vanishing Gradient) التي تحدث عند تدريب الشبكات العصبونية الاصطناعية بطريقة الانتشار الخلفي. وتؤدي إلى انعدام المشتقات الجزئية لتابع الخسارة في الطبقات الأولى، وبالتالي عدم تحديث الأوزان بالشكل المناسب وانخفاض أداء الشبكة.