التحسين العشوائي - نزول التدرج العشوائي ومتغيراته
- السنة
- 1951 (SGD); 2014 (Adam)
- النوع
- Gradient-based iterative optimization
هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية
ماذا تفعل؟
التحسين العشوائي هو عائلة من الطرق التكرارية التي تقلل دالة الهدف عن طريق حساب التدرجات على مجموعات فرعية عشوائية من البيانات - دفعات مصغرة - بدلاً من مجموعة البيانات بأكملها دفعة واحدة. وقد بدأها روبنز ومونرو في عام 1951 كتقريب عشوائي، وأصبح هذا النهج المحرك القياسي لتدريب نماذج التعلم الآلي واسعة النطاق من خلال متغيرات مثل نزول التدرج العشوائي مع الزخم (SGD with momentum)، و AdaGrad، و RMSProp، و Adam.
الفكرة الحدسية وراء الطريقة
تخيل أنك تريد العثور على أدنى نقطة في منظر طبيعي جبلي شاسع، ولكن قياس ميل المنظر الطبيعي بأكمله في كل خطوة مكلف للغاية. يعمل التحسين العشوائي عن طريق قياس الميل في بقعة صغيرة عشوائية من الأرض بدلاً من ذلك، واتخاذ خطوة نزولاً، وتكرار العملية عدة مرات. كل خطوة فردية تكون أكثر ضوضاء من قياس المنظر الطبيعي بأكمله، ولكن العدد الهائل من الخطوات الرخيصة يوصلك إلى القاع بشكل أسرع مما لو قمت بعدد قليل من القياسات الدقيقة المكلفة. وتذهب المتغيرات التكيفية مثل Adam إلى أبعد من ذلك من خلال تذكر مدى وعورة كل اتجاه وتعديل خطواتها وفقًا لذلك.
التاريخ
يعود التحسين العشوائي إلى روبنز ومونرو (1951)، اللذين أثبتا أن تقديرات التدرج التكرارية تتقارب إلى نقطة ثابتة للدالة تحت ظروف معتدلة - مؤسسين بذلك مجال التقريب العشوائي. أصبح نزول التدرج العشوائي مستخدمًا على نطاق واسع في التعلم الآلي من خلال عمل بوتو في التسعينيات على النماذج الخطية واسعة النطاق. وقد كثفت حقبة التعلم العميق الطلب على الطرق التكيفية الفعالة: قدم دوتشي وآخرون AdaGrad في عام 2011، واقترح تيلمان وهينتون RMSProp في عام 2012، ونشر كينغما وبا Adam في عام 2014، والذي سرعان ما أصبح المحسِّن الافتراضي لتدريب الشبكات العصبية نظرًا لمتانته عبر مختلف البنى والمهام.
متى تُستخدم
ينطبق التحسين العشوائي كلما احتجت إلى تقليل دالة خسارة قابلة للتفاضل (أو شبه قابلة للتفاضل) على مجموعة بيانات كبيرة حيث يكون حساب التدرجات الدقيقة على مجموعة البيانات الكاملة في كل خطوة مكلفًا حسابيًا. إنه النهج القياسي لتدريب الشبكات العصبية، والنماذج الخطية ذات البيانات الكبيرة، وأي نموذج بارامتري يتم ملاءمته عن طريق نزول التدرج. يجب أن تقبل الدالة الهدف تدرجًا أو تدرجًا فرعيًا؛ لا تنطبق الطريقة على المشكلات غير القابلة للتفاضل ذات الصندوق الأسود. اختيار معدل التعلم أمر بالغ الأهمية - معدل كبير جدًا يسبب التباعد، ومعدل صغير جدًا يبطئ التقارب.
الحدود والاعتبارات
- معدل التعلم هو معلمة فائقة حاسمة؛ تؤدي الخيارات السيئة إلى التباعد أو التقارب البطيء للغاية.
- يمكن أن تمنع ضوضاء تدرج الدفعة المصغرة التقارب إلى حد أدنى دقيق - يتذبذب المحسِّن عادةً بالقرب من الأمثل بدلاً من الاستقرار بدقة.
- نقاط السرج والنهايات الصغرى المحلية الضعيفة هي مخاطر حقيقية في المناظر الطبيعية غير المحدبة، على الرغم من أن ضوضاء التدرج والزخم يساعدان في التخفيف منها.
- يمكن أن تتقارب Adam وغيرها من الطرق التكيفية إلى نهايات صغرى أكثر حدة تعمم بشكل أسوأ من النهايات الصغرى الأكثر تسطحًا التي يجدها نزول التدرج العشوائي العادي (SGD) مع ضبط دقيق.
لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.
نقاط القوة
- يتوسع ليشمل مجموعات بيانات كبيرة بشكل تعسفي لأن كل تحديث يستخدم دفعة مصغرة فقط، وليس البيانات الكاملة.
- يمكن أن تساعد ضوضاء التدرج الناتجة عن أخذ عينات الدفعات المصغرة في الهروب من النهايات الصغرى المحلية الضحلة ونقاط السرج.
- تقلل المتغيرات التكيفية (Adam، RMSProp) من عبء الضبط اليدوي لمعدل التعلم عن طريق تعديل أحجام الخطوات لكل معلمة تلقائيًا.
- مدعوم على نطاق واسع عبر جميع أطر التعلم العميق الرئيسية ومفهوم نظريًا بشكل جيد.
التطبيقات
- تدريب الشبكات العصبية بجميع أعماقها - من الانحدار اللوجستي إلى نماذج اللغة الكبيرة.
- ملاءمة النماذج الخطية والخطية المعممة واسعة النطاق حيث يكون نزول التدرج بالدفعة الكاملة غير ممكن حسابيًا.
- إعدادات التعلم عبر الإنترنت حيث تصل البيانات في تدفق ويجب أن يقوم النموذج بالتحديث تدريجيًا.
- طرق تدرج سياسة التعلم المعزز، حيث Adam و RMSProp خيارات قياسية.
- أنظمة التوصية ونماذج التضمين المدربة على مجموعات بيانات متفرقة ضخمة.
كيف يعمل
كيف يعمل
يتم تهيئة متجه المعلمات - عادةً بقيم عشوائية صغيرة. ويتم تحديد معدل التعلم (حجم الخطوة)، وبالنسبة للمتغيرات التكيفية، معدلات اضمحلال الزخم كمعلمات فائقة قبل بدء التدريب. ولهذه الخيارات تأثير كبير على سرعة التقارب والأداء النهائي.
في كل تكرار، يتم سحب دفعة مصغرة - مجموعة فرعية عشوائية صغيرة من مجموعة البيانات الكاملة. يتحكم حجم الدفعة المصغرة في المفاضلة: الدفعات الأصغر تُدخل المزيد من ضوضاء التدرج ولكنها تُحدّث المعلمات بشكل متكرر وغالبًا ما تعمم بشكل أفضل، بينما تُعطي الدفعات الأكبر تقديرات ذات تباين أقل بتكلفة أعلى لكل تكرار.
يتم حساب تدرج دالة الهدف (الخسارة) بالنسبة للمعلمات الحالية باستخدام الدفعة المصغرة. بالنسبة للمحسِّنات التكيفية، يتم أيضًا الاحتفاظ بتقديرات العزم الأول والثاني للتدرج عبر التكرارات لتتبع معلومات المقياس والانحناء لكل معلمة.
يتم تحديث المعلمات بالتحرك عكس اتجاه التدرج، مع تعديلها بمعدل التعلم. تقسم المتغيرات التكيفية (AdaGrad، RMSProp، Adam) خطوة كل معلمة على تقدير جارٍ لمقادير التدرج السابقة، مما يعطي فعليًا خطوات أكبر للمعلمات التي يتم تحديثها بشكل غير متكرر وخطوات أصغر حيث كان التدرج كبيرًا ومتسقًا.
تتكرر العملية - أخذ العينات، وحساب التدرج، وتحديث المعلمات - حتى يتم استيفاء معيار التقارب: تتوقف الخسارة عن التناقص، أو يتم الوصول إلى الحد الأقصى لعدد التكرارات، أو يتوقف أداء التحقق من التحسن. ويحمي الإيقاف المبكر على مجموعة تحقق محتجزة من الإفراط في الملاءمة.
الأخطاء الشائعة
- يؤدي تعيين معدل التعلم مرتفعًا جدًا إلى تباعد الخسارة أو تذبذبها بشكل كبير؛ راقب دائمًا منحنى الخسارة أثناء التدريب.
- يمكن أن يؤدي نسيان خلط البيانات قبل كل حقبة إلى إدخال تحيز دوري في تقديرات التدرج.
- غالبًا ما يؤدي استخدام معدل تعلم ثابت طوال التدريب إلى إهدار الأداء - تعمل جداول معدل التعلم (الإحماء، اضمحلال جيب التمام) على تحسين النتائج النهائية باستمرار.
- تتطلب مقارنة المحسِّنات بشكل عادل مطابقة العدد الإجمالي لتقييمات التدرج (أو الوقت الفعلي)، وليس فقط عدد الحقبات.
- يمكن أن تكبت المعدلات التكيفية لـ Adam إشارة التدرج المفيدة في الإعدادات المتفرقة؛ أحيانًا ما يعمم نزول التدرج العشوائي مع الزخم بشكل أفضل لمهام تصنيف الصور.
الأسئلة الشائعة
أي محسِّن يجب أن أختار - SGD، Adam، أم شيئًا آخر؟
Adam هو خيار افتراضي آمن لمعظم مهام التعلم العميق: إنه قوي لاختيار معدل التعلم ويتقارب بسرعة. غالبًا ما يحقق نزول التدرج العشوائي مع الزخم وجدول معدل تعلم مضبوط تعميمًا نهائيًا أفضل قليلاً في معايير تصنيف الصور، ولكنه يتطلب ضبطًا أكثر دقة. يناسب AdaGrad مشكلات التدرج المتفرقة (مثل معالجة اللغة الطبيعية مع ميزات حقيبة الكلمات)، بينما يعمل RMSProp جيدًا في تدريب الشبكات المتكررة.
كيف أختار معدل التعلم؟
معدل التعلم هو أهم معلمة فائقة. الممارسة الشائعة هي البدء بـ 1e-3 لـ Adam و 1e-1 لـ SGD، ثم استخدام مكتشف معدل التعلم أو البحث الشبكي. تطبيق مرحلة إحماء تليها اضمحلال جيب التمام أو اضمحلال خطوي يحسن النتائج دائمًا تقريبًا مقارنة بمعدل ثابت.
ما حجم الدفعة المصغرة الذي يجب أن أستخدمه؟
أحجام الدفعات بين 32 و 256 شائعة. تُدخل الدفعات الأصغر المزيد من ضوضاء التدرج (مما يمكن أن يساعد في التعميم) وتسمح بتحديثات أكثر تكرارًا؛ تقلل الدفعات الأكبر الضوضاء ولكن قد تعمم بشكل أقل جيدًا وتتطلب تعديلًا أكثر دقة لمعدل التعلم. عند مضاعفة حجم الدفعة، قم بتعديل معدل التعلم بشكل متناسب (قاعدة التعديل الخطي) كنقطة بداية.
كيف أعرف متى أتوقف عن التدريب؟
راقب خسارة التحقق وتوقف عندما تتوقف عن التحسن لعدد محدد من الحقبات المتتالية - وهي تقنية تسمى الإيقاف المبكر. هذا أكثر موثوقية من التوقف عند عدد ثابت من الحقبات ويحمي من الإفراط في الملاءمة.
طرق ذات صلة
المصادر
Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. Annals of Mathematical Statistics, 22(3), 400-407.
افتح مرجع DOIتم النسخ.Kingma, D.P. & Ba, J. (2015). Adam: A Method for Stochastic Optimization. International Conference on Learning Representations (ICLR 2015).
افتح مرجع المنشورتم النسخ.