التعلم النشط
- قدّمه
- Burr Settles
- السنة
- 2009
- النوع
- Interactive supervised learning framework
- العائلة
- Interactive ML
هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية
ماذا تفعل؟
التعلم النشط هو نموذج تعلم آلي تكراري يستعلم فيه خوارزمية التعلم بشكل انتقائي من مصدر موثوق - عادةً مُعلِّق بشري - للحصول على تسميات لأكثر الأمثلة غير المسماة إفادة. تم إضفاء الطابع الرسمي عليه بواسطة بور سيتلز في مسح الأدبيات الرائد الذي أجراه عام 2009، ويعالج التعلم النشط عنق الزجاجة العملي لتكلفة التعليق من خلال تحقيق دقة عالية للنموذج بعدد أقل بكثير من الأمثلة المسماة مقارنة بما يتطلبه التعلم الخاضع للإشراف السلبي.
الفكرة الحدسية وراء الطريقة
تخيل طالب طب، بدلاً من حفظ كل صفحة من الكتاب المدرسي، يسأل الطبيب المعالج فقط عن الحالات الأكثر إرباكًا. يتعلم الطالب بشكل أسرع من خلال التركيز على عدم اليقين بدلاً من مراجعة الأمثلة التي يفهمها بالفعل. يعمل التعلم النشط بنفس الطريقة: يحدد النموذج الأمثلة التي يشعر بالارتباك بشأنها، ويطلب تسميات بشرية لتلك الحالات المحددة، ويحدث نفسه - ويكرر هذه الحلقة حتى يكون الأداء مرضيًا.
التاريخ
يعود مفهوم الاستعلام الانتقائي للأمثلة التدريبية المفيدة إلى تصميم فيدوف للتجارب الأمثل (1972) وتعلم الاستعلام الخاص بكوهن وآخرون (1994). تم توحيد المجال بشكل كبير ونشره بواسطة تقرير بور سيتلز الفني لعام 2009، والذي صنف استراتيجيات الاستعلام والحدود النظرية والتطبيقات عبر معالجة اللغة الطبيعية والمعلوماتية الحيوية والرؤية الحاسوبية. ظهر التعلم النشط العميق بعد عام 2016 عندما أصبحت الشبكات العصبية الفئة المهيمنة للنماذج، مما أدى إلى تقنيات جديدة لتقدير عدم اليقين.
متى تُستخدم
يكون التعلم النشط أكثر فائدة عندما تكون البيانات غير المسماة وفيرة ولكن التعليق الخبير مكلفًا أو بطيئًا أو نادرًا - وهو أمر شائع في التصوير الطبي، وتصنيف المستندات القانونية، وتنظيم البيانات العلمية، ومعالجة اللغة الطبيعية. يفترض توفر مصدر موثوق وأن استراتيجية الاستعلام يمكنها تحديد الأمثلة المفيدة بشكل هادف. إنه أقل ملاءمة عندما تكون تكلفة التعليق ضئيلة، أو تكون مجموعة البيانات غير المسماة صغيرة، أو يتغير توزيع المهمة بشكل كبير بين الاستعلامات. تشمل البدائل التعلم شبه الخاضع للإشراف (عندما لا يمكن الحصول على تسميات بشكل تفاعلي) والتدريب الذاتي (عندما تكون استعلامات المصدر الموثوق غير ممكنة).
الحدود والاعتبارات
- يمكن أن تقدم استراتيجيات الاستعلام تحيزًا في أخذ العينات، مما يؤدي إلى أن تكون المجموعة المسماة غير ممثلة لتوزيع البيانات الحقيقي.
- تعتمد مكاسب الأداء بشكل كبير على اختيار استراتيجية الاستعلام، وهي خاصة بالمهمة والنموذج.
- إعادة تدريب النموذج بعد كل استعلام مكلف حسابيًا للشبكات العصبية الكبيرة.
- يمكن أن تؤدي ضوضاء المصدر الموثوق (خلاف المُعلِّق أو الأخطاء) إلى تدهور الأداء إذا لم يتم نمذجتها بشكل صريح.
لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.
نقاط القوة
- يقلل بشكل كبير من تكلفة التسمية من خلال تركيز جهد التعليق على الأمثلة الأكثر إفادة.
- قابل للتطبيق على أي متعلم خاضع للإشراف - التصنيف، الانحدار، التنبؤ الهيكلي - دون تعديل بنية النموذج الأساسية.
- مؤسس نظريًا: أخذ عينات عدم اليقين والاستعلام حسب اللجنة لهما مبررات PAC-learning والبيزية.
- متوافق مع سير عمل التعهيد الجماعي ومنصات التعليق الحديثة.
التطبيقات
- التعليق على الصور الطبية (الأشعة، علم الأمراض) حيث يكون التعليق الخبير مكلفًا ونادرًا.
- التعرف على الكيانات المسماة واستخراج العلاقات في معالجة اللغة الطبيعية، مما يقلل من متطلبات مجموعة النصوص المصنفة يدويًا.
- اكتشاف الأدوية: اختيار المرشحين الجزيئيين للتصنيع والاختبار.
- الاستشعار عن بعد وتصنيف صور الأقمار الصناعية مع تسميات حقيقية محدودة.
- القيادة الذاتية: تحديد أولويات التعليق على سيناريوهات القيادة النادرة أو الحرجة للسلامة.
كيف يعمل
كيف يعمل
تبدأ العملية بمجموعة كبيرة من الأمثلة غير المسماة U ومجموعة مسماة L فارغة مبدئيًا. قد يتم تدريب نموذج أساسي مسبقًا على أي بيانات أولية مسماة متاحة، أو تهيئته عشوائيًا. هذا الفصل بين البيانات المسماة وغير المسماة هو الافتراض الهيكلي المحدد للتعلم النشط المعتمد على المجموعات.
الصيغة
\mathcal{U} = \{\mathbf{x}_1, \mathbf{x}_2, \ldots, \mathbf{x}_n\}, \quad \mathcal{L} = \emptysetفي كل تكرار، يقوم المتعلم بتقييم كل مثيل غير مسمى وفقًا لمعيار الإفادة - هنا، أخذ عينات عدم اليقين يختار المثيل الذي يكون فيه احتمال الفئة الأقصى هو الأدنى، مما يشير إلى أقصى قدر من عدم يقين النموذج. تشمل المعايير البديلة الخلاف في الاستعلام حسب اللجنة والتغيير المتوقع للنموذج.
الصيغة
\mathbf{x}^* = \arg\max_{\mathbf{x} \in \mathcal{U}} \phi(\mathbf{x}; \theta), \quad \phi(\mathbf{x}) = 1 - \max_{y} P_\theta(y \mid \mathbf{x})يتم تقديم المثيل المحدد x* إلى مصدر موثوق (خبير بشري، منصة تجميع، أو مُعلِّق آلي) الذي يوفر تسمية y*. يتم نقل الزوج المسمى حديثًا من U إلى L، ويتم تقليل عداد ميزانية الاستعلام. تُعامل تكلفة المصدر الموثوق عادةً على أنها موحدة لكل استعلام.
الصيغة
y^* = \mathcal{O}(\mathbf{x}^*), \quad \mathcal{L} \leftarrow \mathcal{L} \cup \{(\mathbf{x}^*, y^*)\}, \quad \mathcal{U} \leftarrow \mathcal{U} \setminus \{\mathbf{x}^*\}تتم إعادة تدريب معلمات النموذج (أو ضبطها بدقيق) على المجموعة المسماة الحالية L عن طريق تقليل خسارة تجريبية. ثم يقوم النموذج المحدث بإعادة تقييم المجموعة المتبقية، وتتكرر دورة الاستعلام-الاختيار-التسمية-إعادة التدريب حتى تنفد الميزانية أو يتم الوصول إلى عتبة دقة مستهدفة.
الصيغة
\theta^* = \arg\min_\theta \frac{1}{|\mathcal{L}|} \sum_{(\mathbf{x},y) \in \mathcal{L}} \mathcal{L}_{\text{loss}}(f_\theta(\mathbf{x}), y)الأخطاء الشائعة
- مشكلة البداية الباردة: مع وجود عدد قليل جدًا من التسميات الأولية، تكون تقديرات عدم اليقين غير موثوقة، مما يؤدي إلى استعلامات مبكرة سيئة.
- قد يختار التعلم النشط في الوضع الدفعي أمثلة مكررة إذا تم تجاهل الارتباطات بين الاستعلامات.
- يمكن أن يؤدي تطبيق التعلم النشط على الشبكات العصبية العميقة مع عدم اليقين المستند إلى الإسقاط (مثل MC Dropout) إلى التقليل من تقدير عدم اليقين في مناطق خارج التوزيع.
- يؤدي مقارنة تشغيلات التعلم النشط عبر البذور أو ميزانيات الاستعلام بدون فترات ثقة إلى استنتاجات مضللة حول تفوق الاستراتيجية.
الأسئلة الشائعة
كيف يختلف التعلم النشط عن التعلم شبه الخاضع للإشراف؟
يستغل التعلم شبه الخاضع للإشراف بنية البيانات غير المسماة (مثل التجميع، افتراضات التنوع) دون الاستعلام من مصدر موثوق، ويقوم بتحديث النموذج باستخدام التسميات الزائفة أو تنظيم الاتساق. يطلب التعلم النشط بشكل صريح تسميات حقيقية من مصدر موثوق للأمثلة المحددة. النهجان متكاملان ويمكن دمجهما.
ما هي استراتيجية الاستعلام التي يجب أن أستخدمها عمليًا؟
أخذ عينات عدم اليقين هو خط الأساس الأكثر استخدامًا ويعمل بشكل جيد للمصنفات الثنائية والمتعددة الفئات. يُفضل الاستعلام حسب اللجنة عندما تكون المجموعة متوفرة بالفعل. يميل التغيير المتوقع للنموذج أو BALD (التعلم النشط البيزي حسب الخلاف) إلى الأداء بشكل أفضل للنماذج العميقة ولكنه أثقل حسابيًا. ابدأ بأخذ عينات عدم اليقين وقارن الأداء بالبدائل.
هل يمكن تطبيق التعلم النشط على مهام الانحدار؟
نعم. بالنسبة للانحدار، يتم قياس الإفادة عادةً عن طريق تباين التنبؤ (على سبيل المثال، من عملية غاوسية أو مجموعة) بدلاً من إنتروبيا احتمالية الفئة. يستعلم المتعلم عن النقاط التي يكون فيها التباين أعلى. هذه ممارسة قياسية في التحسين البيزي وتصميم التجارب المستند إلى نماذج بديلة.
طرق ذات صلة
المصادر
Settles, B. (2009). Active learning literature survey. University of Wisconsin-Madison Computer Sciences Technical Report 1648.
افتح مرجع المنشورتم النسخ.