تجميع التصويت للتعلم النشط
- قدّمه
- Seung, H. S., Opper, M., & Sompolinsky, H.
- السنة
- 1992
- النوع
- Active learning with ensemble voting
- العائلة
- Machine learning
هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية
ماذا تفعل؟
تجميع التصويت للتعلم النشط — المعروف رسميًا باسم الاستعلام بواسطة اللجنة — هو استراتيجية تعلم نشط تقوم بتدريب لجنة من النماذج المتنوعة وتختار الأمثلة غير المسماة التي يختلف فيها أعضاء اللجنة أكثر من غيرهم للتعليق البشري. من خلال تركيز جهد التسمية على النقاط الأكثر إفادة، فإنه يحقق دقة عالية بأمثلة مسماة أقل بكثير مما يتطلبه التعلم السلبي.
الفكرة الحدسية وراء الطريقة
تخيل أن تسأل خمسة خبراء لتصنيف عينة غير مسماة. إذا اتفق أربعة واختلف واحد، فمن المحتمل أن تكون الإجابة واضحة - لا حاجة للدفع مقابل تسمية. ولكن إذا انقسموا ثلاثة إلى اثنين، فإن هذه العينة تقع مباشرة على حدود القرار حيث سيؤدي تسميتها إلى تعليم جميع النماذج الأكثر. يجعل تجميع التصويت للتعلم النشط هذه الحدس دقيقًا: بناء لجنة من النماذج، والسماح لها بالتصويت، والدفع فقط مقابل التسميات عندما يكون التصويت قريبًا. والنتيجة هي حلقة تعلم فعالة للغاية تمتد ميزانية تعليق صغيرة إلى أقصى حد ممكن.
التاريخ
تم تقديم إطار عمل الاستعلام بواسطة اللجنة (QBC) بواسطة Seung و Opper و Sompolinsky في COLT 1992 كنهج مبدئي للتعلم النشط مع لجان مساحة الإصدار. كانت واحدة من أولى الحسابات النظرية لاستخدام خلاف التجميع لتوجيه جمع البيانات، ولا تزال المرجع القياسي للتعلم النشط القائم على اللجنة. تم توحيد الأدبيات الأوسع للتعلم النشط في المسح الفني الذي استشهد به Burr Settles على نطاق واسع في عام 2009، والذي نظم سيناريوهات المجمعات، والتدفقات، والاستعلام عن العضوية وأسس QBC كاستراتيجية أساسية جنبًا إلى جنب مع أخذ عينات عدم اليقين.
متى تُستخدم
استخدم تجميع التصويت للتعلم النشط عندما يكون التسمية مكلفًا أو يستغرق وقتًا طويلاً - التعليق السريري، ووسم المستندات القانونية، ومراجعة الصور المتخصصة - ويتوفر تجمع كبير من البيانات غير المسماة جنبًا إلى جنب مع مجموعة بذرة مسماة صغيرة. إنه يعمل بشكل جيد لمهام التصنيف حيث يكون خلاف اللجنة إشارة ذات مغزى، وعندما يمكن نشر 3-5 نماذج متنوعة على الأقل. تجنبها عندما تكون التسميات رخيصة وفيرة (سيكون التعلم السلبي على مجموعة البيانات الكاملة بنفس الكفاءة أو أكثر)، عندما تكون مجموعة البيانات غير المسماة صغيرة جدًا، عندما يكون التعليق عبر الإنترنت في الوقت الفعلي غير ممكن، أو عندما يلزم نموذج واحد قابل للتفسير بدلاً من تجميع.
الحدود والاعتبارات
- يتطلب حلقة تعليق، مما يضيف تعقيدًا في البنية التحتية: مدير مجمع، واجهة مشرف، وخط أنابيب إعادة تدريب.
- يعتمد الأداء بشكل كبير على تنوع اللجنة؛ تنتج اللجنة المتجانسة خلافًا غير مفيد.
- يفترض التعلم النشط القائم على المجمع أن المجمع غير المسمى بأكمله يناسب الذاكرة؛ تتطلب المجمعات الكبيرة جدًا تقريبات.
- لا يضمن التقارب إذا قدم المشرف أخطاء تسمية منهجية.
لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.
نقاط القوة
- يقلل بشكل كبير من عدد الأمثلة المسماة المطلوبة للوصول إلى دقة مستهدفة مقارنة بالعينات العشوائية.
- يوفر تصويت التجميع فائدة مزدوجة من تنبؤات تباين أقل في وقت الاستدلال.
- نموذج مستقل: يمكن لأي مجموعة من المصنفات المتنوعة تشكيل اللجنة.
- توفر درجة الخلاف إشارة عدم يقين مدمجة يسهل مراقبتها وتصورها.
- مؤسس نظريًا من خلال إطار عمل الاستعلام بواسطة اللجنة الذي تم تقديمه في عام 1992.
التطبيقات
- التعليق الطبي للصور حيث يكون أخصائيو الأشعة الخبراء نادرين والتسمية مكلفة.
- التعرف على الكيانات المسماة وتصنيف النصوص مع مجموعات بيانات مسماة محدودة.
- تحليل المشاعر مع المصطلحات الخاصة بالمجال التي تتطلب مراجعة متخصصة.
- اكتشاف الأدوية والتنبؤ بخصائص الجزيئات مع التحقق المكلف في المختبر.
- تصنيف صور الأقمار الصناعية حيث يمكن مراجعة جزء فقط من البلاطات يدويًا.
كيف يعمل
كيف يعمل
يتم تهيئة لجنة من k نماذج أساسية متنوعة (تجميع التصويت) على مجموعة بذرة صغيرة من الأمثلة المسماة. التنوع هو المفتاح: قد تختلف النماذج في البنية أو المعلمات الفائقة أو مجموعة التدريب بحيث تكون خلافاتها مفيدة وليست عشوائية.
لكل مرشح غير مسمى x في المجموعة U، يتم قياس الخلاف D(C, x) بين اللجنة - تشمل المقاييس الشائعة إنتروبيا التصويت (مدى انتشار الأصوات) أو تباعد KL بين التنبؤات. يتم تحديد العينة ذات أعلى درجة خلاف: x* = argmax D(C, x).
الصيغة
x^* = \arg\max_{x \in U} D(C, x)يتم تقديم المثال غير المسمى المحدد إلى مشرف بشري (خبير تعليق، منصة تجميع، أو مُسمِّي آلي) للحصول على تسمية حقيقية. هذه هي الخطوة الوحيدة التي تتكبد تكلفة التعليق.
يتم إضافة المثال غير المسمى المسمى حديثًا إلى مجموعة التدريب ويتم إعادة تدريب جميع أعضاء اللجنة (أو تحديثهم تدريجيًا). تعود الحلقة إلى خطوة الاستعلام حتى تنفد ميزانية التعليق أو يتم الوصول إلى عتبة أداء.
عند وقت الاستدلال، تنتج اللجنة المدربة تصويتًا بالأغلبية عبر جميع أعضاء k: الفئة المتوقعة هي الوضع الفردي للتنبؤات الفردية h_1(x) إلى h_k(x)، مما يجمع بين مكاسب كفاءة التعلم النشط وتقليل تباين التجميع.
الصيغة
\hat{y} = \text{mode}(h_1(x), h_2(x), \ldots, h_k(x))الأخطاء الشائعة
- استخدام أعضاء لجنة متطابقين أو شبه متطابقين - التنوع هو محرك الطريقة وبدونه ينهار الخلاف.
- إعادة التدريب من الصفر بعد كل استعلام فردي؛ الاستعلام في وضع الدُفعات (تحديد b مثال في كل جولة) أكثر عملية بكثير.
- نسيان التقييم على مجموعة اختبار ثابتة محجوزة طوال الحلقة - قياس مجموعة التدريب المتنامية فقط يخفي الإفراط في التجهيز.
- معاملة درجة الخلاف كمقياس ثقة عند الاستدلال دون معايرة مناسبة.
- تجاهل المقايضة بين الإفادة والتمثيل: قد تكون العينات غير المؤكدة للغاية بالقرب من الحدود حالات شاذة، وليست أمثلة نموذجية.
الأسئلة الشائعة
كم عدد أعضاء اللجنة التي يجب أن أستخدمها؟
ثلاثة إلى عشرة نماذج متنوعة هو نطاق عملي شائع. ينتج عدد أقل من الأعضاء تقديرات خلاف أكثر ضوضاء؛ يزيد عدد أكبر من الأعضاء من تكاليف الحوسبة. تجريبيًا، غالبًا ما توفر خمسة مصنفات متنوعة توازنًا جيدًا بين الاستقرار والكفاءة.
كيف أقيس الخلاف في اللجنة؟
إنتروبيا التصويت هو المقياس الأكثر شيوعًا: H = -sum_c p(c) log p(c) حيث p(c) هو نسبة أعضاء اللجنة الذين يتنبأون بالفئة c. بالنسبة للنماذج الاحتمالية، فإن متوسط تباعد KL عن التنبؤ المتوسط هو بديل. تشير الدرجات الأعلى إلى عينات أكثر إفادة.
هل يمكنني استخدام هذا مع نماذج التعلم العميق؟
نعم. يمكن أن تعمل تجميعات التعلم العميق أو تقريبات MC-dropout كلجنة. التحدي الرئيسي هو تكلفة إعادة التدريب - تقلل استراتيجيات مثل الضبط الدقيق لعمود فقري مشترك مع رؤوس متنوعة هذا بشكل كبير.
ماذا لو كانت ميزانية التعليق الخاصة بي ضيقة جدًا - لنقل، أقل من 20 تسمية؟
مع عدد قليل جدًا من التسميات، غالبًا ما يكون أخذ العينات العشوائية أو اختيار البذور الطبقية أداءً مماثلاً لـ QBC لأن جميع الطرق تبدأ من خط أساس شبه متطابق يفتقر إلى المعلومات. تظهر ميزة QBC بشكل أوضح بمجرد أن تحتوي مجموعة البذور على 20-50 مثالًا لكل فئة على الأقل.
هل يعمل تجميع التصويت للتعلم النشط للانحدار؟
نعم، مع قياس الخلاف على أنه تباين أو انحراف معياري لتنبؤات اللجنة بدلاً من إنتروبيا التصويت. تنطبق نفس حلقة الاستعلام-إعادة التدريب؛ الناتج النهائي هو متوسط تنبؤات اللجنة.
طرق ذات صلة
المصادر
Seung, H. S., Opper, M., & Sompolinsky, H. (1992). Query by committee. In Proceedings of the Fifth Annual Workshop on Computational Learning Theory (COLT '92), pp. 287–294. ACM.
افتح مرجع DOIتم النسخ.Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
افتح مرجع المنشورتم النسخ.