التصويت الأغلبي
- قدّمه
- Leo Breiman
- السنة
- 1996
- النوع
- voting aggregation
- العائلة
- Ensemble
هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية
ماذا تفعل؟
التصويت الأغلبي هو طريقة تجميعية (ensemble method) تجمع تنبؤات مصنفات أساسية متعددة عن طريق اختيار الفئة التي تحصل على أكبر عدد من الأصوات. يُدلي كل مصنف أساسي بصوت واحد للفئة المتنبأ بها، ويكون التنبؤ النهائي هو الفئة ذات الأغلبية (الأكثرية). تم إضفاء الطابع الرسمي على هذا النهج من قبل ليو بريمان وزملائه في التسعينيات كطريقة بسيطة وفعالة لتحسين دقة التصنيف.
الفكرة الحدسية وراء الطريقة
الفكرة الأساسية هي أن تجميع المصنفات الضعيفة المتنوعة يمكن أن ينتج قرارًا جماعيًا أقوى من خلال التصويت الديمقراطي. إذا كانت النماذج الفردية غير كاملة ولكنها ترتكب أخطاء مختلفة، فإن التصويت الأغلبي يقوم بتصفية الأخطاء التصنيفية المنعزلة. يعمل هذا النهج على أفضل وجه عندما تكون المصنفات الأساسية مستقلة ولها دقة معتدلة - أفضل من التخمين العشوائي ولكنها ليست مثالية. تأتي القوة من الاختلاف: عندما تختلف النماذج، يكون قرار الحشد أكثر موثوقية من أي نموذج فردي.
التاريخ
ظهر التصويت الأغلبي في أوائل التسعينيات مع تزايد شعبية التعلم التجميعي. عمل بريمان على التمهيد (bagging) (1996) على تعميم فكرة تجميع نماذج متعددة. قدمت كونشيفا (Kuncheva) (2004) نظرية شاملة حول طرق تجميع المجموعات. يظل التصويت الصعب (Hard voting) أحد أبسط استراتيجيات التجميع وأكثرها بديهية، وغالبًا ما يعمل كخط أساس لطرق أكثر تطورًا مثل التكديس والتعزيز.
متى تُستخدم
استخدم التصويت الأغلبي عندما يكون لديك مصنفات أساسية متعددة متاحة وتحتاج إلى تنبؤات تجميعية بسيطة وقابلة للتفسير. يعمل بشكل جيد مع التصنيف متعدد الفئات ويفترض أن المصنفات الأساسية مستقلة نسبيًا. وهو أقل فعالية إذا كانت جميع النماذج الأساسية تميل إلى ارتكاب نفس الأخطاء أو كانت مرتبطة ارتباطًا وثيقًا. فضل طرق التجميع الأخرى (مثل التعزيز boosting، التكديس stacking) إذا كنت بحاجة إلى ترجيح المتعلمين الأساسيين بناءً على دقتهم الفردية.
الحدود والاعتبارات
- يتجاهل موثوقية المصنف - يحصل كل نموذج على صوت متساوٍ بغض النظر عن الدقة.
- غير فعال إذا كانت المصنفات الأساسية مرتبطة ارتباطًا وثيقًا أو إذا كانت جميعها ترتكب أخطاء منهجية.
- يمكن أن تحدث حالات التعادل في إعدادات متعددة الفئات، مما يتطلب قواعد تعسفية لكسر التعادل.
- يعتمد الأداء بشكل حاسم على تنوع المصنفات الأساسية وجودتها الفردية.
لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.
نقاط القوة
- سهل التنفيذ والفهم - قاعدة التصويت المباشرة لا تتطلب أي ضبط.
- فعال من الناحية الحسابية - وقت التنبؤ يتناسب خطيًا مع عدد المصنفات الأساسية.
- قوي ضد التنبؤات الشاذة عندما تكون الأغلبية واضحة.
- يعمل مع أي نوع من المصنفات الأساسية (ممكن تجميعات غير متجانسة).
التطبيقات
- التشخيص الطبي: تجميع تنبؤات من نماذج دعم القرار السريري المتعددة لتقليل تحيز النموذج الفردي.
- اكتشاف البريد العشوائي: تجميع القرارات من المرشحات القائمة على القواعد، وNaive Bayes، ومصنفات SVM.
- تقييم مخاطر الائتمان: تجميع أشجار القرار ونماذج الانحدار اللوجستي التي تصوت على الموافقة على القرض.
- تصنيف الصور: تصويت شبكات عصبية التفافية متعددة على فئة الكائن في رؤية الكمبيوتر.
- تحليل المشاعر: تجميع مخرجات نماذج LSTM، وTransformer، والنماذج ذات الميزات المصممة يدويًا على مراجعات النصوص.
كيف يعمل
كيف يعمل
تدريب K مصنف أساسي مستقل (مثل أشجار القرار، الانحدار اللوجستي، الشبكات العصبية) على عينات تدريب متطابقة أو عينات مأخوذة بالتمهيد (bootstrapped samples) من بيانات التدريب.
بالنسبة لعينة جديدة، قم بتمريرها عبر كل من المصنفات K المدربة واجمع تنبؤاتها الفردية.
عد الأصوات لكل فئة وقم بتعيين العينة الجديدة للفئة التي تحصل على أكبر عدد من الأصوات. في حالة التعادل، استخدم قاعدة لكسر التعادل (مثل الاختيار العشوائي أو الأولوية المحددة مسبقًا).
الأخطاء الشائعة
- تدريب جميع المصنفات الأساسية على بيانات متطابقة يقلل من التنوع وتصبح الأصوات زائدة عن الحاجة.
- إدراج المصنفات الضعيفة أو المتحيزة يخفف من قوة التصويت للنماذج الدقيقة.
- افتراض أن التصويت الأغلبي سيعمل دون التحقق من أن النماذج الأساسية مستقلة بما فيه الكفاية.
- إهمال معالجة حالات التعادل بشكل استراتيجي - يمكن أن يؤدي كسر التعادل العشوائي إلى عدم الاستقرار.
الأسئلة الشائعة
كيف أختار عدد المصنفات الأساسية؟
ابدأ بـ 5-10 مصنفات؛ يمكن أن يؤدي إضافة المزيد إلى تحسين الاستقرار ولكن مع تناقص العوائد. وازن بين مكاسب الدقة والتكلفة الحسابية. تساعد المصنفات الأكثر عندما تكون متنوعة؛ النماذج الزائدة عن الحاجة لا تضيف قيمة.
ماذا لو كان عدد المصنفات الأساسية زوجيًا وحدث تعادل؟
حدد قاعدة لكسر التعادل قبل التدريب: قم بتعيين الفئة ذات أعلى ثقة تنبؤ تراكمية، أو استخدم الاختيار العشوائي، أو قم بتعيينها لفئة افتراضية محددة مسبقًا. يضمن كسر التعادل المتسق قابلية التكرار.
هل يمكنني استخدام التصويت الأغلبي مع مشاكل الانحدار؟
التصويت الصعب مصمم للتصنيف. بالنسبة للانحدار، استخدم المتوسط الناعم (متوسط التنبؤات) أو المتوسط المرجح بدلاً من ذلك.
هل يضمن تنوع المصنفات الأساسية أداءً أفضل للمجموعة؟
التنوع يساعد ولكنه ليس كافيًا. يجب أن تكون المصنفات الأساسية متنوعة في أنماط الأخطاء وأفضل فرديًا من التخمين العشوائي. قم بقياس التنوع تجريبيًا عبر ارتباط خطأ التدريب.
طرق ذات صلة
المصادر
Breiman, L. (1996). Bagging predictors. Machine Learning, 24(2), 123-140.
افتح مرجع DOIتم النسخ.Kuncheva, L. I. (2004). Combining Pattern Classifiers: Methods and Algorithms. Wiley-Interscience.
افتح مرجع المنشورتم النسخ.