شجرة القرار ذاتية الإشراف
- قدّمه
- Multiple authors (active research area, 2010s–2020s)
- السنة
- 2015–present
- النوع
- Self-supervised ensemble/single tree model
- العائلة
- Machine learning
هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية
ماذا تفعل؟
تجمع شجرة القرار ذاتية الإشراف بين قابلية التفسير لأشجار القرار الكلاسيكية والقدرة على استغلال كميات كبيرة من البيانات غير المسماة من خلال مهام تمهيدية ذاتية الإشراف. يتعلم النموذج تمثيلات مفيدة للميزات أو معايير تقسيم العقد من عينات غير مسماة قبل تحسين التنبؤات على مجموعة صغيرة مسماة، مما يسد الفجوة بين الأشجار الخاضعة للإشراف بالكامل والتجميع غير الخاضع للإشراف بالكامل.
الفكرة الحدسية وراء الطريقة
تحتاج أشجار القرار القياسية إلى أمثلة مسماة في كل عقدة. في العديد من الإعدادات الواقعية، يكون جمع التسميات مكلفًا ولكن البيانات الأولية وفيرة. تحل أشجار القرار ذاتية الإشراف هذه المشكلة عن طريق مطالبة الشجرة أولاً بحل مهمة مساعدة - على سبيل المثال، التنبؤ بما إذا كانت عينتان تنتميان إلى نفس المجموعة، أو إعادة بناء الميزات المقنعة - باستخدام البيانات غير المسماة فقط. تعلم هذه المرحلة التمهيدية الشجرة أي الميزات والحدود ذات مغزى عالمي. عندما تصل التسميات أخيرًا، يكون لدى الشجرة بالفعل بداية وتحتاج إلى عدد أقل بكثير منها للوصول إلى دقة جيدة.
التاريخ
برز التعلم الذاتي الإشراف كنموذج في التعلم العميق من خلال الأعمال المتعلقة بأهداف التباين والمهام التمهيدية في العقد الأول من القرن الحادي والعشرين. طبق الباحثون لاحقًا هذه الأفكار على النماذج المستندة إلى الأشجار لاستعادة مزايا قابلية التفسير الخاصة بها في الأنظمة ذات التسميات النادرة. استعارت الصيغ المبكرة التسميات الزائفة من التعلم شبه الإشرافي، بينما اعتمدت المتغيرات اللاحقة أهداف التباين وإعادة البناء مباشرة ضمن معيار نمو الشجرة، مما يجعل هذا المجال مجالًا نشطًا للبحث خلال العقد الثاني من القرن الحادي والعشرين.
متى تُستخدم
موصى به عندما تكون أمثلة التدريب المسماة نادرة ولكن هناك مجموعة كبيرة غير مسماة من نفس التوزيع متاحة، وعندما لا تزال هناك حاجة إلى درجة معينة من قابلية التفسير (مما يستبعد أساليب الشبكات العصبية العميقة). مناسب أيضًا عندما يمكن لخبراء المجال تصميم مهام تمهيدية ذات مغزى تتماشى مع هدف التنبؤ. غير مناسب عندما تكون المجموعة المسماة كبيرة بالفعل (ستتطابق الأشجار الخاضعة للإشراف القياسية أو تتجاوز الأداء)، عندما تأتي البيانات غير المسماة من توزيع مختلف، أو عندما يكون الحد الأقصى لدقة التنبؤ على المعايير القياسية هو الشاغل الوحيد (عادةً ما يتفوق تعزيز التدرج عليها).
الحدود والاعتبارات
- يتأثر الأداء بتصميم المهمة التمهيدية؛ يمكن أن تؤدي المهمة المختارة بشكل سيء إلى تضليل بنية الشجرة.
- تتراكم ضوضاء التسميات الزائفة عبر الانقسامات إذا انحرف توزيع البيانات غير المسماة عن البيانات المسماة.
- التكلفة الحسابية أعلى من أشجار القرار الخاضعة للإشراف القياسية بسبب مرحلة تدريب المهمة التمهيدية.
- الضمانات النظرية لجودة التسميات الزائفة والتقارب أقل رسوخًا من تلك الخاصة بالأشجار الخاضعة للإشراف بالكامل.
لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.
نقاط القوة
- يستغل البيانات غير المسماة الوفيرة لتحسين التعميم عندما تكون العينات المسماة نادرة.
- يحافظ على قابلية تفسير أشجار القرار: تظل الانقسامات قابلة للقراءة من قبل الإنسان وقابلة للتدقيق.
- إطار عمل مرن يستوعب مهام تمهيدية متنوعة مصممة خصيصًا لمعرفة المجال.
- يقلل من تكلفة وضع العلامات دون التضحية بطبيعة الصندوق الأبيض للتنبؤات المستندة إلى الأشجار.
- متوافق مع امتدادات التجميع (الغابات العشوائية، التعزيز) لمزيد من مكاسب الدقة.
التطبيقات
- التشخيص الطبي حيث تكون سجلات المرضى المسماة نادرة ولكن بيانات التصوير أو البيانات السريرية غير المسماة وفيرة.
- اكتشاف الأعطال الصناعية باستخدام سجلات المستشعرات العادية الوفيرة وعدد قليل من أحداث الأعطال المسماة.
- تصنيف اللغة الطبيعية مع مجموعات بيانات محدودة مشروحة ولكن مجموعات نصية أولية كبيرة.
- اكتشاف الاحتيال المالي حيث تكون تسميات الاحتيال المؤكدة متفرقة مقارنة بحجم المعاملات.
- تحليل البيانات العلمية (الجينوم، المناخ) حيث يمثل التعليق الخبير عنق الزجاجة.
كيف يعمل
كيف يعمل
يتم تصميم مهمة تمهيدية بحيث يمكن تدريب شجرة القرار على بيانات غير مسماة بإشارات إشرافية يتم إنشاؤها تلقائيًا. تشمل الخيارات الشائعة التنبؤ بعضوية المجموعة من تمريرة k-means سابقة، أو التنبؤ بقيم الميزات المقنعة أو التالفة، أو تعيين تسميات دوران/تحويل للعناصر. تجبر المهمة التمهيدية بنية الشجرة على اكتشاف الانقسامات ذات المغزى دون أي تسميات مقدمة من الإنسان.
بعد المرحلة التمهيدية، يتم تعيين تسميات زائفة عالية الثقة للعناصر غير المسماة باستخدام التمثيلات أو تعيينات المجموعة التي تم تعلمها بالفعل. تُعامل هذه التسميات الزائفة كأهداف ناعمة في التدريب اللاحق، مما يوسع بشكل فعال مجموعة البيانات المسماة من مجموعة بذرة صغيرة إلى مجموعة عمل أكبر بكثير مع نشر تقديرات عدم اليقين الهيكلي إلى جانب كل تسمية.
باستخدام الإشارة المدمجة من التسميات الزائفة وأي تسميات حقيقية متاحة، يتم نمو شجرة القرار باستخدام خوارزمية تقسيم قياسية (مثل CART أو ID3 أو C4.5). يمكن أن تعمل الميزات المشتقة من المهمة التمهيدية أو درجات المجموعة كأبعاد إدخال إضافية، مما يثري مساحة الميزات بما يتجاوز المدخلات الأولية ويسمح بالانقسامات التي قد تفوتها شجرة خاضعة للإشراف بالكامل على تسميات متفرقة.
يتم اختيار انقسامات العقد لزيادة معيار المعلومات - كسب المعلومات، أو عدم نقاء Gini، أو هدف التباين الذاتي الإشراف - الذي يتم تقييمه على مجموعة التدريب الموسعة. نظرًا لأن التسميات الزائفة تعكس الهيكل العالمي الذي تم تعلمه من العديد من العينات غير المسماة، فإن الانقسامات تميل إلى التعميم بشكل أفضل من تلك التي تم تعلمها من مجموعة مسماة صغيرة وحدها.
بعد نمو الشجرة الأولية، تقوم مرحلة الضبط الدقيق بإعادة تقليم أو إعادة وزن تنبؤات الأوراق باستخدام أمثلة مسماة تم التحقق منها فقط. هذا يصحح أي ضوضاء في التسميات الزائفة تم إدخالها في المراحل السابقة ويضمن أن التنبؤات النهائية تتماشى مع حدود الفئة الحقيقية بدلاً من حدود التسميات الزائفة التقريبية.
الأخطاء الشائعة
- تصميم مهمة تمهيدية غير مرتبطة بالهدف النهائي، مما يؤدي إلى تمثيلات لا تنتقل.
- استخدام التسميات الزائفة دون عتبة الثقة، مما يغرق مجموعة التدريب بأمثلة صاخبة.
- تخطي مرحلة الضبط الدقيق ونشر الشجرة المدربة بالتسميات الزائفة مباشرة، مما يحتفظ بأخطاء وضع العلامات المنهجية.
- تجاهل التحول التوزيعي بين مجموعات البيانات المسماة وغير المسماة - ستعكس التسميات الزائفة بنية البيانات الخاطئة.
- معاملة قابلية التفسير على أنها مضمونة دون التحقق من أن الانقسامات المشتقة من التسميات الزائفة تظل ذات مغزى دلالي.
الأسئلة الشائعة
كيف يختلف هذا عن التعلم شبه الإشرافي مع أشجار القرار؟
عادةً ما تنشر الأساليب شبه الإشرافية التسميات من العقد المسماة إلى العقد غير المسماة مباشرة. تحدد أشجار القرار ذاتية الإشراف أولاً مهمة تمهيدية تولد إشارات إشرافية اصطناعية من البيانات غير المسماة وحدها، مما يمنح الشجرة توجيهًا هيكليًا أغنى قبل رؤية أي تسميات لاحقة.
ما هي المهمة التمهيدية التي يجب أن أختارها؟
أفضل مهمة تمهيدية تعكس الهدف النهائي. بالنسبة لتصنيف البيانات الجدولية، يعد التنبؤ بتجميعات k-means أو إعادة بناء الميزات المقنعة نقطتي انطلاق شائعتين. إذا كانت معرفة المجال متاحة - على سبيل المثال، الترتيب الزمني في صفوف السلاسل الزمنية - فإن المهمة التي تستغل هذا الهيكل ستنتقل بشكل أفضل.
هل يعمل هذا لأهداف الانحدار؟
نعم. يمكن أن تكون التسميات الزائفة عبارة عن مراكز تجميع مستمرة أو قيم ميزات معاد بناؤها، ويمكن نمو الشجرة باستخدام معيار متوسط مربع الخطأ في مرحلة الضبط الدقيق. تحتاج المهمة التمهيدية ببساطة إلى إنتاج إشارة مرتبطة بالنتيجة المستمرة.
هل يمكنني دمج هذا مع الغابات العشوائية أو التعزيز؟
نعم. يمكن نمو كل شجرة في التجميع بشكل مستقل باستخدام الإجراء الذاتي الإشراف، ويقوم التجميع النهائي بتجميع أصواتها أو تنبؤاتها بالطريقة المعتادة. هذا غالبًا ما يستعيد جزءًا كبيرًا من فجوة الدقة مقارنة بتعزيز التدرج مع الحفاظ على قابلية التفسير على مستوى الشجرة الفردية.
كيف أقوم بتقييم جودة التسميات الزائفة؟
قارن دقة التسميات الزائفة على المجموعة الفرعية المسماة الصغيرة مقابل التسميات الحقيقية قبل الضبط الدقيق. تعد دقة التسميات الزائفة أقل من 70٪ على مجموعة البيانات المسماة المحجوزة هذه علامة تحذير على أن المهمة التمهيدية غير متوافقة بشكل جيد أو أن هناك تحولًا في التوزيع.
طرق ذات صلة
المصادر
Self-supervised learning. Wikipedia.
افتح مرجع المنشورتم النسخ.Decision tree learning. Wikipedia.
افتح مرجع المنشورتم النسخ.