الغابة العشوائية المتصلة بالإنترنت
- قدّمه
- Saffari, A. et al.
- السنة
- 2009
- النوع
- Incremental ensemble (streaming decision trees)
- العائلة
- Machine learning
هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية
ماذا تفعل؟
تُوسِّع الغابة العشوائية المتصلة بالإنترنت (ORF) مفهوم الغابة العشوائية التقليدية ليشمل البيئات المتدفقة، حيث تُحدَّث كل شجرة تدريجياً مع وصول ملاحظات جديدة دون تخزين أو إعادة تشغيل مجموعة التدريب الكاملة. وتُضيف خوارزميات مثل الغابات العشوائية التكيفية (ARF) ميزة اكتشاف الانجراف، بحيث تتكيف المجموعة عندما يتغير توزيع البيانات بمرور الوقت.
الفكرة الحدسية وراء الطريقة
تتطلب الغابة العشوائية التقليدية مجموعة البيانات بأكملها مقدماً لبناء أشجارها. تستبدل الغابة العشوائية المتصلة بالإنترنت أخذ العينات العشوائية الدفعية بتقنية التجميع عبر الإنترنت الموزون بواسون: تُمرَّر كل ملاحظة واردة إلى كل شجرة، والتي تقرر — عن طريق سحب عدد بواسون — عدد المرات التي ستعامل فيها هذا المثال كنقطة تدريب جديدة. تنمو الأشجار تدريجياً باستخدام معايير اكتشاف الانقسام عبر الإنترنت (مثل حدود هوفدينغ)، وتراقب وحدة اكتشاف الانجراف انجراف المفهوم، مستبدلة الأشجار القديمة بأخرى جديدة. والنتيجة هي غابة تتعلم باستمرار من تيار البيانات مع الاستمرار في دمج أشجار متنوعة متعددة لتقليل التباين.
التاريخ
تم إضفاء الطابع الرسمي على التجميع عبر الإنترنت بواسطة Oza & Russell (2001) كتقريب موزون بواسون لتجميع التمهيد. قدم Saffari et al. (2009) الغابات العشوائية المتصلة بالإنترنت التي تجمع بين التجميع عبر الإنترنت واختيار الميزات العشوائي ومعايير الانقسام القائمة على هوفدينغ لتدفقات رؤية الكمبيوتر. قدم Gomes et al. (2017) الغابات العشوائية التكيفية (ARF)، مضيفين اكتشاف الانجراف لكل شجرة عبر ADWIN، وأظهروا دقة متطورة في مهام تصنيف تدفق البيانات المعيارية. أصبحت ARF خط أساس قياسي في إطار عمل MOA (التحليل الشامل عبر الإنترنت).
متى تُستخدم
استخدم الغابة العشوائية المتصلة بالإنترنت عندما تصل البيانات باستمرار أو على دفعات كبيرة لا يمكن الاحتفاظ بها في الذاكرة، أو عندما يكون انجراف المفهوم محتملاً (مثل التدفقات المالية، شبكات الاستشعار، سجلات سلوك المستخدم)، أو عندما تكون هناك حاجة لتنبؤات بزمن استجابة منخفض قبل توفر مجموعة البيانات الكاملة. كما أنها مناسبة بشكل طبيعي للتطبيقات التي تتدفق فيها البيانات المصنفة بمرور الوقت. تجنبها عندما تتناسب مجموعة البيانات الكاملة بشكل مريح في الذاكرة ويكون إعادة التدريب ميسور التكلفة — في هذه الحالة، ستكون الغابة العشوائية القياسية المدربة دون اتصال بالإنترنت أكثر دقة وأبسط في التحقق من الصحة. تجنبها أيضاً عندما تحتاج إلى تصنيفات مستقرة وقابلة للتكرار لأهمية الميزات، حيث تنتج الغابات المتصلة بالإنترنت تقديرات أهمية أقل استقراراً من نظيراتها الدفعية.
الحدود والاعتبارات
- قد تكون قرارات الانقسام المتخذة مبكراً ببيانات متفرقة دون المستوى الأمثل ويصعب مراجعتها.
- تقديرات أهمية الميزة أقل استقراراً مما هي عليه في الغابة العشوائية الدفعية.
- ضبط المعلمات الفائقة (عدد الأشجار، عتبات اكتشاف الانجراف) أكثر تعقيداً في سياق التدفق.
- يتطلب التقييم بروتوكولات مخصصة قائمة على التدفق (التقييم التتابعي/الاختبار ثم التدريب) تختلف عن التحقق المتقاطع القياسي.
لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.
نقاط القوة
- تتعلم من البيانات المتدفقة بذاكرة ثابتة لكل شجرة، مستقلة عن طول التدفق.
- تتكيف مع انجراف المفهوم عند إقرانها بآليات اكتشاف الانجراف مثل ADWIN.
- ترث فوائد تقليل التباين لتجميع المجموعات حتى في بيئة متصلة بالإنترنت.
- توفر تنبؤات قابلة للاستخدام من الملاحظات القليلة الأولى، وتتحسن بمرور الوقت.
- لا حاجة لتخزين أو إعادة تشغيل مجموعة البيانات التاريخية الكاملة.
التطبيقات
- اكتشاف الاحتيال والتسلل في الوقت الفعلي على تدفقات الشبكة أو المعاملات.
- الصيانة التنبؤية من تدفقات المستشعرات حيث تتغير التوزيعات مع تقدم عمر المعدات.
- توقع معدل النقر في الإعلانات حيث يتطور سلوك المستخدم يومياً.
- المراقبة الطبية حيث تتغير حالة المريض باستمرار بمرور الوقت.
- الاستشعار البيئي والمناخي بأنماط موسمية غير ثابتة.
كيف يعمل
كيف يعمل
تُهيَّأ مجموعة من T شجرة (أو أشجار هوفدينغ). تحتفظ كل شجرة بإحصائيات كافية لكل ورقة — عدد الفئات أو مجموع المربعات للانحدار — بدلاً من تخزين الملاحظات الخام، مما يجعل النموذج ثابت الذاكرة لكل شجرة.
لكل ملاحظة واردة، تسحب كل شجرة بشكل مستقل k من توزيع بواسون (1) وتعامل الملاحظة على أنها k تكرار افتراضي لنفسها. عندما يكون k = 0، تتخطى الشجرة النقطة (تعمل كعينتها خارج الحقيبة). هذا يقارب أخذ العينات العشوائية دون الحاجة إلى مجموعة البيانات الكاملة.
الصيغة
k \sim \text{Poisson}(\lambda),\; \lambda=1تُحدِّث كل شجرة الإحصائيات الكافية في ورقتها النشطة. يُشغَّل الانقسام عندما يشير معيار سليم إحصائياً (مثل حد هوفدينغ) إلى أن أفضل انقسام من غير المرجح أن يتغير مع المزيد من البيانات، وبعد ذلك تُوسَّع الورقة إلى عقدة داخلية وتُهيَّأ أوراق جديدة.
تراقب وحدة اختيارية لاكتشاف الانجراف (مثل ADWIN) خطأ التنبؤ لكل شجرة على تيار خارج الحقيبة. عندما يُكتشف تدهور ذو دلالة إحصائية، تُعاد تهيئة الشجرة المتأثرة أو تُستبدل بشجرة جديدة مُهيَّأة، مما يحافظ على تحديث المجموعة مع التوزيعات المتطورة.
في أي نقطة، تصوت جميع الأشجار النشطة: تصويت الأغلبية للتصنيف أو متوسط التنبؤ للانحدار. قد تُقلَّل أوزان الأشجار التي عالجت عدداً قليلاً جداً من الأمثلة أو تُستبعد حتى تجمع بيانات كافية لإعطاء أصوات موثوقة.
الصيغة
\hat{y} = \text{mode/mean of active trees}الأخطاء الشائعة
- التقييم باستخدام التحقق المتقاطع القياسي k-fold، والذي يفترض بيانات مستقلة ومتطابقة التوزيع ويتجاهل الترتيب الزمني.
- تجاهل انجراف المفهوم: الفشل في تضمين مكون اكتشاف الانجراف عندما يتغير توزيع البيانات بمرور الوقت.
- مقارنة دقة الغابة المتصلة بالإنترنت مباشرة بغابة عشوائية دفعية مدربة على مجموعة البيانات التاريخية الكاملة — للأخيرة ميزة معلوماتية متأصلة.
- استخدام عدد قليل جداً من الأشجار في وقت مبكر من التدفق قبل أن ترى كل شجرة بيانات كافية لإجراء انقسامات موثوقة.
- نسيان أن التجميع الموزون بواسون يقارب التمهيد — فهو لا يعيد إنتاج الخصائص الإحصائية للتمهيد الدفعي بدقة.
الأسئلة الشائعة
كيف تختلف الغابة العشوائية المتصلة بالإنترنت عن الغابة العشوائية القياسية؟
تدرب الغابة العشوائية القياسية جميع الأشجار دفعة واحدة على مجموعة البيانات الكاملة باستخدام أخذ العينات العشوائية. تستبدل الغابة العشوائية المتصلة بالإنترنت التمهيد الدفعي بالتجميع عبر الإنترنت الموزون بواسون، وتحدث انقسامات الشجرة تدريجياً مع وصول كل ملاحظة، وتكتشف وتتكيف اختيارياً مع انجراف المفهوم — كل ذلك دون تخزين البيانات السابقة.
ما هي خدعة ترجيح بواسون؟
يُعرض كل مثال وارد على كل شجرة k مرة، حيث يُسحب k من توزيع بواسون (1). نظراً لأن القيمة المتوقعة لـ k هي 1، و k = 0 باحتمالية ~37%، فإن هذا يقارب إحصائياً عملية التمهيد (أخذ العينات مع الإرجاع) دون الحاجة إلى مجموعة البيانات الكاملة في الذاكرة.
كيف ينبغي لي تقييم غابة عشوائية متصلة بالإنترنت؟
استخدم بروتوكول التقييم التتابعي (الاختبار ثم التدريب): لكل ملاحظة واردة، قم أولاً بالتنبؤ باستخدام النموذج الحالي، سجل الخطأ، ثم حدث النموذج. يعطي هذا تقديراً غير متحيز ومرتب زمنياً للأداء التنبؤي دون تسرب البيانات.
متى يجب أن أضيف اكتشاف الانجراف؟
كلما كان من المحتمل أن تتغير عملية توليد البيانات بمرور الوقت — على سبيل المثال، تفضيلات المستخدم، الأسواق المالية، أو الأنظمة الميكانيكية التي تتآكل. بدون اكتشاف الانجراف، تتراكم الأشجار القديمة وتقلل من دقة المجموعة. ADWIN هو خيار شائع ومُختبر جيداً.
هل الغابة العشوائية التكيفية هي نفس الشيء؟
ARF هو البديل الأكثر اعتماداً للغابة العشوائية المتصلة بالإنترنت. يجمع بين التجميع عبر الإنترنت، واختيار الميزات العشوائي، واكتشاف الانجراف لكل شجرة باستخدام ADWIN، وهو متاح في مكتبات MOA و scikit-multiflow/River. يشير مصطلح 'الغابة العشوائية المتصلة بالإنترنت' غالباً بشكل عام إلى العائلة؛ ARF هو تطبيق محدد وموصى به للغاية.
طرق ذات صلة
المصادر
Saffari, A., Leistner, C., Santner, J., Godec, M., & Bischof, H. (2009). On-line random forests. In Proceedings of the 3rd IEEE International Workshop on On-Line Learning for Computer Vision (OLCV 2009), pp. 1–8. IEEE.
افتح مرجع المنشورتم النسخ.Gomes, H. M., Bifet, A., Read, J., Barddal, J. P., Enembreck, F., Pfharinger, B., Holmes, G., & Abdessalem, T. (2017). Adaptive random forests for evolving data stream classification. Machine Learning, 106(9), 1469–1495.
افتح مرجع DOIتم النسخ.