الانتقال إلى المحتوى
العودة إلى نتائج البحث

التعلم النشط لآلة المتجهات الداعمة أحادية الفئة

قدّمه
Schölkopf et al. (OCSVM); active variant developed in the anomaly-detection literature (2000s–2010s)
السنة
2000s
النوع
Semi-supervised anomaly/novelty detection with iterative labeling
العائلة
Machine learning

هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية

حجم الخط

ماذا تفعل؟

يجمع التعلم النشط لآلة المتجهات الداعمة أحادية الفئة (OCSVM) بين آلة المتجهات الداعمة أحادية الفئة - وهي كاشف حداثة قائم على النواة يتعلم حدود البيانات الطبيعية - وحلقة تعلم نشط تحدد الحالات غير المسماة الأكثر إفادة للتعليق الخبير. والنتيجة هي كاشف شذوذ فعال من حيث البيانات يحسن حد قراره بأقل جهد تسمية.

الفكرة الحدسية وراء الطريقة

ترسم آلة المتجهات الداعمة أحادية الفئة القياسية حدًا ضيقًا حول المنطقة الطبيعية المعروفة لمساحة الميزات. تكمن الصعوبة في أن جودة الحد تعتمد بشكل كبير على الأمثلة المسماة. يعمل التعلم النشط على إصلاح هذا عن طريق مطالبة مصدر موثوق بتسمية الأمثلة التي تقع بالقرب من حدود القرار الحالية، أو خارجها بقليل - وهي النقاط التي يكون النموذج غير متأكد منها. من خلال الاستعلام بشكل استراتيجي بدلاً من عشوائي، يحصل النموذج على مجموعة تدريب أكثر إفادة مع عدد أقل بكثير من الأمثلة المسماة، مما يوفر تكلفة التعليق مع شحذ الحدود بين الطبيعي والشاذ.

التاريخ

تم تقديم آلة المتجهات الداعمة أحادية الفئة بواسطة Schölkopf وزملائه في عام 1999-2001 كطريقة نواة مبدئية لتقدير دعم التوزيع، وسرعان ما أصبحت خوارزمية مرجعية للكشف عن الحداثة والشذوذ. تم إضفاء الطابع الرسمي على نموذج التعلم النشط - الاستعلام المنهجي لمصدر موثوق لتسميات مفيدة - في المسح الذي أجراه Settles (2009). دمج الباحثون في العقدين الأول والثاني من القرن الحادي والعشرين الفكرتين، وتطبيق استراتيجيات الاستعلام القائمة على عدم اليقين والهامش على OCSVM في مجالات مثل اكتشاف التسلل، وتشخيص الأعطال، والفحص الطبي، حيث تكون الشذوذات المسماة نادرة بطبيعتها.

متى تُستخدم

استخدمه عندما يجب اكتشاف الشذوذ أو الحداثة ولكن الأمثلة المسماة باهظة الثمن، أو نادرة، أو غير متوفرة في البداية - وهو أمر شائع في اكتشاف الاحتيال، ومراقبة أعطال المعدات، واكتشاف تسلل الأمن السيبراني، وفحص الأمراض النادرة الطبية. هذه الطريقة مناسبة عندما تكون هناك كمية معقولة من البيانات الطبيعية غير المسماة إلى جانب مجموعة صغيرة من الحالات الطبيعية المؤكدة، وعندما يمكن لمصدر موثوق (خبير بشري أو اختبار آلي) تسمية النقاط المستعلمة. تجنب استخدامه عندما يكون معدل الشذوذ منخفضًا جدًا لدرجة أن الاستعلامات النشطة نادرًا ما تصيب الشذوذ، أو عندما تكون مساحة الميزات عالية الأبعاد للغاية بدون تعيين نواة ذي معنى، أو عندما تكون هناك حاجة إلى خط أنابيب مؤتمت بالكامل بدون تدخل بشري.

الحدود والاعتبارات

  • يعتمد الأداء على اختيار النواة والمعامل الفائق nu؛ يمكن أن تؤدي القيم الافتراضية السيئة إلى حد ضيق جدًا أو فضفاض جدًا.
  • قابلية التوسع محدودة: تنمو تكلفة تدريب OCSVM بشكل تربيعي تقريبًا مع عدد المتجهات الداعمة، مما يجعله بطيئًا على مجموعات البيانات الكبيرة.
  • إذا لم تكن البذرة الأولية المسماة ممثلة للمنطقة الطبيعية الحقيقية، فقد تؤدي الاستعلامات المبكرة إلى تضليل النموذج.
  • يفترض التعلم النشط توفر وموثوقية المصدر الموثوق؛ يؤدي التسمية الصاخبة أو غير المتسقة إلى تدهور الحد.

لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.

نقاط القوة

  • يقلل بشكل كبير من عدد تسميات الخبراء المطلوبة لبناء كاشف شذوذ فعال.
  • يتعامل مع البيانات عالية الأبعاد بشكل جيد من خلال تعيينات النواة، وخاصة نواة RBF.
  • لا يتطلب أمثلة شذوذ عند التهيئة - فهو يبدأ بالبيانات الطبيعية فقط.
  • تركز استراتيجية الاستعلام النشط جهود التعليق على المنطقة الأكثر صلة بالقرار في المساحة.
  • حد OCSVM قوي ضد القيم المتطرفة في مجموعة التدريب عبر المعامل الفائق nu.

التطبيقات

  • اكتشاف شذوذ الشبكة والأمن السيبراني مع تسميات هجوم محدودة.
  • مراقبة أعطال المعدات الصناعية باستخدام تدفقات المستشعرات مع أحداث فشل متفرقة.
  • اكتشاف الاحتيال في المعاملات المالية حيث تكون حالات الاحتيال المؤكدة نادرة ومكلفة للتسمية.
  • فحص الأمراض النادرة الطبية أو الأحداث النادرة حيث يكون وقت التعليق الخبير قيدًا ملزمًا.
  • اكتشاف حداثة الصور أو النصوص عندما تكون مجموعة من الأمثلة الطبيعية متاحة فقط في البداية.

كيف يعمل

كيف يعمل

1

يتم تدريب آلة متجهات داعمة أحادية الفئة أولية على مجموعة صغيرة من الأمثلة الطبيعية المسماة المتاحة في البداية. يتم تعيين النواة (عادةً RBF) والمعامل الفائق nu - الذي يتحكم في نسبة نقاط التدريب خارج الحد - قبل بدء التكرار.

2

تقوم استراتيجية التعلم النشط بتسجيل كل حالة غير مسماة بناءً على مسافتها إلى حد قرار OCSVM. النقاط الأقرب إلى الحد هي الأكثر غموضًا؛ يتم ترتيبها ويتم اختيار أفضل المرشحين كاستعلامات للمصدر الموثوق. تشمل الاستراتيجيات الشائعة أخذ عينات الهامش والمتغيرات الموزونة بالكثافة.

3

يقوم خبير المجال (أو بديل منخفض التكلفة مثل منصة التعهيد الجماعي) بتعيين تسمية - طبيعية أو شاذة - لكل حالة مستعلمة. هذه الخطوة هي عنق الزجاجة، لذا فإن كفاءة اختيار الاستعلام تحدد التكلفة الإجمالية.

4

تتم إضافة الحالات المسماة حديثًا إلى مجموعة التدريب ويتم إعادة تدريب آلة المتجهات الداعمة أحادية الفئة. إذا كانت تسميات الشذوذ متاحة، يمكن دمجها من خلال تحسين حدود ثنائية الفئة؛ إذا تمت إضافة تسميات طبيعية فقط، يضيق الحد حول البيانات الطبيعية المؤكدة.

5

يتكرر هذا المسار حتى يتم استنفاد الميزانية (الحد الأقصى لعدد الاستعلامات)، أو يستقر الأداء على مجموعة تحقق، أو ينخفض ​​تغيير الحد بين التكرارات عن عتبة معينة. يتم نشر OCSVM النهائي لتسجيل الإنتاج.

الأخطاء الشائعة

  • ضبط nu على مجموعة التدريب دون مجموعة تحقق منفصلة، مما يؤدي إلى حد متفائل بشكل مفرط.
  • اختيار الاستعلامات فقط عن طريق الهامش دون مراعاة الكثافة، مما يتسبب في قيام النموذج بالاستعلام عن نقاط في مناطق متفرقة وغير ممثلة.
  • معاملة جميع البيانات غير المسماة على أنها طبيعية أثناء التهيئة دون التحقق من التلوث.
  • إيقاف الحلقة بعد عدد قليل جدًا من الاستعلامات والإبلاغ عن الأداء على مجموعة تحقق صغيرة كما لو كانت مستقرة.
  • استخدام نواة خطية على بيانات يكون فيها النطاق الطبيعي غير محدب - يجب أن تتطابق النواة مع هندسة الفئة الطبيعية.

الأسئلة الشائعة

ما الفرق بين هذه الطريقة وآلة المتجهات الداعمة أحادية الفئة القياسية؟

تقوم آلة المتجهات الداعمة أحادية الفئة القياسية بالتدريب مرة واحدة على جميع البيانات المسماة المتاحة. يكرر متغير التعلم النشط: يتدرب على بذرة صغيرة، ويستعلم عن النقاط غير المسماة الأكثر إفادة، ويجمع التسميات، ويعيد التدريب. هذا يجعل الحد أكثر دقة مع عدد أقل بكثير من الأمثلة المسماة.

كم عدد الأمثلة المسماة التي أحتاجها للبدء؟

حتى عدد قليل من الأمثلة الطبيعية المؤكدة (حوالي 10-50) يمكن أن تكون بذرة لـ OCSVM الأول. ثم تنمو حلقة التعلم النشط المجموعة المسماة بشكل استراتيجي. البدء بعدد قليل جدًا من الأمثلة يخاطر بحد أولي غير مستقر يوجه الاستعلامات المبكرة بشكل خاطئ.

ما استراتيجية الاستعلام التي يجب أن أستخدمها؟

أخذ عينات الهامش - الاستعلام عن الحالات الأقرب إلى حد قرار OCSVM الحالي - هو الخيار الأكثر شيوعًا. تميل المتغيرات الموزونة بالكثافة التي تفضل أيضًا النقاط في المناطق الكثيفة لمساحة الإدخال إلى التفوق على أخذ عينات الهامش البحتة عندما تحتوي البيانات على بنية تكتلية.

كيف أقوم بتقييم الأداء عندما تكون تسميات الشذوذ نادرة؟

استخدم المساحة تحت منحنى ROC (AUC-ROC) أو المساحة تحت منحنى الدقة والاستدعاء (AUC-PR) على مجموعة تحقق منفصلة تتضمن شذوذات مؤكدة. الدقة مضللة عندما تكون الشذوذات نادرة. إذا لم تكن هناك تسميات شذوذ على الإطلاق، فاستخدم الفحص البصري للحد في إسقاط منخفض الأبعاد.

متى يجب أن أتحول إلى كاشف شذوذ مختلف؟

إذا كانت مجموعة البيانات تحتوي على أكثر من بضعة آلاف من الحالات، فإن كاشفات Isolation Forest أو Autoencoder تتوسع بشكل أفضل. إذا كان لديك ما يكفي من الشذوذات المسماة للتدريب الخاضع للإشراف، فإن آلة متجهات داعمة ثنائية قياسية أو مصنف معزز بالتدرج سيؤدي بشكل عام إلى أداء أفضل من OCSVM.

طرق ذات صلة

المصادر

  1. Schölkopf, B., Platt, J. C., Shawe-Taylor, J., Smola, A. J., & Williamson, R. C. (1999). Estimating the Support of a High-Dimensional Distribution. Neural Computation, 13(7), 1443–1471.

    افتح مرجع DOI
    تم النسخ.
  2. Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    افتح مرجع المنشور
    تم النسخ.