الانتقال إلى المحتوى
العودة إلى نتائج البحث

آلة المتجهات الداعمة أحادية الفئة شبه المُشرف عليها

قدّمه
Extension of Scholkopf et al. (2001); semi-supervised variants studied ca. 2004–2010
السنة
2001–2004
النوع
Semi-supervised anomaly / novelty detection
العائلة
Machine learning

هذا النص ترجمة آلية ولم تتم مراجعته بعد. اقرأ النص الأصلي بالإنجليزية

حجم الخط

ماذا تفعل؟

تُوسّع آلة المتجهات الداعمة أحادية الفئة (One-class SVM) الكلاسيكية للكشف عن الشذوذ عن طريق دمج ملاحظات غير مُصنّفة إلى جانب مجموعة صغيرة من الأمثلة الطبيعية المعروفة. تساعد البيانات غير المُصنّفة النموذج على تعلم حدود قرار أكثر إحكامًا وغنى بالمعلومات في فضاء الميزات، مما يقلل من الإيجابيات الخاطئة ويحسن استدعاء الشذوذ مقارنةً بالأساس غير المُشرف عليه بالكامل.

الفكرة الحدسية وراء الطريقة

ترسم آلة المتجهات الداعمة أحادية الفئة القياسية حدًا حول البيانات الطبيعية المُصنّفة في فضاء ميزات مُحوّل بالنواة (kernel-transformed feature space) وتُصنّف كل ما هو خارج هذا الحد على أنه شاذ. تكمن المشكلة في أنه مع قلة الأمثلة المُصنّفة، يكون الحد فضفاضًا ومشوشًا. تستغل آلة المتجهات الداعمة أحادية الفئة شبه المُشرف عليها مجموعة من الأمثلة غير المُصنّفة - معظمها على الأرجح طبيعي - لسحب هذا الحد إلى الداخل نحو المناطق الأكثر كثافة. فكر في الأمر على أنه تعليم النموذج أين يكمن 'الطبيعي' حقًا من خلال إظهار المزيد من الأمثلة له، حتى عندما تفتقر هذه الأمثلة إلى تسميات فئة مؤكدة. والنتيجة هي حد شذوذ أكثر إحكامًا وموثوقية بتكلفة تصنيف منخفضة.

التاريخ

تم تقديم آلة المتجهات الداعمة أحادية الفئة بواسطة Scholkopf وآخرون في عام 2001 كطريقة لتقدير دعم توزيع عالي الأبعاد، وسرعان ما أصبحت معيارًا للكشف عن الحداثة والشذوذ. أدرك الباحثون في منتصف العقد الأول من القرن الحادي والعشرين أن حتى بذرة مُصنّفة طبيعية صغيرة يمكن أن تُحكم الحد بشكل كبير، وتم اقتراح العديد من التوسعات شبه المُشرف عليها، مستفيدة من العمل المعاصر في آلات المتجهات الداعمة التحويلية ونشر التسميات. لا يزال النهج قيد الدراسة بنشاط في المجالات التي يكون فيها تصنيف الحالات الشاذة مكلفًا للغاية.

متى تُستخدم

اختر آلة المتجهات الداعمة أحادية الفئة شبه المُشرف عليها عندما تكون الحالات الشاذة نادرة، وتصنيف جميع البيانات مكلف للغاية، ولكن تتوفر بذرة طبيعية مؤكدة صغيرة - على سبيل المثال، الكشف عن اختراق الشبكة، أو مراقبة جودة الصور الطبية، أو فحص عيوب التصنيع. يتفوق على آلة المتجهات الداعمة أحادية الفئة غير المُشرف عليها عندما تكون البذرة المُصنّفة نظيفة والمجموعة غير المُصنّفة كبيرة وتمثل السلوك الطبيعي. لا تستخدمه عندما تكون البذرة المُصنّفة مشوشة أو متحيزة، وعندما يكون معدل الشذوذ في المجموعة غير المُصنّفة مرتفعًا (أكثر من حوالي 10-20٪)، وعندما يكون لديك العديد من الأمثلة الشاذة المؤكدة (آلة المتجهات الداعمة المُشرف عليها أو طرق التجميع أفضل)، أو عندما تتطلب التفسيرية والمعاملات الصريحة من المراجعين.

الحدود والاعتبارات

  • يتدهور الأداء بشكل حاد إذا كانت البذرة المُصنّفة صغيرة أو مشوشة أو غير ممثلة للسلوك الطبيعي الحقيقي.
  • تسبب معدلات التلوث العالية في المجموعة غير المُصنّفة انجراف التسمية الزائفة وفساد الحد.
  • البرمجة التربيعية لا تتوسع بشكل جيد: تعاني مُحللات آلة المتجهات الداعمة القياسية فوق عشرات الآلاف من الملاحظات.
  • يتطلب ضبط دقيق للنواة والمعلمة nu؛ نادرًا ما تنتج القيم الافتراضية حدودًا مثالية.
  • تضيف التسمية الزائفة التكرارية تعقيدًا في التنفيذ وتتطلب معايير إيقاف مبدئية.

لا تغني شروط المصدر عن المراجعة العلمية المستقلة أو التحقق بواسطة محرك تحليل.

نقاط القوة

  • يستفيد من البيانات غير المُصنّفة الوفيرة لتحسين جودة الحد دون الحاجة إلى تصنيف كامل مكلف.
  • يرث مرونة النواة لآلة المتجهات الداعمة أحادية الفئة القياسية، ويلتقط التشعبات غير الخطية للبيانات الطبيعية.
  • نتائج شذوذ مُعايرة بشكل أفضل من آلة المتجهات الداعمة أحادية الفئة غير المُشرف عليها بالكامل عندما تكون هناك بذرة مُصنّفة نظيفة.
  • يعمل بشكل جيد في فضاءات الميزات عالية الأبعاد حيث تشكل البيانات الطبيعية مجموعات مدمجة.
  • يوفر حجم نتيجة الشذوذ ترتيب ثقة طبيعيًا للفحص وتحديد الأولويات.

التطبيقات

  • الكشف عن اختراق الشبكة والهجمات السيبرانية باستخدام حركة مرور طبيعية مُصنّفة بالإضافة إلى سجلات تشغيل غير مُصنّفة.
  • مراقبة جودة الصور الطبية حيث تتوفر مسح جيد مؤكد ولكن الحالات الشاذة نادرة.
  • الكشف عن الأعطال الصناعية باستخدام قراءات أجهزة الاستشعار في ظروف التشغيل الطبيعية كبذرة مُصنّفة.
  • الكشف عن الاحتيال في المعاملات المالية عندما تكون الأمثلة غير الاحتيالية فقط مؤكدة.
  • تصفية النصوص أو المستندات الشاذة باستخدام مجموعات مستندات نظيفة معروفة لتثبيت الحد.

كيف يعمل

كيف يعمل

1

قسّم بيانات التدريب إلى مجموعة مُصنّفة صغيرة من الحالات الطبيعية المؤكدة ومجموعة غير مُصنّفة أكبر بكثير. تتكون المجموعة غير المُصنّفة عادةً من بيانات تشغيل حقيقية من المجال المستهدف لم يتم التحقق منها يدويًا. جودة البذرة المُصنّفة تؤثر بشكل كبير على الأداء النهائي.

2

قم بتعيين جميع الملاحظات إلى فضاء هيلبرت عالي الأبعاد مُنتِج للنواة (reproducing kernel Hilbert space) باستخدام دالة نواة - الأكثر شيوعًا هي نواة RBF. في هذا الفضاء، تصبح مجموعات البيانات الطبيعية مدمجة وقابلة للفصل عن الأصل، وهي الحيلة الهندسية التي تدعم آلة المتجهات الداعمة أحادية الفئة.

الصيغة
\phi: \mathcal{X} \rightarrow \mathcal{F}
3

قم بتدريب نموذج أولي لآلة المتجهات الداعمة أحادية الفئة باستخدام أمثلة البيانات الطبيعية المُصنّفة فقط. ينتج عن هذا مستوى أولي مُعرّف بواسطة متجه الوزن w، وعتبة rho، ومتغيرات التراخي xi، ويتم التحكم فيه بواسطة المعلمة nu التي تحد من نسبة أخطاء التدريب.

الصيغة
\min_{w,\xi,\rho} \frac{1}{2}\|w\|^2 + \frac{1}{\nu n}\sum_i \xi_i - \rho
4

قم بتطبيق النموذج الأولي على المجموعة غير المُصنّفة وتعيين تسميات زائفة ناعمة أو صلبة: تُضاف الحالات التي تم تصنيفها على أنها طبيعية مؤقتًا إلى المجموعة الطبيعية؛ قد يتم تجاهل الحالات التي تم تسجيلها كشاذة أو تقليل وزنها. يمكن تحسين موثوقية التسميات الزائفة باستخدام عتبات الثقة أو نشر التسميات عبر رسم بياني للتشابه.

5

أعد تدريب آلة المتجهات الداعمة أحادية الفئة على المجموعة المُصنّفة الموسعة (التسميات الأصلية بالإضافة إلى التسميات الزائفة المقبولة). كرر حلقة التسمية الزائفة وإعادة التدريب لعدد ثابت من التكرارات أو حتى يستقر الحد. يمنع الإيقاف المبكر الانجراف الناتج عن أخطاء التسمية الزائفة المتتالية.

6

عند الاستدلال، قم بتعيين كل ملاحظة جديدة عبر نفس النواة وقم بتقييم دالة القرار f(x). تُصنّف الحالات التي يكون فيها f(x) < 0 على أنها شاذة؛ يعكس حجم النتيجة المسافة من الحد الطبيعي ويمكن أن يعمل كترتيب ثقة للشذوذ.

الصيغة
f(x) = \text{sign}(w^\top \phi(x) - \rho)

الأخطاء الشائعة

  • استخدام بذرة مُصنّفة مأخوذة من توزيع مختلف عن المجموعة غير المُصنّفة، مما يسبب أخطاء منهجية في التسمية الزائفة.
  • تعيين معلمة التلوث nu دون تقدير معدل الشذوذ الحقيقي، مما يؤدي إلى الكشف المفرط أو الناقص.
  • الثقة في التسميات الزائفة بشكل غير مشروط بدلاً من تطبيق عتبات الثقة أو الترجيح الناعم.
  • تخطي التقييم على مجموعة شذوذ مُصنّفة محفوظة والاعتماد فقط على مقاييس التجميع غير المُشرف عليها.
  • الخلط بين هذه الطريقة وآلة المتجهات الداعمة التحويلية (S3VM)، التي تحل مشكلة مختلفة من التصنيف شبه المُشرف عليه بدلاً من الكشف أحادي الفئة.

الأسئلة الشائعة

ما هو حجم البذرة المُصنّفة المطلوبة؟

في الممارسة العملية، حتى بضع عشرات من الأمثلة الطبيعية المؤكدة يمكن أن تبدأ حدًا مفيدًا، ولكن يجب أن تغطي المجموعة المُصنّفة الأنماط الرئيسية للسلوك الطبيعي. إذا كانت البذرة أصغر من حوالي 20-30 ملاحظة، فسيكون الحد الأولي غير موثوق به وستتراكم أخطاء التسمية الزائفة.

ماذا لو كانت المجموعة غير المُصنّفة ملوثة بشدة بالحالات الشاذة؟

يؤدي التلوث العالي (أكثر من حوالي 10-20٪ حالات شاذة) إلى امتصاص التحسين التكراري تدريجيًا للحالات الشاذة في الفئة الطبيعية، مما يفسد الحد. في مثل هذه الحالات، استخدم عتبة قبول تسمية زائفة أقل، أو طبق تصويت التجميع عبر تشغيلات متعددة، أو ارجع إلى آلة المتجهات الداعمة أحادية الفئة المُشرف عليها بالكامل على البذرة المُصنّفة فقط.

كيف أختار النواة ومعلمة nu؟

نواة RBF هي الافتراضية القياسية؛ اضبط عرض النطاق الترددي (gamma) الخاص بها جنبًا إلى جنب مع nu باستخدام التحقق المتقاطع على المجموعة المُصنّفة. تتحكم nu في الحد الأعلى لنسبة أخطاء التدريب ونسبة المتجهات الداعمة - اضبطها تقريبًا على معدل الشذوذ المتوقع إذا كان معروفًا.

هل هذا يختلف عن آلة المتجهات الداعمة التحويلية (S3VM)؟

نعم. آلة المتجهات الداعمة التحويلية (S3VM) تقوم بالتصنيف الثنائي شبه المُشرف عليه حيث يتم تصنيف كلا الفئتين جزئيًا. آلة المتجهات الداعمة أحادية الفئة شبه المُشرف عليها تعالج الكشف عن الشذوذ: فهي تستخدم فقط تسميات الفئة الطبيعية وتتعامل مع الملاحظات غير المُصنّفة على أنها محتملة طبيعية، وليس كفئة ثانية ليتم تصنيفها.

هل يمكنني استخدام هذه الطريقة على نطاق واسع؟

تتمتع مُحللات آلة المتجهات الداعمة القياسية بتعقيد O(n^2) إلى O(n^3). بالنسبة لمجموعات البيانات التي تزيد عن حوالي 50,000 ملاحظة، استخدم مُحللات تقريبية (مثل تحديثات عبر الإنترنت المستندة إلى SGD، أو تقريبات النواة عبر ميزات Nystrom أو ميزات Fourier العشوائية) أو قم بالتبديل إلى بدائل قابلة للتوسع مثل Isolation Forest أو كاشفات الشذوذ المستندة إلى autoencoder العميق.

طرق ذات صلة

المصادر

  1. Munoz, A. & Muruzabal, J. (2004). Self-Organising Maps for Outlier Detection. Neurocomputing, 58–60, 953–956.

    افتح مرجع المنشور
    تم النسخ.
  2. Scholkopf, B., Platt, J. C., Shawe-Taylor, J., Smola, A. J., & Williamson, R. C. (2001). Estimating the support of a high-dimensional distribution. Neural Computation, 13(7), 1443–1471.

    افتح مرجع DOI
    تم النسخ.