Zum Inhalt springen
Zurück zu den Suchergebnissen

Halbüberwachte Isolation Forest

Eingeführt von
Extended from Liu, F.T., Ting, K.M., and Zhou, Z-H. (iForest, 2008); semi-supervised variants developed by multiple authors ca. 2013–2020
Jahr
2013–2020
Typ
Ensemble anomaly detection (semi-supervised extension)
Familie
Machine learning

Dieser Text ist eine maschinelle Übersetzung und wurde noch nicht geprüft. Original auf Englisch lesen

Schriftgröße

Was leistet sie?

Semi-supervised Isolation Forest erweitert den klassischen Anomalie-Detektor Isolation Forest durch die Einbeziehung einer kleinen Menge gelabelter Anomalie- (und möglicherweise normaler) Beispiele neben einem großen unbeschrifteten Datensatz.

Diese Label-Führung passt die Anomalie-Scores des Modells an, sodass bekannte Anomalien zuverlässiger getrennt werden, und schließt die Lücke zwischen vollständig unüberwachter und vollständig überwachter Erkennung.

Die Intuition hinter der Methode

Der Standard-Isolation Forest bewertet Anomalien danach, wie schnell ein zufälliger Baum einen Punkt isoliert – Anomalien werden in weniger Teilungen isoliert. Ohne Labels hat das Modell jedoch kein Feedback darüber, was in Ihrer Domäne tatsächlich als anomal gilt. Semi-supervised Isolation Forest führt eine kleine Anzahl bestätigter Beispiele (bekannte Anomalien oder bekannte Normale oder beides) ein und verwendet diese zur Kalibrierung oder Neugewichtung des Bewertungsprozesses. Das Ergebnis ist, dass die inhärente Trennkraft des Forests auf die tatsächlich relevanten Anomalie-Muster gelenkt wird, wodurch Fehlalarme und übersehene Erkennungen erheblich reduziert werden, ohne dass ein vollständig gelabelter Trainingsdatensatz erforderlich ist.

Geschichte

Isolation Forest wurde 2008 von Liu, Ting und Zhou als rein unüberwachter Anomalie-Detektor auf Basis zufälliger rekursiver Partitionierung eingeführt. In Anerkennung dessen, dass selbst wenige Labels die Erkennung dramatisch verbessern können, entwickelten Forscher ab etwa 2013 semi-überwachte Erweiterungen, die Label-Führung in den Scoring- oder Baumgewichtungsprozess integrieren. Verwandte theoretische Grundlagen zur überwachten Anomalie-Erkennung wurden von Görnitz et al. (2013) gelegt, und praktische SSIF-Varianten erschienen in angewandten Publikationen, die sich mit Betrugserkennung und Netzwerkeinbrüchen bis in die späten 2010er Jahre befassten.

Wann wird sie eingesetzt?

Verwenden Sie Semi-supervised Isolation Forest, wenn Sie einen großen Pool unbeschrifteter Daten haben, die Kosten für die vollständige Beschriftung prohibitiv sind, Sie aber Labels für mindestens eine kleine Menge bestätigter Anomalien (und optional einige bestätigte Normale) erhalten können. Dies ist besonders wertvoll für die Erkennung seltener Ereignisse in den Bereichen Cybersicherheit, Betrugserkennung, vorausschauende Wartung und medizinische Überwachung, wo Domänenexperten eine Handvoll bekannter Vorfälle kennzeichnen können. Verwenden Sie es nicht, wenn überhaupt keine gelabelten Anomalien verfügbar sind (bevorzugen Sie Standard-Isolation Forest oder One-Class SVM), wenn die Daten hochdimensional und ohne Vorverarbeitung spärlich sind oder wenn ein großer, vollständig gelabelter Datensatz bereits verfügbar ist (ein vollständig überwachter Klassifikator wird ihn übertreffen).

Grenzen und Hinweise

  • Die Leistung verschlechtert sich, wenn die gelabelten Anomalien nicht repräsentativ für die Anomalieverteilung in den unbeschrifteten Daten sind.
  • Der optimale Mechanismus zur Integration von Labels variiert je nach Implementierung; es gibt noch keine einzelne, universell dominante Variante.
  • Wie der Standard-Isolation Forest kann er Schwierigkeiten mit Anomalien haben, die sich im Zentrum der Daten konzentrieren, oder mit bestimmten multimodalen Verteilungen.
  • Erfordert Sorgfalt, um Leckagen von Labels bei der Auswertung zu vermeiden: Die gelabelte Menge darf sich nicht mit dem Testdatensatz überschneiden.

Die Bedingungen der Quelle ersetzen weder eine unabhängige wissenschaftliche Prüfung noch die Validierung durch eine Analyse-Engine.

Stärken

  • Erzielt höhere Präzision und Recall als der vollständig unüberwachte iForest, indem die Scores an realen gelabelten Anomalien verankert werden.
  • Benötigt nur eine kleine Anzahl von Labels, was ihn praktikabel macht, wenn die Annotation teuer ist.
  • Erbt die sublineare Trainingszeit und den geringen Speicherbedarf von iForest und skaliert auf große Datensätze.
  • Verarbeitet hochdimensionale tabellarische Daten ohne Distanz- oder Dichteschätzungen.
  • Reduziert die willkürliche Auswahl von Schwellenwerten: Die gelabelte Teilmenge bietet eine prinzipienbasierte Kalibrierungsbasis.

Anwendungen

  • Erkennung von Netzwerkeinbrüchen unter Verwendung einer Handvoll bestätigter Angriffsproben neben normalem Datenverkehr.
  • Finanzbetrugserkennung, bei der nur eine kleine Menge bestätigter betrügerischer Transaktionen zur Kennzeichnung verfügbar ist.
  • Vorausschauende Wartung: Verwendung bestätigter Ausfallereignisse zur Kalibrierung von Anomalie-Scores auf Sensorströmen.
  • Medizinische Überwachung: Steuerung der Anomalie-Bewertung mit bestätigten pathologischen Fällen aus elektronischen Gesundheitsakten.
  • Qualitätskontrolle in der Fertigung, bei der nur ein Teil der defekten Einheiten unabhängig verifiziert wurde.

So funktioniert es

So funktioniert es

1

Die verfügbaren Daten werden in eine kleine gelabelte Teilmenge – die bestätigte Anomalien, bestätigte Normale oder beides enthält – und einen großen unbeschrifteten Pool aufgeteilt. Die gelabelte Teilmenge ist bewusst klein gehalten; die Beschaffung vollständiger Labels ist normalerweise kostspielig oder unpraktisch, was genau das Szenario ist, das diese Methode anvisiert.

2

Ein Ensemble von Isolationsbäumen wird auf zufälligen Teilmengen des vollständigen Datensatzes (gelabelt plus unbeschriftet) aufgebaut, gemäß dem Standardverfahren von iForest: An jedem internen Knoten werden ein zufälliges Merkmal und ein zufälliger Aufteilungswert innerhalb des Wertebereichs dieses Merkmals gewählt, um die Daten rekursiv zu partitionieren, bis jeder Punkt isoliert ist.

3

Jede Beobachtung erhält einen Anomalie-Score, der sich aus ihrer durchschnittlichen Pfadlänge über alle Bäume ableitet. Kürzere durchschnittliche Pfade – was eine einfachere Isolierung bedeutet – ergeben höhere Anomalie-Scores. Der normalisierte Score s(x, n) bildet auf (0, 1] ab, wobei Werte nahe 1 auf starke Anomalie-Kandidaten hindeuten.

Formel
s(x, n) = 2^{-E[h(x)] / c(n)}
4

Die gelabelten Beispiele werden verwendet, um das Modell anzupassen: Je nach Variante kann dies die Neugewichtung von Bäumen oder Teilungen beinhalten, die bekannte Anomalien korrekt von normalen trennen, das Hinzufügen eines überwachten Verlustterms zur Score-Aggregation oder die Verwendung der gelabelten Menge zur Erlernung einer Entscheidungsgrenze über die unüberwachten Scores hinaus. Dieser Schritt ist der entscheidende Unterschied zum Standard-iForest.

5

Ein Schwellenwert wird auf die angepassten Anomalie-Scores angewendet, um binäre Anomalie-/Normal-Entscheidungen zu treffen. Die gelabelte Teilmenge ermöglicht eine datengesteuerte Auswahl des Schwellenwerts – zum Beispiel die Wahl des Grenzwerts, der den F1-Score auf den gelabelten Beispielen maximiert – anstatt sich auf einen willkürlichen Perzentilwert zu verlassen.

Häufige Fallstricke

  • Verwendung nur von Anomalie-Labels und Ignorieren von Normal-Labels, wenn beide verfügbar sind – die Einbeziehung bestätigter Normaler kann die Entscheidungsgrenze weiter schärfen.
  • Auswertung auf einem Testdatensatz, der die gelabelten Trainingsbeispiele enthält, was die Leistungsmetriken aufbläht.
  • Auswahl des Anomalie-Score-Schwellenwerts nach einem festen Perzentil anstelle der Verwendung der gelabelten Menge zur Kalibrierung.
  • Annahme, dass die Methode robust ist, wenn die gelabelten Anomalien nur einen Untertyp abdecken, während der unbeschriftete Pool vielfältige Anomalie-Muster enthält.
  • Versäumnis, hochdimensionale oder gemischte Merkmale vor der Anpassung vorzuverarbeiten, was die Auswahl zufälliger Teilungen verzerren kann.

Häufig gestellte Fragen

Wie viele gelabelte Anomalien benötige ich?

Selbst eine Handvoll – manchmal nur 10–50 bestätigte Anomalien – kann eine sinnvolle Kalibrierung bieten. Die Schlüsselvoraussetzung ist, dass sie repräsentativ für die im unbeschrifteten Pool vorhandenen Anomalie-Typen sind. Eine breitere Label-Abdeckung über Anomalie-Untertypen hinweg führt im Allgemeinen zu größeren Gewinnen.

Wie unterscheidet sich dies vom Standard-Isolation Forest?

Der Standard-Isolation Forest ist vollständig unüberwacht und bewertet Anomalien ausschließlich anhand der Pfadlänge ohne domänenspezifisches Feedback. Semi-supervised Isolation Forest integriert eine kleine gelabelte Menge zur Anpassung von Scores oder Baumgewichten, um das Modell auf die tatsächlich relevanten Anomalie-Muster in Ihrer Domäne auszurichten und eine prinzipienbasierte Kalibrierung des Schwellenwerts zu ermöglichen.

Kann ich auch gelabelte normale Beispiele einschließen, nicht nur Anomalien?

Ja, und das ist im Allgemeinen vorteilhaft. Gelabelte Normale helfen dem Modell, Grenzfälle schärfer zu unterscheiden. Einige Varianten behandeln die gelabelte Menge als ausgewogene Referenz für die Kalibrierung der Scoring-Funktion, sodass die Einbeziehung beider Klassen, wenn verfügbar, die Entscheidungsgrenze verbessert.

Sollte ich Kreuzvalidierung zur Auswertung des Modells verwenden?

Ja, aber mit Vorsicht. Die gelabelte Teilmenge muss vom Testdatensatz ausgeschlossen oder ordnungsgemäß geschichtet werden, um Datenlecks zu vermeiden. Eine geschichtete Trainings-/Testaufteilung des gelabelten Teils, kombiniert mit dem gesamten unbeschrifteten Pool für das Training, ist die Standard-Auswertungskonfiguration.

Was passiert, wenn meine gelabelten Anomalien nicht repräsentativ sind?

Die Label-gesteuerte Anpassung kann nach hinten losgehen, wenn die gelabelten Anomalien nur einen engen Ausschnitt der wahren Anomalie-Verteilung abdecken. In diesem Fall kann das Modell neuartige Anomalie-Typen übersehen, die ihm nie gezeigt wurden. Es ist ratsam, die semi-überwachte Erkennung mit unüberwachter Anomalie-Bewertung zu ergänzen und in der Produktion auf Verteilungsdrift zu achten.

Verwandte Methoden

Quellen

  1. Görnitz, N., Kloft, M., Rieck, K., & Brefeld, U. (2013). Toward supervised anomaly detection. Journal of Artificial Intelligence Research, 46, 235–262.

    Publikationsreferenz öffnen
    Kopiert.
  2. Isolation Forest. Wikipedia.

    Publikationsreferenz öffnen
    Kopiert.