Przejdź do treści
Wróć do wyników wyszukiwania

Aktywne uczenie z wykorzystaniem Isolation Forest

Autor metody
Das, S. et al. (active anomaly discovery framework); Liu, F. T. et al. (Isolation Forest base)
Rok
2008–2019
Typ
Active learning wrapper over isolation forest anomaly detector
Rodzina
Machine learning

Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku

Rozmiar czcionki

Do czego służy?

Aktywne uczenie z wykorzystaniem Isolation Forest łączy nienadzorowaną moc Isolation Forest w zakresie oceny anomalii z iteracyjną strategią zapytań, która prosi eksperta ludzkiego o etykietowanie najbardziej informatywnych instancji.

Rezultatem jest detektor, który udoskonala swoje granice anomalii przy minimalnym budżecie etykietowania, znacząco poprawiając precyzję w przypadku rzadkich i subtelnych anomalii w porównaniu z czysto nienadzorowaną metodą bazową.

Intuicja stojąca za metodą

Isolation Forest ocenia anomalie na podstawie tego, jak szybko są one izolowane w losowych drzewach, ale bez wiedzy dziedzinowej nie jest w stanie odróżnić prawdziwie niebezpiecznych anomalii od nieszkodliwych wartości odstających. Aktywne uczenie dodaje pętlę sprzężenia zwrotnego z udziałem człowieka: po tym, jak las przypisze punkty wszystkim instancjom, wybiera najbardziej niejednoznaczne lub najwyżej ocenione i prosi eksperta o potwierdzenie lub odrzucenie każdej etykiety anomalii. Z każdą potwierdzoną etykietą model może ponownie przeliczyć wagi lub rangi przyszłych ocen. W ciągu kilku rund informacji zwrotnej nawet niewielka liczba oznakowanych przykładów kieruje detektor z dala od fałszywych alarmów i w stronę rzeczywistych anomalii stanowiących przedmiot zainteresowania.

Historia

Isolation Forest został wprowadzony przez Liu, Ting i Zhou na konferencji ICDM 2008 jako szybki, skalowalny i mało wymagający założeń detektor anomalii, który izoluje anomalie, zamiast modelować normalne zachowanie. Aktywne uczenie było systematycznie stosowane do wykrywania anomalii od połowy lat 2010. Das i współpracownicy (ICDM 2019) sformalizowali ramy aktywnego odkrywania anomalii, wyraźnie łącząc oceniacze oparte na zespołach — w tym Isolation Forest — z iteracyjnymi informacjami zwrotnymi od ekspertów, pokazując, że garść etykiet mogła konkurować z w pełni nadzorowanymi detektorami trenowanymi na setkach przykładów. Podejście to było od tego czasu stosowane w wykrywaniu oszustw, intruzji i analizie danych z czujników.

Kiedy stosować

Używaj Aktywnego uczenia z wykorzystaniem Isolation Forest, gdy napotykasz zadanie wykrywania anomalii na nieoznakowanych lub w większości nieoznakowanych danych tabelarycznych i możesz sobie pozwolić na niewielką liczbę etykiet eksperckich — zazwyczaj 10–100 zapytań w kilku rundach. Jest szczególnie odpowiedni do zastosowań w cyberbezpieczeństwie, wykrywaniu oszustw, konserwacji predykcyjnej i identyfikacji odchyleń klinicznych, gdzie fałszywe alarmy są kosztowne, a ekspert dziedzinowy może wiarygodnie ocenić przedstawioną instancję. Nie używaj go, gdy nie ma wiarygodnej wyroczni, gdy koncepcja anomalii jest niestabilna w czasie lub gdy koszt etykietowania na instancję jest tak wysoki, że nawet 10 zapytań jest niewykonalne. Należy preferować czysto nadzorowany klasyfikator, gdy istnieje oznakowany zbiór danych zawierający kilkaset anomalii.

Ograniczenia i uwagi

  • Wymaga wiarygodnej i dostępnej wyroczni; jeśli etykiety eksperckie są zaszumione lub niespójne, informacje zwrotne mogą pogorszyć jakość modelu.
  • Strategie zapytań zakładają, że ocena całej puli w każdej rundzie jest wykonalna, co może być kosztowne dla bardzo dużych zbiorów danych.
  • Podejście jest trudniejsze do odtworzenia i audytu niż prosty Isolation Forest, ponieważ ostateczny model zależy od wybranych konkretnych zapytań i dostarczonych etykiet.
  • Dryf koncepcji — gdy natura anomalii zmienia się w czasie — nie jest automatycznie obsługiwany i może wymagać ponownego zainicjowania pętli aktywnego uczenia.

Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.

Mocne strony

  • Wykorzystuje skalowalność i interpretowalność Isolation Forest, jednocześnie wprowadzając wiedzę ekspercką przy minimalnym nakładzie pracy na etykietowanie.
  • Znacząco poprawia precyzję w porównaniu z w pełni nienadzorowaną metodą bazową, redukując kosztowne fałszywe alarmy w domenach o wysokiej stawce.
  • Strategie zapytań niezależne od modelu (niepewność, top-k, różnorodność) mogą być adaptowane do dowolnego oceniacza anomalii, nie tylko Isolation Forest.
  • Dobrze działa w ustawieniach z niezbalansowanymi klasami, gdzie anomalie są niezwykle rzadkie, a uczenie nadzorowane wymagałoby dużych oznakowanych zbiorów danych.
  • Każda runda zapytań zapewnia natychmiastową, mierzalną poprawę rankingu anomalii, co czyni postęp przejrzystym dla interesariuszy.

Zastosowania

  • Triaz alertów sieciowych i cyberbezpieczeństwa, gdzie analitycy etykietują niewielki zestaw podejrzanych połączeń na zmianę.
  • Wykrywanie oszustw kartami kredytowymi z okresowym przeglądem podejrzanych transakcji przez analityków.
  • Konserwacja predykcyjna w produkcji, identyfikacja rzadkich awarii maszyn na podstawie strumieni danych z czujników przy ograniczonej liczbie zapisów o awariach.
  • Wykrywanie odchyleń klinicznych w elektronicznej dokumentacji medycznej, gdzie lekarze potwierdzają nietypowe profile pacjentów.
  • Kontrola jakości danych naukowych, oznaczanie błędów instrumentów w zbiorach danych eksperymentalnych przeglądanych przez naukowców dziedzinowych.

Jak to działa

Jak to działa

1

Isolation Forest jest najpierw trenowany na wszystkich dostępnych nieoznakowanych danych. Każda instancja otrzymuje ocenę anomalii na podstawie tego, jak szybko losowe partycjonowanie rekurencyjne ją izoluje: instancje w rzadkich, łatwo izolowalnych regionach otrzymują wysokie oceny. Ta nienadzorowana faza stanowi podstawę pętli aktywnego uczenia z sensownym początkowym rankingiem.

2

Wszystkie nieoznakowane instancje z puli są rangowane według ich ocen anomalii. Strategia zapytań — taka jak wybór k instancji z najwyższymi ocenami lub tych, których oceny mieszczą się w niepewnym regionie granicznym — identyfikuje instancje, dla których etykieta od wyroczni byłaby najbardziej informatywna.

3

Wybrane instancje są prezentowane ekspertowi dziedzinowemu (lub symulowanej wyroczni w eksperymentach), który etykietuje każdą z nich jako anomalię lub normalną. W każdej rundzie potrzebna jest tylko niewielka liczba zapytań, co czyni podejście praktycznym, gdy etykietowanie jest kosztowne lub wymaga oceny eksperta.

4

Nowe oznakowane instancje są włączane do modelu. Może to oznaczać ponowne ważenie członków zespołu, których ścieżki zgadzają się z potwierdzonymi anomaliami, dostrajanie progów długości ścieżki lub ponowne trenowanie z dodanym zbiorem oznakowanych danych jako ograniczeniami nadzoru. Rankingi ocen są przeliczane dla pozostałej puli.

5

Cykl zapytanie-etykieta-aktualizacja powtarza się przez określoną liczbę rund lub do wyczerpania budżetu etykietowania. Ostateczny detektor odzwierciedla zarówno szeroką strukturę uchwyconą przez oryginalny nienadzorowany las, jak i wiedzę ekspercką zakodowaną poprzez informacje zwrotne z etykiet, dając w rezultacie wysokoprecyzyjny ranking anomalii dostosowany do dziedziny.

Częste pułapki

  • Wyłącznie pytania o instancje z najwyższymi ocenami anomalii mogą prowadzić do błędu potwierdzenia, powodując, że model przeoczy nowe typy anomalii, które początkowo wydają się normalne.
  • Raportowanie wyników tylko dla zapytywanych instancji, a nie dla wydzielonego zbioru testowego, co zawyża szacunki precyzji.
  • Traktowanie etykiet wyroczni jako prawdy absolutnej bez uwzględniania niezgodności między oceniającymi, zwłaszcza w kontekstach medycznych lub bezpieczeństwa.
  • Zapominanie o ponownej ocenie całego nienadzorowanego lasu po otrzymaniu informacji zwrotnej; nieaktualne oceny mogą sprawić, że kolejne rundy zapytań będą nieefektywne.

Najczęściej zadawane pytania

Ile oznakowanych instancji jest zazwyczaj potrzebnych do znaczącej poprawy?

Badania sugerują, że 10 do 50 etykiet eksperckich, rozłożonych na 3 do 5 rund informacji zwrotnej, jest często wystarczające do znaczącego przewyższenia czysto nienadzorowanego Isolation Forest pod względem precyzji, pod warunkiem, że etykiety wyroczni są wiarygodne.

Czy podstawowy Isolation Forest musi być ponownie trenowany od zera po każdej rundzie?

Niekoniecznie. Wiele implementacji ponownie waży lub ponownie ranguje istniejące ścieżki drzew bez pełnego ponownego trenowania, co jest obliczeniowo wydajne. Pełne ponowne trenowanie z ograniczeniami etykiet jest opcją, gdy oznakowany zbiór staje się wystarczająco duży, aby to uzasadnić.

Jaka strategia zapytań działa najlepiej w wykrywaniu anomalii?

Ranking top-k (wybór nieoznakowanych instancji z najwyższymi ocenami) jest prosty i skuteczny, gdy anomalie są rzadkie. Strategie oparte na niepewności lub marginesie pomagają, gdy granica anomalii jest niejednoznaczna. Strategie uwzględniające różnorodność redukują redundancję między zapytaniami.

Czy to podejście może obsługiwać dane strumieniowe lub online?

Standardowy Isolation Forest jest metodą wsadową, więc rozszerzenia aktywnego uczenia również mają tendencję do bycia wsadowymi. W przypadku ustawień strumieniowych potrzebne są warianty Isolation Forest online lub z przesuwającym się oknem, zanim będzie można zastosować aktywne informacje zwrotne.

Jak sprawiedliwie ocenić model, biorąc pod uwagę, że tylko kilka instancji jest oznakowanych?

Wydziel osobny oznakowany zbiór testowy, który nigdy nie jest używany do zapytań. Oceń precyzję, kompletność i AUCROC na tym zbiorze w każdej rundzie, aby śledzić rzeczywistą poprawę, a nie nadmierne dopasowanie do oznakowanych etykiet.

Pokrewne metody

Źródła

  1. Das, S., Wong, W. K., Fern, A., Dietterich, T. G., & Amran Siddiqui, M. (2019). Incorporating Expert Feedback into Active Anomaly Discovery. In Proceedings of the 2019 IEEE International Conference on Data Mining (ICDM), pp. 1009–1014.

    Otwórz odnośnik do publikacji
    Skopiowano.
  2. Liu, F. T., Ting, K. M., & Zhou, Z. H. (2008). Isolation Forest. In Proceedings of the 8th IEEE International Conference on Data Mining (ICDM), pp. 413–422.

    Otwórz odnośnik DOI
    Skopiowano.