Isolation Forest ad attivo
- Introdotto da
- Das, S. et al. (active anomaly discovery framework); Liu, F. T. et al. (Isolation Forest base)
- Anno
- 2008–2019
- Tipo
- Active learning wrapper over isolation forest anomaly detector
- Famiglia
- Machine learning
Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese
A cosa serve?
L'Isolation Forest attivo combina la potenza di punteggio delle anomalie non supervisionato dell'Isolation Forest con una strategia di interrogazione iterativa che chiede a un esperto umano di etichettare le istanze più informative.
Il risultato è un detector che affina i suoi confini di anomalia utilizzando un budget di etichettatura minimo, migliorando drasticamente la precisione su anomalie rare e sottili rispetto a una baseline puramente non supervisionata.
L’intuizione alla base del metodo
L'Isolation Forest assegna punteggi alle anomalie in base alla rapidità con cui vengono isolate in alberi casuali, ma non può distinguere le anomalie veramente pericolose dagli outlier innocui senza conoscenza del dominio. L'apprendimento attivo aggiunge un umano nel ciclo (human-in-the-loop): dopo che la foresta ha assegnato punteggi a tutte le istanze, seleziona quelle più ambigue o con punteggio più elevato e chiede a un esperto di confermare o rifiutare ogni etichetta di anomalia. Con ogni etichetta confermata, il modello può rivalutare o riordinare i punteggi futuri. Nel corso di diversi cicli di feedback, anche un numero esiguo di esempi etichettati indirizza il detector lontano dai falsi allarmi e verso le vere anomalie di interesse.
Storia
L'Isolation Forest è stata introdotta da Liu, Ting e Zhou all'ICDM 2008 come un detector di anomalie veloce, scalabile e con poche assunzioni, che isola le anomalie piuttosto che modellare il comportamento normale. L'apprendimento attivo è stato applicato al rilevamento di anomalie in modo sistematico dalla metà degli anni 2010 in poi. Das e colleghi (ICDM 2019) hanno formalizzato un framework di scoperta attiva delle anomalie che combina esplicitamente scorer basati su ensemble — inclusa l'Isolation Forest — con feedback esperto iterativo, dimostrando che una manciata di etichette poteva competere con detector completamente supervisionati addestrati su centinaia di esempi. L'approccio è stato da allora applicato nel rilevamento di frodi, intrusioni e analisi di sensori.
Quando usarlo
Utilizzare l'Isolation Forest attivo quando si affronta un compito di rilevamento di anomalie su dati tabulari non etichettati o quasi non etichettati e si può permettere un piccolo numero di etichette esperte — tipicamente 10-100 interrogazioni distribuite su diversi cicli. È particolarmente adatta per la cybersecurity, il rilevamento di frodi, la manutenzione predittiva e l'identificazione di outlier clinici, dove i falsi positivi sono costosi e un esperto del dominio può giudicare in modo affidabile un'istanza presentata. Non usarla quando non è disponibile un oracolo affidabile, quando il concetto di anomalia è instabile nel tempo, o quando il costo di etichettatura per istanza è così elevato che anche 10 interrogazioni sono infattibili. Un classificatore puramente supervisionato dovrebbe essere preferito una volta che un set di dati etichettato di diverse centinaia di anomalie è disponibile.
Limiti e considerazioni
- Richiede un oracolo affidabile e disponibile; se le etichette esperte sono rumorose o incoerenti, il feedback può degradare il modello.
- Le strategie di interrogazione presuppongono che l'assegnazione di punteggi all'intero pool in ogni ciclo sia fattibile, il che può essere costoso per set di dati molto grandi.
- L'approccio è più difficile da riprodurre e verificare rispetto a una semplice Isolation Forest perché il modello finale dipende dalle specifiche interrogazioni scelte e dalle etichette fornite.
- Il concept drift — quando la natura delle anomalie cambia nel tempo — non viene gestito automaticamente e potrebbe richiedere la reinizializzazione del ciclo attivo.
Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.
Punti di forza
- Sfrutta la scalabilità e l'interpretabilità dell'Isolation Forest iniettando conoscenza esperta con uno sforzo di etichettatura minimo.
- Migliora sostanzialmente la precisione rispetto a una baseline completamente non supervisionata, riducendo i costosi falsi positivi in domini ad alto rischio.
- Le strategie di interrogazione model-agnostic (incertezza, top-k, diversità) possono essere adattate a qualsiasi scorer di anomalie, non solo all'Isolation Forest.
- Funziona bene in contesti con classi sbilanciate dove le anomalie sono estremamente rare e l'apprendimento supervisionato richiederebbe grandi set di dati etichettati.
- Ogni ciclo di interrogazione fornisce un miglioramento immediato e misurabile nella classificazione delle anomalie, rendendo il progresso trasparente agli stakeholder.
Applicazioni
- Triage di alert di rete e cybersecurity, dove gli analisti etichettano un piccolo set di connessioni sospette per turno.
- Rilevamento di frodi con carte di credito con revisione periodica delle transazioni segnalate da parte di analisti.
- Manutenzione predittiva nella produzione, identificando rari guasti di macchine da flussi di sensori con record di guasti limitati.
- Identificazione di outlier clinici in cartelle cliniche elettroniche dove i medici confermano profili di pazienti insoliti.
- Controllo di qualità dei dati scientifici, segnalando errori strumentali in set di dati sperimentali revisionati da scienziati del dominio.
Come funziona
Come funziona
Viene prima addestrata una Isolation Forest su tutti i dati non etichettati disponibili. Ogni istanza riceve un punteggio di anomalia basato sulla rapidità con cui il partizionamento ricorsivo casuale la isola: le istanze in regioni sparse e facilmente isolabili ricevono punteggi elevati. Questo passaggio non supervisionato fornisce alla fase di apprendimento attivo una classifica iniziale significativa.
Tutte le istanze del pool non etichettato vengono classificate in base ai loro punteggi di anomalia. Una strategia di interrogazione — come la selezione delle istanze con punteggio più elevato (top-k), o quelle i cui punteggi rientrano in una regione di confine incerta — identifica le istanze da cui un'etichetta dell'oracolo sarebbe più informativa.
Le istanze selezionate vengono presentate a un esperto del dominio (o a un oracolo simulato negli esperimenti) che le etichetta come anomalia o normale. Sono necessarie solo poche interrogazioni per ciclo, rendendo l'approccio pratico quando l'etichettatura è costosa o richiede giudizio esperto.
Le nuove istanze etichettate vengono incorporate nel modello. Ciò può significare rivalutare i membri dell'ensemble i cui percorsi concordano con le anomalie confermate, affinare le soglie di lunghezza del percorso o riaddestrare con il set etichettato aggiunto come vincoli di supervisione. Le classifiche dei punteggi vengono ricalcolate per il pool rimanente.
Il ciclo interrogazione-etichettatura-aggiornamento si ripete per un numero fisso di cicli o fino all'esaurimento del budget di etichettatura. Il detector finale riflette sia la struttura ampia catturata dalla foresta non supervisionata originale sia la conoscenza esperta codificata attraverso il feedback etichettato, producendo un classificatore di anomalie ad alta precisione su misura per il dominio.
Errori comuni
- Interrogare esclusivamente istanze con i punteggi di anomalia più elevati può creare un bias di conferma, facendo sì che il modello perda nuovi tipi di anomalie che inizialmente appaiono normali.
- Riportare le prestazioni solo sulle istanze interrogate anziché su un set di test separato (held-out), il che gonfia le stime di precisione.
- Trattare le etichette dell'oracolo come verità assoluta senza tenere conto del disaccordo tra valutatori (inter-rater disagreement), specialmente in contesti medici o di sicurezza.
- Dimenticare di rivalutare l'intera foresta non supervisionata dopo il feedback; punteggi obsoleti possono rendere inefficienti i cicli di interrogazione successivi.
Domande frequenti
Quante istanze etichettate sono tipicamente necessarie per un miglioramento significativo?
La ricerca suggerisce che da 10 a 50 etichette esperte, distribuite su 3-5 cicli di feedback, sono spesso sufficienti per superare sostanzialmente una Isolation Forest puramente non supervisionata in termini di precisione, a condizione che le etichette dell'oracolo siano affidabili.
La Isolation Forest di base deve essere riaddestrata da zero dopo ogni ciclo?
Non necessariamente. Molte implementazioni rivalutano o riordinano i percorsi degli alberi esistenti senza un riaddestramento completo, il che è computazionalmente efficiente. Il riaddestramento completo con vincoli di etichettatura è un'opzione quando il set etichettato diventa sufficientemente grande da giustificarlo.
Quale strategia di interrogazione funziona meglio per il rilevamento di anomalie?
Il punteggio top-k (selezione delle istanze non etichettate con punteggio più elevato) è semplice ed efficace quando le anomalie sono rare. Le strategie basate sull'incertezza o sul margine aiutano quando il confine dell'anomalia è ambiguo. Le strategie consapevoli della diversità riducono la ridondanza tra le interrogazioni.
Questo approccio può gestire dati in streaming o online?
La Isolation Forest standard è un metodo batch, quindi anche le estensioni di apprendimento attivo tendono ad essere orientate al batch. Per impostazioni di streaming, sono necessarie varianti online o a finestra scorrevole dell'Isolation Forest prima che il feedback attivo possa essere applicato.
Come valuto il modello in modo equo dato che solo poche istanze sono etichettate?
Tenere da parte un set di test etichettato separato che non viene mai utilizzato per le interrogazioni. Valutare precisione, richiamo e AUCROC su questo set ad ogni ciclo per tracciare miglioramenti reali anziché overfitting alle etichette interrogate.
Metodi correlati
Fonti
Das, S., Wong, W. K., Fern, A., Dietterich, T. G., & Amran Siddiqui, M. (2019). Incorporating Expert Feedback into Active Anomaly Discovery. In Proceedings of the 2019 IEEE International Conference on Data Mining (ICDM), pp. 1009–1014.
Apri il riferimento della pubblicazioneCopiato.Liu, F. T., Ting, K. M., & Zhou, Z. H. (2008). Isolation Forest. In Proceedings of the 8th IEEE International Conference on Data Mining (ICDM), pp. 413–422.
Apri il riferimento DOICopiato.