Regole associative di apprendimento attivo
- Introdotto da
- Dzyuba, V. & van Leeuwen, M.; Boley, M. et al.
- Anno
- 2010s
- Tipo
- Interactive pattern mining
- Famiglia
- Machine learning
Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese
A cosa serve?
Le regole associative di apprendimento attivo combinano il ciclo iterativo di interrogazione ed etichettatura dell'apprendimento attivo con il data mining di regole associative, consentendo a un esperto umano di guidare il processo di scoperta in modo interattivo.
Invece di enumerare esaustivamente tutte le regole al di sopra di una soglia fissa di supporto-confidenza, il sistema seleziona i candidati di regole più informativi e chiede all'utente di giudicare il loro interesse, concentrando la ricerca su pattern soggettivamente utili.
L’intuizione alla base del metodo
Il data mining standard di regole associative inonda l'utente con migliaia di regole al di sopra di una soglia minima di supporto, la maggior parte delle quali sono ridondanti o irrilevanti. L'apprendimento attivo inverte questo processo: l'algoritmo presenta solo le regole candidate più incerte o sorprendenti a un esperto umano, raccoglie feedback sulla loro interesse e aggiorna il suo modello delle preferenze dell'utente dopo ogni interrogazione. Attraverso cicli successivi, impara a distinguere le regole che interessano all'analista dal rumore, restringendo drasticamente lo spazio di ricerca e facendo emergere pattern azionabili in modo molto più efficiente dell'enumerazione esaustiva.
Storia
Le regole associative di apprendimento attivo sono emerse negli anni 2010 come risposta al ben noto problema dell'esplosione delle regole nel data mining di regole associative. Il lavoro di Boley e colleghi sul campionamento diretto dei pattern (2013) e di Dzyuba e van Leeuwen sull'interesse soggettivo (2017) hanno stabilito il quadro formale per interrogare le preferenze dell'utente per guidare la scoperta delle regole. L'approccio attinge alla ricerca precedente sul data mining interattivo e si collega alla più ampia letteratura sull'apprendimento attivo iniziata da Cohn, Atlas e Ladner (1994).
Quando usarlo
Utilizzare regole associative di apprendimento attivo quando il database delle transazioni è grande, il numero di regole sopra soglia è ingestibile (da migliaia a milioni) e un esperto di dominio è disponibile per fornire feedback iterativo durante la sessione di mining. È particolarmente prezioso in contesti di scoperta della conoscenza - informatica clinica, analisi del carrello della spesa al dettaglio o generazione di ipotesi scientifiche - dove la rilevanza soggettiva conta tanto quanto la significatività statistica. Non utilizzarlo quando non è disponibile un esperto interattivo, quando l'intero set di regole è necessario per l'automazione downstream, o quando il database delle transazioni è così piccolo che l'enumerazione esaustiva è banale.
Limiti e considerazioni
- Richiede un esperto umano interattivo durante tutta la sessione, il che è impraticabile per pipeline completamente automatizzate.
- La qualità dei risultati dipende fortemente dalla coerenza e dalla conoscenza del dominio dell'esperto di etichettatura.
- Problema del cold-start: il modello di preferenze è poco informativo all'inizio, quindi le interrogazioni iniziali potrebbero non essere ben mirate.
- L'approccio è meno consolidato del data mining di regole associative batch, con meno implementazioni pronte all'uso.
- La valutazione è intrinsecamente soggettiva e più difficile da benchmarkare rispetto ai metodi puramente statistici.
Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.
Punti di forza
- Riduce drasticamente il numero di regole che un utente deve ispezionare concentrando la ricerca su pattern soggettivamente interessanti.
- Si adatta alle preferenze del singolo analista piuttosto che imporre una misura di interesse universale.
- Si combina bene con qualsiasi miner di regole di base (Apriori, FP-growth, campionamento casuale) come fase di generazione dei candidati.
- Supporta l'esplorazione iterativa senza richiedere all'utente di specificare soglie di supporto e confidenza in anticipo.
- Scala a grandi spazi di regole che altrimenti sopraffarebbero l'analista.
Applicazioni
- Informatica clinica: scoperta di co-occorrenze farmaco-evento avverso che un farmacologo giudica clinicamente plausibili.
- Analisi del carrello della spesa al dettaglio: individuazione di opportunità di cross-selling che un category manager trova azionabili.
- Generazione di ipotesi scientifiche: identificazione di pattern di co-occorrenza in dataset genomici o di scienze sociali che corrispondono all'intuizione dell'esperto.
- Rilevamento frodi: mining interattivo di pattern di transazione segnalati come sospetti da un analista di frodi.
- Sistemi di raccomandazione: apprendimento di regole di co-occorrenza di item specifiche dell'utente per personalizzare le raccomandazioni.
Come funziona
Come funziona
Viene generato un pool iniziale di regole associative candidate, in modo esaustivo (ad esempio, tramite Apriori o FP-growth fino a una soglia lasca) o tramite campionamento. Questo pool può essere enorme in database di transazioni ad alta dimensionalità, quindi il componente di apprendimento attivo è fondamentale per la trattabilità.
Il sistema seleziona la regola candidata più informativa da presentare all'utente, tipicamente utilizzando una funzione di acquisizione come il campionamento dell'incertezza, il cambiamento atteso del modello o punteggi di interesse soggettivo. L'utente etichetta la regola come interessante o non interessante.
Dopo ogni etichetta dell'utente, il sistema aggiorna il suo modello interno delle preferenze dell'utente, tipicamente un modello bayesiano o lineare che cattura quali caratteristiche della regola (supporto, confidenza, lift, identità dell'elemento) l'utente trova accattivanti, e riordina i candidati rimanenti di conseguenza.
Utilizzando il modello di preferenze aggiornato, tutte le regole candidate rimanenti vengono ri-valutate. Le regole con punteggio elevato vengono prioritarizzate per la presentazione nei cicli successivi, e le regole dominate o quasi duplicate vengono eliminate per evitare di mostrare pattern simili ripetutamente.
Il ciclo continua finché l'utente non è soddisfatto, un budget di interrogazioni fisso è esaurito, o il guadagno atteso da ulteriori interrogazioni scende al di sotto di una soglia. L'output è un piccolo set curato di regole classificate per interesse previsto dall'utente.
Errori comuni
- Presentare regole quasi duplicate in interrogazioni successive, causando affaticamento dell'utente ed etichette rumorose - utilizzare vincoli di diversità o potatura della ridondanza.
- Ignorare il problema del cold-start non fornendo regole predefinite sensate o una breve fase di riscaldamento prima che inizino le interrogazioni attive.
- Trattare la lista classificata finale come un risultato statisticamente validato senza riportare anche metriche standard di qualità delle regole (supporto, confidenza, lift).
- Confondere il punteggio di interesse soggettivo con la significatività statistica oggettiva, che sono quantità distinte.
Domande frequenti
Quante interrogazioni deve rispondere l'utente?
In pratica, studi riportano che modelli di preferenze utili possono essere appresi con appena 20-50 interrogazioni, sebbene il budget dipenda dalla diversità dello spazio delle regole e dalla coerenza dell'esperto.
Questo sostituisce il data mining standard di regole associative?
No. È un complemento: il mining standard (Apriori, FP-growth) viene tipicamente utilizzato per generare candidati, e il ciclo di apprendimento attivo li filtra e li classifica secondo le preferenze dell'esperto. L'intero set di regole viene ancora generato internamente.
Cosa succede se esperti diversi non sono d'accordo sulle regole interessanti?
Le regole associative di apprendimento attivo apprendono un singolo modello di preferenze per sessione. Quando sono coinvolti più esperti, i modelli di preferenze possono essere aggregati (ad esempio, tramite voto di maggioranza sulle etichette) o possono essere eseguite sessioni separate e le loro regole di rango superiore possono essere unite.
In che modo l'interesse è diverso dalla confidenza o dal lift?
Confidenza e lift sono misure statistiche oggettive computabili dai dati. L'interesse soggettivo dipende dall'utente: una regola può avere un lift elevato ma essere trivialmente ovvia per un esperto e quindi non interessante, o avere un lift modesto ma essere nuova e azionabile.
Posso usarlo senza un esperto di etichettatura in tempo reale?
Se sono disponibili etichette di preferenza pre-raccose (ad esempio, da una sessione precedente), il modello di preferenze può essere addestrato offline e applicato in modalità batch, sebbene ciò perda il beneficio adattivo del feedback in tempo reale.
Metodi correlati
Fonti
Dzyuba, V., & van Leeuwen, M. (2017). Interactive Discovery of Interesting Association Rules by Subjective Interestingness. In Proceedings of the European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML PKDD). Springer.
Apri il riferimento della pubblicazioneCopiato.Boley, M., Lucchese, C., Paurat, D., & Gartner, T. (2013). Direct Local Pattern Sampling by Efficient Two-Step Random Procedures. In Proceedings of the 19th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 582–590). ACM.
Apri il riferimento della pubblicazioneCopiato.