[UNTRANSLATED: Active Learning Voting Ensemble]
- Introdotto da
- Seung, H. S., Opper, M., & Sompolinsky, H.
- Anno
- 1992
- Tipo
- Active learning with ensemble voting
- Famiglia
- Machine learning
Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese
A cosa serve?
Active Learning Voting Ensemble — noto formalmente come Query by Committee — è una strategia di apprendimento attivo che addestra un comitato di modelli diversi e seleziona gli esempi non etichettati sui quali i membri del comitato discordano maggiormente per l'annotazione umana.
Concentrando lo sforzo di etichettatura sui punti più informativi, raggiunge un'elevata accuratezza con molti meno esempi etichettati rispetto a quanto richiesto dall'apprendimento passivo.
L’intuizione alla base del metodo
Immaginate di chiedere a cinque esperti di classificare un campione non etichettato. Se quattro concordano e uno dissente, la risposta è probabilmente chiara — non c'è bisogno di pagare per un'etichetta. Ma se si dividono tre a due, quel campione si trova proprio sul confine decisionale, dove etichettarlo insegnerà di più a tutti i modelli. L'apprendimento attivo con voto d'insieme rende precisa questa intuizione: costruite un comitato di modelli, lasciate che votino e pagate le etichette solo quando il voto è serrato. Il risultato è un ciclo di apprendimento altamente efficiente che sfrutta al massimo un piccolo budget di annotazione.
Storia
Il framework Query by Committee (QBC) è stato introdotto da Seung, Opper e Sompolinsky al COLT 1992 come approccio principiale all'apprendimento attivo con comitati di version space. È stato uno dei primi resoconti teorici sull'uso del disaccordo d'insieme per guidare la raccolta dati, e rimane il riferimento canonico per l'apprendimento attivo basato su comitati. La più ampia letteratura sull'apprendimento attivo è stata consolidata nella molto citata survey tecnica del 2009 di Burr Settles, che ha sistematizzato gli scenari basati su pool, basati su stream e di membership query e ha stabilito QBC come strategia cardine accanto all'uncertainty sampling.
Quando usarlo
Utilizzare l'apprendimento attivo con voto d'insieme quando l'etichettatura è costosa o richiede molto tempo — annotazione clinica, etichettatura di documenti legali, revisione specializzata di immagini — e è disponibile un ampio pool di dati non etichettati insieme a un piccolo insieme iniziale etichettato. Funziona bene per compiti di classificazione in cui il disaccordo del comitato è un segnale significativo, e quando è possibile schierare almeno 3-5 modelli diversi. Evitarlo quando le etichette sono economiche e abbondanti (l'apprendimento passivo sull'intero set di dati sarà allora ugualmente o più efficiente), quando il pool non etichettato è molto piccolo, quando l'annotazione online in tempo reale è infattibile, o quando è richiesto un singolo modello interpretabile piuttosto che un insieme.
Limiti e considerazioni
- Richiede un ciclo di annotazione, che aggiunge complessità infrastrutturale: un gestore del pool, un'interfaccia oracolo e una pipeline di riaddestramento.
- Le prestazioni dipendono fortemente dalla diversità del comitato; un comitato omogeneo produce disaccordi non informativi.
- L'apprendimento attivo basato su pool presuppone che l'intero pool non etichettato entri in memoria; pool molto grandi richiedono approssimazioni.
- La convergenza non è garantita se l'oracolo commette errori di etichettatura sistematici.
Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.
Punti di forza
- Riduce drasticamente il numero di esempi etichettati necessari per raggiungere un'accuratezza target rispetto al campionamento casuale.
- Il voto d'insieme fornisce il duplice beneficio di predizioni a varianza ridotta al momento dell'inferenza.
- Modello-agnostico: qualsiasi insieme di classificatori diversi può formare il comitato.
- Il punteggio di disaccordo fornisce un segnale di incertezza integrato che è facile da monitorare e visualizzare.
- Fondato teoricamente attraverso il framework Query by Committee introdotto nel 1992.
Applicazioni
- Annotazione di immagini mediche dove i radiologi esperti sono scarsi e l'etichettatura è costosa.
- Riconoscimento di entità nominate e classificazione di testi con corpora annotati limitati.
- Analisi del sentiment con gergo specifico del dominio che richiede revisione specialistica.
- Scoperta di farmaci e predizione di proprietà molecolari con costosa validazione in wet-lab.
- Classificazione di immagini satellitari dove solo una frazione di tessere può essere revisionata manualmente.
Come funziona
Come funziona
Un comitato di k modelli base diversi (l'insieme di voto) viene inizializzato su un piccolo insieme iniziale di esempi etichettati. La diversità è fondamentale: i modelli possono differire per architettura, iperparametri o sottoinsieme di addestramento, in modo che i loro disaccordi siano informativi piuttosto che casuali.
Per ogni candidato non etichettato x nel pool U, viene misurato il disaccordo D(C, x) tra il comitato — metriche comuni includono l'entropia del voto (quanto sono distribuiti i voti) o la divergenza KL tra le predizioni. Viene selezionato il campione con il punteggio di disaccordo più alto: x* = argmax D(C, x).
Formula
x^* = \arg\max_{x \in U} D(C, x)L'esempio non etichettato selezionato viene sottoposto a un oracolo umano (esperto annotatore, piattaforma di crowdsourcing o etichettatore automatico) per un'etichetta di verità fondamentale. Questo è l'unico passaggio che comporta un costo di annotazione.
Il nuovo esempio etichettato viene aggiunto all'insieme di addestramento e tutti i membri del comitato vengono riaddestrati (o aggiornati incrementalmente). Il ciclo ritorna alla fase di interrogazione fino a quando il budget di annotazione non è esaurito o viene raggiunta una soglia di prestazione.
Al momento dell'inferenza, il comitato addestrato produce un voto di maggioranza tra tutti i k membri: la classe predetta è la moda delle predizioni individuali h_1(x) fino a h_k(x), combinando sia il guadagno di efficienza dell'apprendimento attivo sia la riduzione della varianza dell'insieme.
Formula
\hat{y} = \text{mode}(h_1(x), h_2(x), \ldots, h_k(x))Errori comuni
- Utilizzare membri del comitato identici o quasi identici — la diversità è il motore del metodo e senza di essa il disaccordo crolla.
- Riaddestramento da zero dopo ogni singola interrogazione; il campionamento in batch (selezione di b esempi per round) è molto più pratico.
- Dimenticare di valutare su un set di test fisso e tenuto da parte durante tutto il ciclo — misurare solo sul set di addestramento in crescita nasconde l'overfitting.
- Trattare il punteggio di disaccordo come una misura di confidenza all'inferenza senza una corretta calibrazione.
- Ignorare il compromesso informatività-rappresentatività: campioni altamente incerti vicino al confine potrebbero essere outlier, non esempi tipici.
Domande frequenti
Quanti membri del comitato dovrei usare?
Da tre a dieci modelli diversi sono un intervallo pratico comune. Meno membri producono stime di disaccordo più rumorose; più membri aumentano i costi computazionali. Empiricamente, cinque classificatori diversi spesso forniscono un buon equilibrio tra stabilità ed efficienza.
Come misuro il disaccordo nel comitato?
L'entropia del voto è la misura più comune: H = -sum_c p(c) log p(c) dove p(c) è la frazione di membri del comitato che predicono la classe c. Per modelli probabilistici, la divergenza KL media dalla predizione media è un'alternativa. Punteggi più alti indicano campioni più informativi.
Posso usarlo con modelli di deep learning?
Sì. Ensemble profondi o approssimazioni MC-dropout possono fungere da comitato. La sfida principale è il costo del riaddestramento — strategie come il fine-tuning di una backbone condivisa con teste diverse riducono considerevolmente questo costo.
E se il mio budget di annotazione è molto limitato — diciamo, meno di 20 etichette?
Con pochissime etichette, il campionamento casuale o la selezione iniziale stratificata spesso performano in modo comparabile a QBC perché tutti i metodi partono da una baseline quasi priva di informazioni. Il vantaggio di QBC emerge più chiaramente una volta che il set iniziale ha almeno 20-50 esempi per classe.
Active Learning Voting Ensemble funziona per la regressione?
Sì, con il disaccordo misurato come la varianza o la deviazione standard delle predizioni del comitato piuttosto che l'entropia del voto. Si applica lo stesso ciclo di interrogazione-riaddestramento; l'output finale è la media delle predizioni del comitato.
Metodi correlati
Fonti
Seung, H. S., Opper, M., & Sompolinsky, H. (1992). Query by committee. In Proceedings of the Fifth Annual Workshop on Computational Learning Theory (COLT '92), pp. 287–294. ACM.
Apri il riferimento DOICopiato.Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
Apri il riferimento della pubblicazioneCopiato.