Skip to content
Torna ai risultati

Apprendimento attivo con apprendimento auto-supervisionato

Introdotto da
Multiple authors (active learning + SSL integration, 2020s)
Anno
2020-2022
Tipo
Hybrid learning paradigm
Famiglia
Machine learning

Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese

Dimensione del carattere

A cosa serve?

L'apprendimento attivo combinato con l'apprendimento auto-supervisionato sfrutta dati non etichettati attraverso il pre-addestramento auto-supervisionato per costruire rappresentazioni ricche, quindi utilizza una strategia di query attiva per selezionare gli esempi più informativi per l'annotazione umana, massimizzando le prestazioni del modello con un budget di etichettatura limitato.

Questo approccio ibrido è particolarmente potente quando i dati etichettati sono scarsi ma esistono ampi pool di dati non etichettati.

L’intuizione alla base del metodo

L'apprendimento auto-supervisionato può estrarre rappresentazioni utili da dati grezzi non etichettati risolvendo compiti pretestuali come la predizione di patch mascherate o il contrasto di viste aumentate. Una volta che un encoder robusto è stato pre-addestrato in questo modo, l'apprendimento attivo prende il sopravvento: invece di etichettare tutto, a un oracolo vengono poste domande solo sugli esempi non etichettati più incerti o più rappresentativi. Lo spazio di embedding ricco dell'encoder rende le query di incertezza e diversità molto più accurate di quanto non sarebbero da un modello inizializzato casualmente, quindi ogni esempio etichettato acquista più miglioramenti. Il ciclo si ripete quindi, affinando l'encoder con ogni nuovo batch di etichette.

Storia

L'apprendimento attivo ha radici negli anni '90 (Cohn et al., 1996) e l'apprendimento auto-supervisionato è emerso in modo prominente negli anni 2010 con metodi contrastivi. La loro integrazione è accelerata nel 2020-2022 con la disponibilità diffusa di ampi set di dati non etichettati e potenti encoder SSL (SimCLR, MoCo, MAE). I ricercatori hanno scoperto che il pre-addestramento SSL migliora sostanzialmente la qualità degli embedding su cui si basano le strategie di query attive, portando a una famiglia di framework AL-SSL combinati studiati nella visione artificiale e nell'NLP. La combinazione è ora una frontiera di ricerca attiva, in particolare in contesti a basse risorse e con vincoli di annotazione.

Quando usarlo

Utilizzare questa combinazione quando si dispone di un ampio set di dati non etichettati e di un budget rigoroso per l'annotazione manuale, e quando le caratteristiche grezze sono sufficientemente complesse (immagini, testo, audio, segnali ad alta dimensionalità) da rendere il pre-addestramento auto-supervisionato di valore rappresentativo significativo. Eccelle nell'imaging medico, nella classificazione di documenti e nel telerilevamento dove l'etichettatura da parte di esperti è costosa. NON utilizzarla quando il set di dati etichettati è già ampio e rappresentativo, quando il dominio dei dati è costituito da semplici dati tabulari dove il pre-addestramento SSL apporta scarso beneficio, o quando il budget computazionale è gravemente limitato — il pre-addestramento SSL di encoder ampi è computazionalmente intensivo. Evitarla anche quando il pool non etichettato è piccolo rispetto ai dati etichettati.

Limiti e considerazioni

  • Il pre-addestramento auto-supervisionato può essere computazionalmente costoso, specialmente per architetture di encoder ampie come i Vision Transformer.
  • L'apprendimento attivo introduce l'acquisizione sequenziale dei dati, rendendo il parallelismo più difficile e prolungando il flusso di lavoro complessivo di annotazione.
  • Se il dominio di pre-addestramento auto-supervisionato e il dominio del compito target divergono significativamente, le rappresentazioni dell'encoder potrebbero essere fuorvianti per la selezione delle query.
  • Richiede una progettazione attenta: la funzione di acquisizione deve essere compatibile con l'architettura dell'encoder e lo spazio di embedding.

Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.

Punti di forza

  • Riduce drasticamente il numero di etichette necessarie per raggiungere un'accuratezza target rispetto agli approcci basati solo sull'apprendimento supervisionato o solo sull'apprendimento attivo.
  • Le rappresentazioni auto-supervisionate migliorano la qualità delle query attive fornendo distanze di embedding significative e stime di incertezza fin dall'inizio.
  • Si trasferisce bene tra domini: un encoder auto-supervisionato pre-addestrato su dati non etichettati da un dominio può avviare l'apprendimento attivo in un dominio target correlato.
  • Gestisce dati non strutturati ad alta dimensionalità (immagini, testo, audio) dove le funzioni di acquisizione dell'apprendimento attivo tradizionali hanno prestazioni scarse sulle caratteristiche grezze.
  • I due paradigmi si rafforzano a vicenda: rappresentazioni migliori migliorano la selezione delle query; dati meglio etichettati migliorano le rappresentazioni.

Applicazioni

  • Annotazione di immagini mediche dove il tempo dei radiologi è scarso e esistono ampi archivi di scansioni non etichettate.
  • Classificazione di documenti e testi con corpora etichettati limitati ma abbondante testo grezzo.
  • Classificazione di telerilevamento e immagini satellitari sotto vincoli di budget di annotazione.
  • Rilevamento di difetti industriali dove gli esempi di difetti etichettati sono rari ma le immagini di produzione normali sono abbondanti.
  • Classificazione vocale e audio con ampi archivi audio non etichettati e costosa trascrizione.
  • Scoperta di farmaci: selezione delle strutture molecolari più informative per saggi di laboratorio.

Come funziona

Come funziona

1

Un encoder auto-supervisionato viene pre-addestrato sull'intero pool non etichettato utilizzando un compito pretestuale — come l'apprendimento contrastivo (SimCLR, MoCo), gli autoencoder mascherati (MAE) o la predizione della rotazione. Nessuna etichetta umana è necessaria in questa fase; l'obiettivo è uno spazio di caratteristiche in cui esempi semanticamente simili si raggruppano.

2

Una funzione di acquisizione dell'apprendimento attivo — come la minima confidenza, il campionamento dell'entropia, BADGE o la selezione del core-set — valuta ogni esempio non etichettato utilizzando le predizioni o gli embedding dell'encoder corrente. Gli esempi stimati come più informativi (incerti o più rappresentativi di regioni inesplorate) vengono classificati e viene selezionato un batch di dimensioni pari al budget per l'annotazione.

3

Il batch selezionato viene presentato a un annotatore umano (l'oracolo) che fornisce le etichette ground-truth. Questo è l'unico passaggio che comporta costi di etichettatura, quindi la qualità della strategia di query determina direttamente l'efficienza dell'etichettatura.

4

L'encoder viene affinato (o viene addestrata una nuova testa di classificazione) su tutti gli esempi etichettati accumulati finora. Tecniche di regolarizzazione come la valutazione lineare seguita dall'affinamento completo aiutano a prevenire l'overfitting sul piccolo set etichettato preservando le rappresentazioni pre-addestrate.

5

Il ciclo query-etichetta-affinamento si ripete fino a quando il budget di etichettatura è esaurito o l'obiettivo di prestazioni viene raggiunto. L'encoder viene opzionalmente aggiornato con nuovi dati non etichettati tra i round se il pool è dinamico.

Errori comuni

  • Utilizzare una funzione di acquisizione generica (ad es. campionamento casuale) dopo il pre-addestramento SSL e definirla apprendimento attivo — la strategia di query è ciò che fornisce un guadagno aggiuntivo.
  • Valutare solo il modello finale dopo tutti i round di annotazione, il che nasconde se le query iniziali siano state veramente informative.
  • Trascurare lo spostamento di distribuzione tra il pool non etichettato e l'oracolo di annotazione, il che può introdurre bias di selezione.
  • Dimenticare di tracciare il costo di etichettatura come asse primario di confronto — i guadagni dovrebbero essere misurati come accuratezza rispetto al budget di annotazione, non solo l'accuratezza finale.
  • Applicare lo stesso schema di tasso di apprendimento durante l'affinamento come durante il pre-addestramento, il che può distruggere le rappresentazioni pre-addestrate.

Domande frequenti

Devo rieseguire il pre-addestramento auto-supervisionato dopo ogni round di apprendimento attivo?

Non necessariamente. La pratica più comune è pre-addestrare una volta sull'intero pool non etichettato, quindi affinare l'encoder incrementalmente con ogni nuovo batch etichettato. Rieseguire il pre-addestramento SSL completo ogni round è computazionalmente proibitivo; alcuni lavori utilizzano aggiornamenti SSL leggeri (ad es. apprendimento contrastivo online) per adattare le rappresentazioni durante il ciclo AL.

Quale funzione di acquisizione dell'apprendimento attivo funziona meglio con SSL?

Strategie basate su embedding come la selezione del core-set, BADGE (Batch Active learning by Diverse Gradient Embeddings) e il campionamento di diversità basato su clustering tendono a funzionare meglio perché sfruttano la geometria significativa dello spazio di embedding SSL. Il semplice campionamento dell'entropia sulle uscite softmax beneficia anche dell'SSL ma ottiene meno rispetto al campionamento casuale.

In cosa differisce dall'apprendimento semi-supervisionato?

L'apprendimento semi-supervisionato utilizza tutti i dati non etichettati passivamente durante l'addestramento. L'apprendimento attivo con SSL è interattivo: seleziona strategicamente quali esempi non etichettati presentare a un oracolo per l'annotazione e aggiorna il modello solo con le etichette scelte. La distinzione chiave è il ciclo di annotazione sequenziale e consapevole del budget.

I dati tabulari sono adatti a questo approccio?

Generalmente no. Il pre-addestramento auto-supervisionato su dati tabulari apporta un beneficio modesto rispetto a immagini o testo, perché non esiste una strategia naturale di aumento o mascheramento di patch. Per i dati tabulari, l'apprendimento attivo semplice con un modello supervisionato convenzionale (ad es. regressione logistica o random forest) è tipicamente più efficiente e interpretabile.

Quali metriche dovrei riportare?

Riportare l'accuratezza (o F1, AUC) in funzione del budget di etichettatura (numero di query dell'oracolo), non solo l'accuratezza finale. Includere un baseline di campionamento casuale e, se possibile, un limite superiore completamente supervisionato. Questa curva di efficienza dell'annotazione è il contributo principale di qualsiasi valutazione di apprendimento attivo.

Metodi correlati

Fonti

  1. Bengar, J. Z., van de Weijer, J., Fuentes, L. L., & Raducanu, B. (2022). Class-Balanced Active Learning for Image Classification. Proceedings of the IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), 3082–3091.

    Apri il riferimento della pubblicazione
    Copiato.
  2. Wang, K., Zhang, D., Li, Y., Zhang, R., & Lin, L. (2016). Cost-Effective Active Learning for Deep Image Classification. IEEE Transactions on Circuits and Systems for Video Technology, 27(12), 2591–2600.

    Apri il riferimento DOI
    Copiato.