Apprentissage actif avec apprentissage auto-supervisé
- Introduite par
- Multiple authors (active learning + SSL integration, 2020s)
- Année
- 2020-2022
- Type
- Hybrid learning paradigm
- Famille
- Machine learning
Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais
À quoi sert-elle ?
L'apprentissage actif combiné à l'apprentissage auto-supervisé exploite les données non étiquetées par pré-entraînement auto-supervisé pour construire des représentations riches, puis utilise une stratégie de requête active pour sélectionner les exemples les plus informatifs pour l'annotation humaine, maximisant ainsi les performances du modèle sous un budget d'étiquetage limité.
Cette approche hybride est particulièrement puissante lorsque les données étiquetées sont rares mais que les ensembles de données non étiquetées sont volumineux.
L’intuition derrière la méthode
L'apprentissage auto-supervisé peut extraire des représentations utiles à partir de données brutes non étiquetées en résolvant des tâches prétextes comme la prédiction de patchs masqués ou la comparaison de vues augmentées. Une fois qu'un encodeur robuste est pré-entraîné de cette manière, l'apprentissage actif prend le relais : au lieu d'étiqueter tout, un oracle n'est interrogé que sur les exemples non étiquetés les plus incertains ou les plus représentatifs. L'espace d'intégration riche de l'encodeur rend les requêtes d'incertitude et de diversité beaucoup plus précises qu'elles ne le seraient à partir d'un modèle initialisé aléatoirement, de sorte que chaque exemple étiqueté apporte une amélioration plus importante. Le cycle se répète ensuite, affinant l'encodeur avec chaque nouveau lot d'étiquettes.
Histoire
L'apprentissage actif trouve ses racines dans les années 1990 (Cohn et al., 1996) et l'apprentissage auto-supervisé a émergé de manière proéminente dans les années 2010 avec les méthodes contrastives. Leur intégration s'est accélérée en 2020-2022 à mesure que de grands ensembles de données non étiquetées et de puissants encodeurs SSL (SimCLR, MoCo, MAE) sont devenus largement disponibles. Les chercheurs ont constaté que le pré-entraînement SSL améliore considérablement la qualité des intégrations sur lesquelles reposent les stratégies de requête active, conduisant à une famille de cadres AL-SSL combinés étudiés en vision par ordinateur et en NLP. La combinaison est maintenant une frontière de recherche active, en particulier dans les contextes à faibles ressources et contraints en annotation.
Quand l’utiliser
Utilisez cette combinaison lorsque vous disposez d'un grand ensemble de données non étiquetées et d'un budget strict pour l'annotation manuelle, et lorsque les caractéristiques brutes sont suffisamment complexes (images, texte, audio, signaux de haute dimension) pour que le pré-entraînement auto-supervisé apporte une valeur représentative significative. Elle excelle dans l'imagerie médicale, la classification de documents et la télédétection où l'étiquetage par des experts est coûteux. NE PAS l'utiliser lorsque votre ensemble de données étiquetées est déjà volumineux et représentatif, lorsque le domaine de données est des données tabulaires simples où le pré-entraînement SSL apporte peu d'avantages, ou lorsque le budget de calcul est sévèrement contraint — le pré-entraînement SSL de grands encodeurs est coûteux en calcul. Évitez-la également lorsque le pool non étiqueté est petit par rapport aux données étiquetées.
Limites et points d’attention
- Le pré-entraînement auto-supervisé peut être coûteux en calcul, en particulier pour les architectures d'encodeurs volumineuses telles que les Vision Transformers.
- L'apprentissage actif introduit une acquisition de données séquentielle, rendant le parallélisme plus difficile et prolongeant le flux de travail d'annotation global.
- Si le domaine de pré-entraînement auto-supervisé et le domaine de la tâche cible divergent de manière significative, les représentations de l'encodeur peuvent être trompeuses pour la sélection des requêtes.
- Nécessite une conception soignée : la fonction d'acquisition doit être compatible avec l'architecture de l'encodeur et l'espace d'intégration.
Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.
Points forts
- Réduit considérablement le nombre d'étiquettes nécessaires pour atteindre une précision cible par rapport aux approches uniquement supervisées ou uniquement d'apprentissage actif.
- Les représentations auto-supervisées améliorent la qualité des requêtes actives en fournissant des distances d'intégration significatives et des estimations d'incertitude dès le départ.
- Se transfère bien entre les domaines : un encodeur auto-supervisé pré-entraîné sur des données non étiquetées d'un domaine peut amorcer l'apprentissage actif dans un domaine cible connexe.
- Gère les données non structurées de haute dimension (images, texte, audio) où les fonctions d'acquisition d'apprentissage actif traditionnelles fonctionnent mal sur les caractéristiques brutes.
- Les deux paradigmes se renforcent mutuellement : de meilleures représentations améliorent la sélection des requêtes ; de meilleures données étiquetées améliorent les représentations.
Applications
- Annotation d'images médicales où le temps des radiologues est limité et où il existe de vastes archives de scans non étiquetés.
- Classification de documents et de textes avec des corpus étiquetés limités mais un abondant texte brut.
- Classification de la télédétection et des images satellites dans des contraintes de budget d'annotation.
- Détection de défauts industriels où les exemples de défauts étiquetés sont rares mais les images de production normales sont abondantes.
- Classification de la parole et de l'audio avec de vastes archives audio non étiquetées et une transcription coûteuse.
- Découverte de médicaments : sélection des structures moléculaires les plus informatives pour les essais en laboratoire.
Comment ça marche
Comment ça marche
Un encodeur auto-supervisé est pré-entraîné sur l'ensemble complet de données non étiquetées à l'aide d'une tâche prétexte — telle que l'apprentissage contrastif (SimCLR, MoCo), les auto-encodeurs masqués (MAE) ou la prédiction de rotation. Aucune étiquette humaine n'est nécessaire à ce stade ; l'objectif est un espace de caractéristiques où les exemples sémantiquement similaires se regroupent.
Une fonction d'acquisition d'apprentissage actif — telle que la moindre confiance, l'échantillonnage par entropie, BADGE ou la sélection de sous-ensembles centraux — évalue chaque exemple non étiqueté à l'aide des prédictions ou des intégrations de l'encodeur actuel. Les exemples estimés comme étant les plus informatifs (incertains ou les plus représentatifs de régions inexplorées) sont classés et un lot de taille budgétaire est sélectionné pour annotation.
Le lot sélectionné est présenté à un annotateur humain (l'oracle) qui fournit les étiquettes de vérité terrain. C'est la seule étape qui entraîne un coût d'étiquetage, de sorte que la qualité de la stratégie de requête détermine directement l'efficacité de l'étiquetage.
L'encodeur est affiné (ou une nouvelle tête de classification est entraînée) sur tous les exemples étiquetés accumulés jusqu'à présent. Des techniques de régularisation telles que l'évaluation linéaire suivie d'un affinage complet aident à prévenir le surajustement sur le petit ensemble étiqueté tout en préservant les représentations pré-entraînées.
Le cycle requête-étiquette-affinage se répète jusqu'à ce que le budget d'étiquetage soit épuisé ou que l'objectif de performance soit atteint. L'encodeur est éventuellement mis à jour avec de nouvelles données non étiquetées entre les tours si le pool est dynamique.
Pièges courants
- Utiliser une fonction d'acquisition générique (par exemple, échantillonnage aléatoire) après le pré-entraînement SSL et l'appeler apprentissage actif — la stratégie de requête est ce qui apporte un gain supplémentaire.
- Évaluer uniquement le modèle final après toutes les rondes d'annotation, ce qui masque si les premières requêtes étaient réellement informatives.
- Ignorer le décalage de distribution entre le pool non étiqueté et l'oracle d'annotation, ce qui peut introduire un biais de sélection.
- Oublier de suivre le coût d'étiquetage comme axe de comparaison principal — les gains doivent être mesurés comme la précision par rapport au budget d'annotation, et non pas seulement la précision finale.
- Appliquer le même calendrier de taux d'apprentissage pendant l'affinage que pendant le pré-entraînement, ce qui peut détruire les représentations pré-entraînées.
Questions fréquentes
Dois-je ré-exécuter le pré-entraînement auto-supervisé après chaque tour d'apprentissage actif ?
Pas nécessairement. La pratique la plus courante consiste à pré-entraîner une fois sur l'ensemble complet de données non étiquetées, puis à affiner l'encodeur progressivement avec chaque nouveau lot d'étiquettes. Ré-exécuter le pré-entraînement SSL complet à chaque tour est prohibitif en termes de calcul ; certains travaux utilisent des mises à jour SSL légères (par exemple, l'apprentissage contrastif en ligne) pour adapter les représentations pendant le cycle AL.
Quelle fonction d'acquisition d'apprentissage actif fonctionne le mieux avec le SSL ?
Les stratégies basées sur l'intégration telles que la sélection de sous-ensembles centraux, BADGE (Batch Active learning by Diverse Gradient Embeddings) et l'échantillonnage de diversité basé sur le clustering ont tendance à fonctionner le mieux car elles exploitent la géométrie significative de l'espace d'intégration SSL. L'échantillonnage par entropie simple sur les sorties softmax bénéficie également du SSL mais gagne moins par rapport à l'échantillonnage aléatoire.
En quoi cela diffère-t-il de l'apprentissage semi-supervisé ?
L'apprentissage semi-supervisé utilise passivement toutes les données non étiquetées pendant l'entraînement. L'apprentissage actif avec SSL est interactif : il sélectionne stratégiquement les exemples non étiquetés à présenter à un oracle pour annotation, et met à jour le modèle uniquement avec ces étiquettes choisies. La distinction clé est la boucle d'annotation séquentielle et consciente du budget.
Les données tabulaires conviennent-elles bien à cette approche ?
Généralement non. Le pré-entraînement auto-supervisé sur des données tabulaires apporte un bénéfice modeste par rapport aux images ou au texte, car il n'y a pas d'augmentation naturelle ni de stratégie de masquage de patchs. Pour les données tabulaires, l'apprentissage actif simple avec un modèle supervisé conventionnel (par exemple, régression logistique ou forêt aléatoire) est généralement plus efficace et plus interprétable.
Quels métriques dois-je rapporter ?
Rapportez la précision (ou F1, AUC) en fonction du budget d'étiquetage (nombre de requêtes d'oracle), et pas seulement la précision finale. Incluez une baseline d'échantillonnage aléatoire et, si possible, une borne supérieure entièrement supervisée. Cette courbe d'efficacité d'annotation est la contribution principale de toute évaluation d'apprentissage actif.
Méthodes associées
Sources
Bengar, J. Z., van de Weijer, J., Fuentes, L. L., & Raducanu, B. (2022). Class-Balanced Active Learning for Image Classification. Proceedings of the IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), 3082–3091.
Ouvrir la référence de la publicationCopié.Wang, K., Zhang, D., Li, Y., Zhang, R., & Lin, L. (2016). Cost-Effective Active Learning for Deep Image Classification. IEEE Transactions on Circuits and Systems for Video Technology, 27(12), 2591–2600.
Ouvrir la référence DOICopié.