Skip to content
Retour aux résultats

Vote par apprentissage actif ensembliste

Introduite par
Seung, H. S., Opper, M., & Sompolinsky, H.
Année
1992
Type
Active learning with ensemble voting
Famille
Machine learning

Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais

Taille de police

À quoi sert-elle ?

Le vote par apprentissage actif ensembliste — connu formellement sous le nom de Query by Committee — est une stratégie d'apprentissage actif qui entraîne un comité de modèles diversifiés et sélectionne les exemples non étiquetés sur lesquels les membres du comité divergent le plus pour une annotation humaine.

En concentrant l'effort d'étiquetage sur les points les plus informatifs, il atteint une grande précision avec beaucoup moins d'exemples étiquetés que ne l'exige l'apprentissage passif.

L’intuition derrière la méthode

Imaginez demander à cinq experts de classifier un échantillon non étiqueté. Si quatre sont d'accord et un dissent, la réponse est probablement claire — pas besoin de payer pour une étiquette. Mais s'ils se répartissent trois contre deux, cet échantillon se situe juste à la frontière de décision où son étiquetage enseignera le plus à tous les modèles. Le vote par apprentissage actif ensembliste rend cette intuition précise : construisez un comité de modèles, laissez-les voter, et ne payez pour les étiquettes que lorsque le vote est serré. Le résultat est une boucle d'apprentissage très efficace qui maximise l'utilisation d'un petit budget d'annotation.

Histoire

Le cadre Query by Committee (QBC) a été introduit par Seung, Opper et Sompolinsky à COLT 1992 comme une approche principielle de l'apprentissage actif avec des comités d'espace de versions. Ce fut l'une des premières explications théoriques de l'utilisation de la divergence d'ensemble pour guider la collecte de données, et elle reste la référence canonique pour l'apprentissage actif basé sur des comités. La littérature plus large sur l'apprentissage actif a été consolidée dans l'enquête technique largement citée de Burr Settles en 2009, qui a systématisé les scénarios basés sur un pool, basés sur un flux et de requête de membership, et a établi le QBC comme une stratégie fondamentale aux côtés de l'échantillonnage d'incertitude.

Quand l’utiliser

Utilisez le vote par apprentissage actif ensembliste lorsque l'étiquetage est coûteux ou prend du temps — annotation clinique, étiquetage de documents juridiques, revue spécialisée d'images — et qu'un grand pool de données non étiquetées est disponible aux côtés d'un petit ensemble de départ étiqueté. Il fonctionne bien pour les tâches de classification où la divergence du comité est un signal significatif, et lorsque au moins 3 à 5 modèles diversifiés peuvent être déployés. Évitez-le lorsque les étiquettes sont peu coûteuses et abondantes (l'apprentissage passif sur l'ensemble des données sera alors aussi efficace, voire plus), lorsque le pool non étiqueté est très petit, lorsque l'annotation en ligne en temps réel est infaisable, ou lorsqu'un modèle unique et interprétable est requis plutôt qu'un ensemble.

Limites et points d’attention

  • Nécessite une boucle d'annotation, ce qui ajoute une complexité d'infrastructure : un gestionnaire de pool, une interface d'oracle et un pipeline de réentraînement.
  • La performance dépend fortement de la diversité du comité ; un comité homogène produit une divergence non informative.
  • L'apprentissage actif basé sur un pool suppose que l'ensemble du pool non étiqueté tient en mémoire ; les pools très volumineux nécessitent des approximations.
  • La convergence n'est pas garantie si l'oracle commet des erreurs d'étiquetage systématiques.

Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.

Points forts

  • Réduit considérablement le nombre d'exemples étiquetés nécessaires pour atteindre une précision cible par rapport à l'échantillonnage aléatoire.
  • Le vote ensembliste offre le double avantage de prédictions à variance réduite au moment de l'inférence.
  • Agnostique au modèle : tout ensemble de classificateurs diversifiés peut former le comité.
  • Le score de divergence fournit un signal d'incertitude intégré facile à surveiller et à visualiser.
  • Fondé théoriquement par le cadre Query by Committee introduit en 1992.

Applications

  • Annotation d'images médicales où les radiologues experts sont rares et l'étiquetage est coûteux.
  • Reconnaissance d'entités nommées et classification de texte avec des corpus annotés limités.
  • Analyse de sentiments avec un jargon spécifique au domaine nécessitant une révision par des spécialistes.
  • Découverte de médicaments et prédiction de propriétés moléculaires avec validation coûteuse en laboratoire.
  • Classification d'images satellites où seule une fraction des tuiles peut être examinée manuellement.

Comment ça marche

Comment ça marche

1

Un comité de k modèles de base diversifiés (l'ensemble de vote) est initialisé sur un petit ensemble de départ d'exemples étiquetés. La diversité est essentielle : les modèles peuvent différer par leur architecture, leurs hyperparamètres ou leur sous-ensemble d'entraînement, de sorte que leurs divergences soient informatives plutôt que aléatoires.

2

Pour chaque candidat non étiqueté x dans le pool U, la divergence D(C, x) au sein du comité est mesurée — les métriques courantes incluent l'entropie du vote (à quel point les votes sont dispersés) ou la divergence KL entre les prédictions. L'échantillon avec le score de divergence le plus élevé est sélectionné : x* = argmax D(C, x).

Formule
x^* = \arg\max_{x \in U} D(C, x)
3

L'exemple non étiqueté sélectionné est soumis à un oracle humain (expert annotateur, plateforme de crowdsourcing ou étiqueteur automatisé) pour une étiquette de vérité terrain. C'est la seule étape qui entraîne un coût d'annotation.

4

Le nouvel exemple étiqueté est ajouté à l'ensemble d'entraînement et tous les membres du comité sont réentraînés (ou mis à jour de manière incrémentielle). La boucle retourne à l'étape de requête jusqu'à ce que le budget d'annotation soit épuisé ou qu'un seuil de performance soit atteint.

5

Au moment de l'inférence, le comité entraîné produit un vote majoritaire parmi les k membres : la classe prédite est le mode des prédictions individuelles h_1(x) à h_k(x), combinant à la fois le gain d'efficacité de l'apprentissage actif et la réduction de variance de l'ensemble.

Formule
\hat{y} = \text{mode}(h_1(x), h_2(x), \ldots, h_k(x))

Pièges courants

  • Utiliser des membres de comité identiques ou quasi identiques — la diversité est le moteur de la méthode et sans elle, la divergence s'effondre.
  • Réentraîner à partir de zéro après chaque requête individuelle ; l'interrogation par lots (sélection de b exemples par tour) est beaucoup plus pratique.
  • Oublier d'évaluer sur un ensemble de test fixe et réservé tout au long de la boucle — mesurer uniquement sur l'ensemble d'entraînement croissant masque le surapprentissage.
  • Traiter le score de divergence comme une mesure de confiance à l'inférence sans calibration appropriée.
  • Ignorer le compromis informativité-représentativité : les échantillons très incertains près de la frontière peuvent être des valeurs aberrantes, pas des exemples typiques.

Questions fréquentes

Combien de membres de comité dois-je utiliser ?

Trois à dix modèles diversifiés constituent une plage pratique courante. Moins de membres produisent des estimations de divergence plus bruitées ; plus de membres augmentent les coûts de calcul. Empiriquement, cinq classificateurs diversifiés offrent souvent un bon équilibre entre stabilité et efficacité.

Comment mesurer la divergence au sein du comité ?

L'entropie du vote est la mesure la plus courante : H = -sum_c p(c) log p(c) où p(c) est la fraction des membres du comité prédisant la classe c. Pour les modèles probabilistes, la divergence KL moyenne par rapport à la prédiction moyenne est une alternative. Des scores plus élevés indiquent des échantillons plus informatifs.

Puis-je l'utiliser avec des modèles d'apprentissage profond ?

Oui. Les ensembles profonds ou les approximations MC-dropout peuvent servir de comité. Le principal défi est le coût de réentraînement — des stratégies comme le réglage fin d'une colonne vertébrale partagée avec des têtes diverses le réduisent considérablement.

Et si mon budget d'annotation est très serré — disons, moins de 20 étiquettes ?

Avec très peu d'étiquettes, l'échantillonnage aléatoire ou la sélection d'amorces stratifiées donnent souvent des résultats comparables au QBC car toutes les méthodes partent d'une base de référence presque aussi pauvre en informations. L'avantage du QBC apparaît plus clairement une fois que l'ensemble de départ compte au moins 20 à 50 exemples par classe.

Le vote par apprentissage actif ensembliste fonctionne-t-il pour la régression ?

Oui, avec la divergence mesurée comme la variance ou l'écart type des prédictions du comité plutôt que l'entropie du vote. La même boucle requête-réentraînement s'applique ; la sortie finale est la moyenne des prédictions du comité.

Méthodes associées

Sources

  1. Seung, H. S., Opper, M., & Sompolinsky, H. (1992). Query by committee. In Proceedings of the Fifth Annual Workshop on Computational Learning Theory (COLT '92), pp. 287–294. ACM.

    Ouvrir la référence DOI
    Copié.
  2. Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    Ouvrir la référence de la publication
    Copié.