Skip to content
Retour aux résultats

Apprentissage actif avec gradient boosting

Introduite par
Settles, B. (active learning); Friedman, J. H. (gradient boosting); combined framework developed by the research community
Année
2000s–2010s
Type
Active learning framework with gradient boosting base learner
Famille
Machine learning

Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais

Taille de police

À quoi sert-elle ?

L'apprentissage actif avec gradient boosting combine la puissante précision prédictive des arbres boostés par gradient avec une boucle d'apprentissage actif qui sélectionne les exemples non étiquetés les plus informatifs pour l'annotation humaine.

En interrogeant uniquement les instances sur lesquelles le modèle est le plus incertain, la méthode atteint une grande précision avec beaucoup moins d'exemples étiquetés que l'apprentissage supervisé passif.

L’intuition derrière la méthode

L'étiquetage des données est coûteux. L'apprentissage actif aborde ce problème en laissant le modèle décider quels exemples méritent d'être annotés ensuite — généralement ceux sur lesquels le modèle est le plus incertain. Le gradient boosting, connu pour sa forte précision sur les données tabulaires, sert d'apprenant principal dans cette boucle. Après chaque cycle d'étiquetage, le modèle boosté est réentraîné sur l'ensemble étiqueté croissant et identifie à nouveau les points non étiquetés les plus incertains. Le résultat est un modèle performant construit avec une fraction des données étiquetées que l'entraînement passif nécessiterait.

Histoire

L'apprentissage actif en tant que domaine a été systématisé par Burr Settles dans son article de synthèse influent de 2010. Le gradient boosting a été formalisé par Jerome Friedman en 2001. Leur combinaison a gagné en popularité dans les années 2010 à mesure que les bibliothèques d'arbres boostés par gradient (XGBoost 2016, LightGBM 2017) devenaient des outils standard, rendant pratique le réentraînement de modèles puissants dans des pipelines d'annotation itératifs. La combinaison est maintenant courante dans l'annotation NLP, le triage d'imagerie médicale et le contrôle qualité industriel.

Quand l’utiliser

Utilisez l'apprentissage actif avec gradient boosting lorsque vous disposez d'un grand pool de données tabulaires non étiquetées mais que l'étiquetage est coûteux ou prend du temps, et que le gradient boosting serait autrement le modèle de choix. Il est particulièrement efficace pour les ensembles de données déséquilibrés où les classes rares sont difficiles à échantillonner passivement. Évitez-le lorsque l'étiquetage est bon marché (l'apprentissage passif avec toutes les étiquettes est plus simple), lorsque le pool non étiqueté est trop petit pour que la requête soit utile, lorsque vous avez besoin d'un modèle entièrement transparent (coefficients ou règles), ou lorsque le réentraînement en temps réel après chaque requête est infaisable.

Limites et points d’attention

  • Le réentraînement du gradient boosting à partir de zéro après chaque cycle de requête est coûteux en calcul pour les grands ensembles de données.
  • Les stratégies de requête peuvent souffrir d'un biais d'échantillonnage, convergeant vers un ensemble étiqueté non représentatif si l'ensemble initial est non représentatif.
  • La calibration des probabilités du gradient boosting peut nécessiter une étape supplémentaire (par exemple, mise à l'échelle de Platt) pour garantir des estimations d'incertitude fiables.
  • Les performances sont sensibles au choix de la stratégie de requête ; aucune stratégie unique ne domine sur toutes les tâches.
  • Nécessite une infrastructure pour un flux de travail d'annotation avec boucle humaine, ce qui ajoute une surcharge d'ingénierie.

Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.

Points forts

  • Atteint une précision compétitive avec significativement moins d'exemples étiquetés que l'apprentissage supervisé passif.
  • Hérite des fortes performances du gradient boosting sur les données tabulaires, gérant les interactions non linéaires et les types de caractéristiques mixtes.
  • Flexible : compatible avec toute stratégie de requête (incertitude, marge, entropie, requête par comité).
  • Réduit systématiquement le coût d'annotation, le rendant pratique pour les domaines nécessitant une expertise d'étiquetage intensive tels que la médecine ou le droit.
  • Prend en charge le déploiement itératif : le modèle s'améliore continuellement à mesure que davantage d'étiquettes sont collectées.

Applications

  • Classification d'images médicales ou de textes où l'annotation experte est rare et coûteuse.
  • Détection de fraude sur de grands ensembles de données transactionnelles où les étiquettes de fraude confirmée nécessitent une révision manuelle.
  • Étiquetage de sentiments ou d'intentions dans les pipelines NLP où les budgets d'annotation crowd-sourcés sont limités.
  • Détection de défauts industriels avec une capacité d'inspection limitée.
  • Étiquetage de données scientifiques en biologie, chimie ou science des matériaux où les experts du domaine sont coûteux.
  • Modélisation du désabonnement client ou du risque de crédit avec un échantillon restreint de résultats confirmés.

Comment ça marche

Comment ça marche

1

L'entraînement commence avec un petit ensemble initial d'exemples étiquetés. Le reste des données disponibles reste non étiqueté dans un pool. L'ensemble initial doit être suffisamment grand pour que le modèle de gradient boosting produise des estimations de probabilité significatives ; généralement, au moins un exemple par classe est requis.

2

Un modèle de gradient boosting (par exemple, XGBoost, LightGBM ou GradientBoostingClassifier de scikit-learn) est entraîné sur l'ensemble étiqueté actuel. Le modèle apprend un ensemble additif d'arbres de décision en ajustant itérativement les résidus, produisant des probabilités de classe calibrées utilisées dans la prochaine étape de requête.

3

Un critère d'incertitude ou d'informativité sélectionne les instances non étiquetées sur lesquelles le modèle est le moins confiant. Les stratégies courantes incluent l'échantillonnage de moindre confiance, l'échantillonnage de marge et l'échantillonnage d'entropie. Le critère d'entropie sélectionne x* qui maximise H(p(y|x)) sur le pool non étiqueté U.

Formule
x^* = \arg\max_{x \in U}\, H(p(y \mid x))
4

Les instances sélectionnées sont présentées à un annotateur humain (l'oracle), qui fournit les étiquettes de vérité terrain. En pratique, cette étape est celle où le coût d'annotation est dépensé, donc l'efficacité de la stratégie de requête contrôle directement le budget d'étiquetage.

5

Les nouveaux exemples étiquetés sont ajoutés à l'ensemble d'entraînement et le modèle de gradient boosting est réentraîné à partir de zéro ou mis à jour. Le cycle se répète jusqu'à ce qu'un budget d'étiquetage soit épuisé ou qu'un seuil de performance soit atteint sur un ensemble de validation.

Pièges courants

  • Commencer avec un ensemble initial trop petit ou déséquilibré, amenant le modèle à interroger une seule région de l'espace des caractéristiques.
  • Ignorer la calibration des probabilités : les scores bruts du gradient boosting ne sont pas toujours des probabilités bien calibrées et les estimations d'incertitude qui en dérivent peuvent être trompeuses.
  • Évaluer les performances du modèle uniquement sur l'ensemble étiqueté activement sélectionné, qui est biaisé vers les exemples incertains ou difficiles.
  • Utiliser l'intégralité du pool non étiqueté pour l'évaluation finale après la sélection active — toujours réserver un ensemble de test mis de côté avant le début de la boucle d'apprentissage actif.
  • Négliger de comparer avec une baseline passive entraînée sur le même nombre d'étiquettes échantillonnées aléatoirement.

Questions fréquentes

Quelle stratégie de requête fonctionne le mieux avec le gradient boosting ?

L'échantillonnage d'entropie et l'échantillonnage de marge sont les choix les plus courants et fonctionnent bien en pratique. La requête par comité utilisant un ensemble de modèles de gradient boosting peut être plus robuste mais augmente le coût d'entraînement. La meilleure stratégie dépend du jeu de données ; il est utile de comparer deux ou trois stratégies sur un échantillon pilote.

Dois-je calibrer les probabilités du gradient boosting ?

Oui, surtout lorsque vous utilisez des stratégies de requête basées sur l'entropie ou la confiance. Le gradient boosting peut produire des probabilités trop confiantes. Appliquez la mise à l'échelle de Platt ou la régression isotonique après chaque cycle d'entraînement pour obtenir des estimations d'incertitude mieux calibrées avant de requérir.

Combien d'exemples dois-je étiqueter par tour ?

Des lots de 1 à plusieurs dizaines sont typiques. Des lots plus grands sont plus efficaces en calcul mais peuvent être moins efficaces en termes d'échantillons que la requête par point unique. Commencez avec une taille de lot proportionnelle à environ 1 à 5 % de votre ensemble étiqueté initial et ajustez en fonction du débit d'annotation.

Quand dois-je arrêter la boucle d'apprentissage actif ?

Arrêtez lorsque les performances de validation stagnent sur plusieurs tours consécutifs, lorsque le budget d'étiquetage est épuisé, ou lorsque l'incertitude du modèle sur le pool non étiqueté restant tombe en dessous d'un seuil indiquant que le pool est largement non informatif.

Puis-je utiliser XGBoost ou LightGBM au lieu du gradient boosting de scikit-learn ?

Oui — XGBoost et LightGBM sont plus rapides et souvent plus précis ; ce sont les implémentations préférées en pratique. Assurez-vous d'utiliser predict_proba (ou l'équivalent) avec calibration plutôt que les scores de log-odds bruts pour la stratégie de requête.

Méthodes associées

Sources

  1. Settles, B. (2010). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    Ouvrir la référence de la publication
    Copié.
  2. Friedman, J. H. (2001). Greedy Function Approximation: A Gradient Boosting Machine. Annals of Statistics, 29(5), 1189–1232.

    Ouvrir la référence DOI
    Copié.