Skip to content
Retour aux résultats

Apprentissage par transfert

Introduite par
Pan, S. J. & Yang, Q. (survey); Bengio, Y. (deep learning framing)
Année
2010 (formalized); 1990s (early roots)
Type
Learning paradigm
Famille
Machine learning

Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais

Taille de police

À quoi sert-elle ?

L'apprentissage par transfert est un paradigme d'apprentissage automatique dans lequel les connaissances acquises lors de l'entraînement d'un modèle sur une tâche ou un domaine source sont réutilisées pour améliorer l'apprentissage sur une tâche ou un domaine cible différent mais connexe.

Il est particulièrement puissant lorsque les données étiquetées pour la tâche cible sont rares, et il sous-tend la plupart des applications modernes d'apprentissage profond en vision par ordinateur, en traitement du langage naturel, et au-delà.

L’intuition derrière la méthode

Imaginez apprendre à faire du vélo, puis appliquer ces connaissances d'équilibre et de coordination pour apprendre à faire de la moto — vous ne repartez pas de zéro. L'apprentissage par transfert fonctionne de la même manière : un modèle entraîné sur un ensemble de données vaste et riche (le domaine source) a déjà appris des représentations utiles telles que des bords, des textures ou des motifs grammaticaux. Lorsqu'il est appliqué à un nouvel ensemble de données cible plus petit, le modèle nécessite beaucoup moins de données étiquetées pour atteindre de bonnes performances, car le travail de représentation difficile est déjà effectué.

Histoire

Le concept de transfert de connaissances entre tâches a émergé dans les années 1990 (Pratt 1993; Thrun 1996). Le domaine a été formellement examiné et systématisé par Pan et Yang dans leur article de 2010 dans IEEE TKDE, qui reste la référence canonique. Le paradigme a été considérablement stimulé par le succès de l'apprentissage profond : Bengio et ses collègues ont montré que les réseaux profonds apprennent des représentations transférables, et le pré-entraînement sur ImageNet (Krizhevsky et al., 2012) a fait du transfert la pratique par défaut en vision par ordinateur. L'introduction de grands modèles de langage tels que BERT (2018) et GPT (2018–) a étendu l'apprentissage par transfert au NLP et l'a transformé en paradigme dominant dans pratiquement toutes les applications d'apprentissage profond.

Quand l’utiliser

L'apprentissage par transfert est le bon choix lorsque les données étiquetées pour la tâche cible sont limitées mais qu'un domaine source connexe avec des étiquettes abondantes ou un grand modèle pré-entraîné existe — par exemple, affiner BERT pour un classificateur de texte spécifique à un domaine ou adapter des CNN pré-entraînés sur ImageNet à l'imagerie médicale. Il réduit considérablement les données et le calcul nécessaires pour atteindre de fortes performances. Évitez-le lorsque les domaines source et cible sont fondamentalement sans rapport, car un transfert négatif peut dégrader les performances par rapport à un entraînement à partir de zéro. Il est également moins justifié lorsque l'ensemble de données cible est suffisamment grand pour entraîner un modèle capable indépendamment.

Limites et points d’attention

  • Un transfert négatif peut se produire lorsque les domaines source et cible sont trop dissemblables, nuisant potentiellement aux performances par rapport à un entraînement à partir de zéro.
  • L'affinage de grands modèles pré-entraînés nécessite une mémoire substantielle et, pour les très grands modèles, des ressources GPU importantes.
  • La quantité appropriée du modèle à geler par rapport à affiner dépend de la tâche et nécessite une expérimentation.
  • Le décalage de domaine entre la source et la cible peut ne pas être évident et peut dégrader silencieusement les performances.
  • Les contraintes légales et éthiques sur les modèles pré-entraînés (licence, biais des données d'entraînement) peuvent limiter leur utilisation dans certaines applications.

Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.

Points forts

  • Réduit considérablement les besoins en données étiquetées pour la tâche cible en réutilisant les représentations sources.
  • Raccourcit le temps d'entraînement et le coût de calcul par rapport à l'entraînement de grands modèles à partir de zéro.
  • Atteint souvent des performances de pointe sur des ensembles de données cibles petits et moyens.
  • Les modèles pré-entraînés à usage général (par exemple, ResNet, BERT, GPT) fournissent des points de départ solides dans de nombreux domaines.
  • Le mode d'extraction de caractéristiques permet d'utiliser des représentations profondes même sans affinage intensif par GPU.

Applications

  • Affinage de modèles de langage pré-entraînés (BERT, GPT) pour la classification de texte spécifique à un domaine, la reconnaissance d'entités nommées (NER) ou la réponse aux questions.
  • Adaptation de CNN pré-entraînés sur ImageNet (ResNet, VGG) à l'analyse d'images médicales où les scans étiquetés sont rares.
  • Systèmes de reconnaissance vocale adaptés de grands modèles multilingues à des langues à faibles ressources.
  • Analyse de sentiments inter-domaines en transférant les représentations apprises sur des avis de produits vers du texte de médias sociaux.
  • Données tabulaires : utilisation de caractéristiques de réseaux neuronaux pré-entraînés sur des ensembles de données connexes pour améliorer les prédictions sur une petite table cible.
  • Domaines scientifiques (découverte de médicaments, science des matériaux) où les données expérimentales étiquetées sont coûteuses et les modèles sources issus de la littérature chimique fournissent de fortes a priori.

Comment ça marche

Comment ça marche

1

Un modèle est entraîné sur un grand ensemble de données source où des données étiquetées abondantes sont disponibles. Durant cette phase, le modèle apprend des représentations de caractéristiques à usage général — par exemple, un réseau convolutif apprend des hiérarchies visuelles à partir de millions d'images, ou un modèle de langage apprend des motifs syntaxiques et sémantiques à partir de milliards de jetons.

2

La relation entre les domaines source et cible est évaluée. Si les domaines sont proches (par exemple, les deux impliquent des images naturelles), les représentations apprises se transfèrent plus directement. Si le décalage de domaine est important, des techniques telles que l'entraînement adversariel de domaine ou la pondération des instances sont appliquées pour réduire l'inadéquation distributionnelle avant que l'adaptation ne commence.

3

Le modèle pré-entraîné est appliqué à la tâche cible. En extraction de caractéristiques, les couches antérieures sont figées et seules les couches ultérieures spécifiques à la tâche sont remplacées et entraînées. En affinage complet (fine-tuning), toutes les couches sont mises à jour sur les données cibles, généralement avec un taux d'apprentissage plus faible pour préserver les représentations précédemment apprises et éviter l'oubli catastrophique.

4

Le modèle adapté est entraîné sur l'ensemble de données cible étiquetée (typiquement petit). Des stratégies de régularisation — telles que L2-SP (pénalité vers les poids sources), le dropout, ou l'arrêt précoce — empêchent le surajustement aux étiquettes cibles limitées. La planification du taux d'apprentissage par couche est courante dans les réseaux profonds.

5

Les performances sont mesurées sur un ensemble de test cible réservé, à l'aide de métriques appropriées à la tâche (précision, F1, RMSE, etc.). Les comparaisons avec un entraînement à partir de zéro et avec une base de référence source seule quantifient le gain de transfert et révèlent si un transfert négatif s'est produit.

Pièges courants

  • Supposer que tout modèle pré-entraîné se transférera bien sans vérifier la similarité des domaines — toujours comparer avec une base de référence d'entraînement à partir de zéro.
  • Utiliser un taux d'apprentissage trop élevé pendant l'affinage, provoquant un oubli catastrophique des représentations sources.
  • Évaluer uniquement sur l'ensemble d'entraînement cible ou ignorer une division de test réservée appropriée.
  • Ignorer les biais de l'ensemble de données hérités du domaine source, qui peuvent se propager dans les prédictions cibles.
  • Affinage sur un ensemble cible extrêmement petit sans régularisation, conduisant à un surajustement sévère.

Questions fréquentes

Quelle est la différence entre l'extraction de caractéristiques et l'affinage dans l'apprentissage par transfert ?

En extraction de caractéristiques, les poids du modèle pré-entraîné sont figés et seule une nouvelle tête spécifique à la tâche est entraînée. En affinage, certains ou tous les poids pré-entraînés sont également mis à jour sur les données cibles — généralement avec un faible taux d'apprentissage pour éviter l'oubli catastrophique. L'extraction de caractéristiques est plus rapide et moins sujette au surajustement sur de minuscules ensembles de données ; l'affinage donne généralement de meilleures performances lorsqu'il y a suffisamment de données cibles.

Comment savoir si l'apprentissage par transfert aidera ou nuira ?

La question clé est la similarité des domaines. Si les distributions source et cible partagent une structure significative (même modalité, vocabulaire similaire, concepts visuels connexes), le transfert aide presque toujours. Entraînez une base de référence à partir de zéro et comparez : si le modèle transféré n'est pas meilleur, les domaines peuvent être trop dissemblables, ou vous pourriez avoir besoin de techniques d'alignement adversariel de domaine.

Qu'est-ce que le transfert négatif ?

Le transfert négatif se produit lorsque les connaissances du domaine source nuisent activement aux performances sur la tâche cible — les représentations pré-entraînées ne correspondent pas à la structure cible et induisent l'optimisation en erreur. Il est le plus courant lorsque la source et la cible sont sémantiquement ou statistiquement dissemblables. La régularisation vers les poids sources (par exemple, L2-SP) ou l'utilisation de couches moins profondes peut l'atténuer.

Quelle quantité de données cibles ai-je besoin pour l'affinage ?

Il n'y a pas de seuil universel, mais l'apprentissage par transfert est le plus précieux lorsque le nombre d'exemples étiquetés cibles se compte en dizaines à quelques milliers. Avec très peu d'exemples (moins de ~100), geler la plupart des couches et n'entraîner que la tête (extraction de caractéristiques) est plus sûr. Avec des milliers d'exemples, un affinage plus profond est réalisable et généralement bénéfique.

L'apprentissage par transfert est-il applicable aux données tabulaires, pas seulement aux images et au texte ?

Oui, bien que ce soit moins direct. Les approches incluent le pré-entraînement de réseaux neuronaux sur de grands corpus tabulaires de domaines connexes, ou l'utilisation d'embeddings de modèles fondamentaux comme caractéristiques supplémentaires. Des bibliothèques comme SAINT et TabPFN explorent cette direction. Pour les tâches tabulaires classiques, le gradient boosting reste souvent un concurrent solide même sans transfert.

Méthodes associées

Sources

  1. Pan, S. J., & Yang, Q. (2010). A Survey on Transfer Learning. IEEE Transactions on Knowledge and Data Engineering, 22(10), 1345–1359.

    Ouvrir la référence DOI
    Copié.
  2. Bengio, Y. (2012). Deep Learning of Representations for Unsupervised and Transfer Learning. In Proceedings of ICML Workshop on Unsupervised and Transfer Learning, PMLR 27, 17–36.

    Ouvrir la référence de la publication
    Copié.