Skip to content
Retour aux résultats

Optimisation bayésienne — Réglage séquentiel basé sur un modèle des hyperparamètres

Introduite par
Mockus (1975); popularised for ML by Snoek, Larochelle & Adams (2012)
Année
1975 (foundational); 2012 (ML standard)
Type
Sequential model-based black-box optimization

Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais

Taille de police

À quoi sert-elle ?

L'optimisation bayésienne est une stratégie séquentielle, basée sur un modèle, pour trouver l'optimum de fonctions coûteuses en boîte noire avec le moins d'évaluations possible.

Issue des travaux de Mockus (1975) et popularisée dans la pratique de l'apprentissage automatique par Snoek, Larochelle et Adams (2012), elle ajuste un modèle probabiliste substitut — typiquement un Processus Gaussien — aux observations passées et utilise une fonction d'acquisition pour décider où sonder ensuite, équilibrant l'exploration de régions inconnues avec l'exploitation de régions prometteuses.

L’intuition derrière la méthode

Imaginez que vous devez trouver les meilleurs réglages pour un modèle d'apprentissage automatique, mais que chaque essai prend des heures à s'exécuter. Vous ne pouvez pas vous permettre de tester chaque combinaison. L'optimisation bayésienne agit comme un scientifique prudent : elle construit une carte évolutive de ce qui a été essayé et des résultats obtenus, utilise cette carte pour deviner où se situe probablement l'optimum, puis choisit la prochaine expérience la plus susceptible d'améliorer le meilleur résultat observé jusqu'à présent. Au fur et à mesure que davantage d'expériences sont réalisées, la carte devient plus précise et les choix plus intelligents — le tout sans jamais avoir besoin de connaître la formule mathématique à l'intérieur de la boîte noire.

Histoire

Les fondements théoriques de l'optimisation bayésienne ont été posés par Jonas Mockus et ses collègues dans les années 1970 à travers le concept d'amélioration attendue pour la conception expérimentale séquentielle. L'approche est restée largement académique jusqu'en 2012, lorsque Snoek, Larochelle et Adams ont publié «Practical Bayesian Optimization of Machine Learning Algorithms« à NeurIPS, démontrant que l'optimisation bayésienne basée sur les PG surpassait systématiquement le réglage manuel par des experts et la recherche aléatoire sur des benchmarks standards d'apprentissage automatique. Ces travaux ont catalysé le développement de bibliothèques dédiées et ont établi l'optimisation bayésienne comme la norme de facto pour la recherche d'hyperparamètres dans les pipelines d'apprentissage profond et d'AutoML. Le tutoriel de Peter Frazier en 2018 (arXiv:1807.02811) a ensuite fourni un traitement pédagogique unifié qui a élargi la portée de la méthode au-delà de la communauté de l'apprentissage automatique.

Quand l’utiliser

L'optimisation bayésienne est le bon choix lorsque la fonction objectif est coûteuse ou lente à évaluer — entraînement d'un grand modèle, exécution d'une simulation physique, ou réalisation d'une expérience en laboratoire — et que le budget est limité à quelques dizaines ou une centaine d'évaluations. L'espace de recherche doit être défini avec des bornes explicites pour chaque paramètre. La méthode gère naturellement les paramètres continus et ordinaux ; les espaces purement catégoriels ou de très haute dimension (plus d'environ 20 paramètres) peuvent dégrader la qualité du substitut et nécessiter des extensions telles que les forêts aléatoires comme substitut ou un prétraitement de réduction de dimensionnalité. Si les évaluations sont peu coûteuses et que le parallélisme est disponible, une recherche aléatoire ou une recherche par grille plus simples peuvent être compétitives.

Limites et points d’attention

  • Évolutivité médiocre aux espaces d'hyperparamètres de très haute dimension : l'ajustement du Processus Gaussien devient coûteux en calcul et le substitut perd de sa précision au-delà d'environ 10 à 20 dimensions.
  • Sensible au choix du noyau du substitut et de la fonction d'acquisition : de mauvais défauts peuvent entraver la convergence, en particulier sur des objectifs non stationnaires ou multimodaux.
  • Séquentielle par défaut : chaque évaluation doit être terminée avant que le prochain candidat ne soit sélectionné, limitant le parallélisme à moins que des extensions en mode batch ou asynchrones ne soient utilisées.
  • Nécessite des espaces de recherche bornés : les paramètres sans plages explicites ne peuvent pas être gérés directement.

Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.

Points forts

  • Efficace en termes d'échantillons : trouve de bonnes configurations en beaucoup moins d'évaluations que la recherche par grille ou la recherche aléatoire, ce qui est important lorsque chaque évaluation est lente ou coûteuse.
  • Équilibre principiel exploration-exploitation : la fonction d'acquisition fournit un critère formel et interprétable pour savoir où chercher ensuite.
  • Incertitude basée sur le modèle : le Processus Gaussien ne prédit pas seulement les performances, mais quantifie également sa propre confiance, permettant des décisions d'arrêt éclairées.
  • Applicable à tout objectif en boîte noire : la méthode ne nécessite aucune information de gradient ni aucune connaissance mathématique de l'intérieur de l'objectif.

Applications

  • Réglage des hyperparamètres de modèles d'apprentissage automatique et d'apprentissage profond où chaque exécution d'entraînement est coûteuse en calcul.
  • Recherche d'architecture neuronale (Neural Architecture Search, NAS) : sélection de choix architecturaux tels que la largeur des couches, les fonctions d'activation et les connexions résiduelles.
  • Conception expérimentale en ingénierie et sciences naturelles où chaque expérience physique est coûteuse ou prend du temps.
  • Pipelines d'apprentissage automatique automatique (AutoML) qui sélectionnent conjointement les algorithmes et leurs hyperparamètres.
  • Découverte de médicaments et science des matériaux, où l'évaluation d'une configuration candidate nécessite un travail de laboratoire.

Comment ça marche

Comment ça marche

1

Le praticien définit l'espace de recherche : chaque hyperparamètre à régler se voit attribuer un type (continu, ordinal) et une plage — bornes inférieure et supérieure — dans lesquelles l'optimiseur peut chercher. Une définition claire de l'espace est un prérequis à tout le reste et empêche que le substitut soit sollicité pour extrapoler au-delà des régions sûres.

2

Un petit nombre de points dans l'espace de recherche sont évalués aléatoirement ou via un plan de remplissage d'espace (par exemple, échantillonnage d'hypercube latin). Ces observations initiales — typiquement cinq à dix — fournissent suffisamment de données au substitut pour former une première carte approximative du paysage objectif avant le début de la boucle séquentielle.

3

Toutes les observations collectées jusqu'à présent sont utilisées pour ajuster un modèle probabiliste substitut, le plus souvent un Processus Gaussien. Le PG renvoie à la fois une prédiction moyenne et une estimation d'incertitude à chaque point de l'espace, capturant à la fois ce qui est connu et la confiance du modèle. Le substitut est peu coûteux à évaluer, il peut donc être interrogé des milliers de fois à la place de l'objectif réel coûteux.

4

Une fonction d'acquisition — telle que l'Amélioration Attendue (Expected Improvement, EI) ou la Borne Supérieure de Confiance (Upper Confidence Bound, UCB) — est maximisée sur le substitut pour sélectionner le prochain point candidat. L'EI quantifie le gain attendu par rapport au meilleur actuel ; l'UCB ajoute un bonus d'exploration pondéré par la confiance. Cette étape est celle où le compromis exploration-exploitation est résolu : les régions avec des performances prédites élevées et les régions avec une incertitude élevée attirent l'attention.

5

Le point candidat sélectionné par la fonction d'acquisition est passé à l'objectif réel — par exemple, l'entraînement et la validation d'un réseau neuronal avec ces hyperparamètres. Cette évaluation est l'étape coûteuse. Son résultat (le score) est enregistré aux côtés des coordonnées du candidat.

6

La nouvelle observation est ajoutée à l'ensemble de données, le substitut est réajusté, et la boucle retourne à l'étape de la fonction d'acquisition. Une fois le budget d'itérations épuisé, la configuration d'hyperparamètres qui a produit le meilleur score observé est retournée comme recommandation finale.

Pièges courants

  • Trop peu de sondes aléatoires initiales laissent le substitut mal calibré ; utilisez au moins cinq points initiaux, et plus dans les espaces de plus haute dimension.
  • Exécuter l'optimiseur pour très peu d'itérations au total (moins d'une dizaine environ) signifie que le substitut ne devient jamais fiable ; dans de tels cas, une simple recherche aléatoire est préférable.
  • Ignorer le choix de la fonction d'acquisition : l'EI favorise l'exploitation et peut se bloquer près de bons résultats précoces ; l'UCB ajoute de l'exploration via un bonus de confiance réglable — aucun n'est universellement meilleur, et le défaut doit être vérifié par rapport à la structure du problème.
  • Traiter l'optimisation bayésienne comme une boîte noire en soi : inspectez toujours la trace de convergence (meilleur score observé vs. itération) pour détecter la stagnation tôt.
  • Appliquer la méthode lorsque les évaluations sont peu coûteuses — la recherche aléatoire ou par grille convergera tout aussi bien pour une fraction des frais de mise en œuvre.

Questions fréquentes

En quoi l'optimisation bayésienne diffère-t-elle de la recherche par grille ou de la recherche aléatoire ?

La recherche par grille évalue une grille fixe de configurations et la recherche aléatoire échantillonne uniformément au hasard — toutes deux ignorent les résultats des essais précédents lors du choix du point suivant. L'optimisation bayésienne utilise activement toutes les observations passées pour construire un modèle substitut et sélectionne le point suivant le plus susceptible d'améliorer le meilleur actuel, la rendant beaucoup plus efficace en termes d'échantillons lorsque les évaluations sont coûteuses.

Quelle fonction d'acquisition dois-je utiliser ?

L'Amélioration Attendue (EI) est le défaut le plus couramment utilisé : elle mesure le gain attendu par rapport au meilleur actuel et a tendance à être fiable sur différents types de problèmes. La Borne Supérieure de Confiance (UCB) ajoute un bonus d'exploration réglable et est souvent préférée lorsque le paysage est mal compris. La Probabilité d'Amélioration (PI) est plus axée sur l'exploitation et peut converger prématurément. Commencez avec l'EI et passez à l'UCB si l'optimiseur semble stagner.

Combien d'itérations sont nécessaires ?

Il n'y a pas de règle universelle, mais moins d'une dizaine d'évaluations au total (y compris les sondes aléatoires initiales) donnent trop peu de données au substitut pour être fiable. Les déploiements pratiques utilisent généralement cinq à dix points aléatoires initiaux suivis de vingt à cinquante étapes bayésiennes séquentielles. Lorsque le meilleur score observé cesse de s'améliorer sur plusieurs itérations consécutives, le budget peut être arrêté.

L'optimisation bayésienne peut-elle être parallélisée ?

L'optimisation bayésienne standard est intrinsèquement séquentielle. Des extensions en mode batch permettent de proposer un ensemble de candidats simultanément — les stratégies courantes incluent la Pénalisation Locale et l'heuristique Kriging Believer — permettant une évaluation parallèle. Des variantes asynchrones lancent un nouveau candidat dès qu'un travailleur devient libre plutôt que d'attendre le lot complet. Ces extensions sont disponibles dans des bibliothèques telles qu'Optuna et BoTorch.

Méthodes associées

Sources

  1. Snoek, J., Larochelle, H., & Adams, R.P. (2012). Practical Bayesian Optimization of Machine Learning Algorithms. Advances in Neural Information Processing Systems (NeurIPS), 25.

    Ouvrir la référence de la publication
    Copié.
  2. Frazier, P.I. (2018). A Tutorial on Bayesian Optimization. arXiv:1807.02811.

    Ouvrir la référence de la publication
    Copié.