Skip to content
Retour aux résultats

Optimisation basée sur les modèles de substitution — Conception assistée par métamodèles

Introduite par
Sacks, Welch, Mitchell & Wynn (computer experiments framework, 1989); Kriging popularised by Matheron (1963)
Année
1989 (computer experiments formulation)
Type
Metamodel-assisted black-box optimization

Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais

Taille de police

À quoi sert-elle ?

L'optimisation basée sur les modèles de substitution, formalisée dans le cadre des expériences informatiques de Sacks et al. (1989) et popularisée pour l'ingénierie par Forrester et al. (2008), remplace une simulation ou une expérience physique trop coûteuse par un modèle approximatif bon marché — appelé modèle de substitution ou métamodèle — puis optimise ce modèle de substitution.

Le modèle de substitution est généralement un Krigeage (processus gaussien), une fonction de base radiale (RBF) ou une surface de réponse polynomiale ajustée à un petit ensemble d'évaluations de conception soigneusement choisies et périodiquement mise à jour au fur et à mesure de la progression de la recherche.

L’intuition derrière la méthode

Imaginez que chaque fois que vous souhaitez tester une nouvelle forme d'aile d'avion, vous deviez exécuter une simulation complète de dynamique des fluides numérique (CFD) qui prend 48 heures. Exécuter des milliers de ces évaluations pour trouver la meilleure forme est impossible. L'optimisation basée sur les modèles de substitution contourne ce problème en exécutant d'abord un petit lot de simulations à des points de conception bien répartis, en ajustant un substitut mathématique rapide (le modèle de substitution) qui prédit les performances pour toute conception non testée en quelques secondes, en optimisant ce substitut, puis en choisissant stratégiquement la nouvelle conception la plus prometteuse à simuler réellement. Le modèle de substitution devient plus intelligent à chaque nouveau point de données ajouté, et finalement le simulateur coûteux n'est appelé que là où cela compte vraiment.

Histoire

Les fondements statistiques ont été posés par Sacks, Welch, Mitchell et Wynn dans leur article fondateur de 1989 « Design and Analysis of Computer Experiments » (Statistical Science), qui a introduit le cadre de Krigeage pour l'émulation de codes informatiques déterministes. Le Krigeage lui-même remonte aux travaux de géostatistique de Georges Matheron dans les années 1960. L'approche a été systématisée pour l'optimisation de la conception en ingénierie par Forrester, Sobester et Keane dans leur monographie Wiley de 2008, qui a établi l'échantillonnage hypercube latin, la validation croisée et l'enrichissement par amélioration attendue comme pipeline standard. Depuis lors, le domaine s'est étendu pour inclure les modèles de substitution multi-fidélité, l'optimisation bayésienne (une formulation probabiliste étroitement liée) et les modèles de substitution d'apprentissage profond pour les problèmes de très grande dimensionnalité.

Quand l’utiliser

L'optimisation basée sur les modèles de substitution est le bon choix lorsque la fonction objectif réelle est trop coûteuse à évaluer — par CFD, analyse par éléments finis, expériences en laboratoire ou simulations multi-physiques — de sorte que seules des dizaines à quelques centaines d'évaluations sont abordables. La méthode exige que la réponse réelle soit suffisamment lisse pour qu'un modèle de substitution puisse l'approximer ; des fonctions très discontinues ou stochastiques peuvent nécessiter des modèles de substitution spécialisés ou des techniques de réduction de variance. L'espace de conception doit être continu. Un plan initial à remplissage d'espace (échantillonnage hypercube latin) et une validation croisée obligatoire du modèle de substitution sont des prérequis non négociables.

Limites et points d’attention

  • La précision du modèle de substitution se dégrade dans les espaces de grande dimension (la malédiction de la dimensionnalité) ; généralement pratique jusqu'à environ 20 à 50 variables de conception sans réduction de dimensionnalité.
  • Si la fonction réelle est très discontinue ou multimodale, le modèle de substitution peut la mal représenter et guider l'optimiseur vers un faux optimum.
  • Le budget d'entraînement initial doit être défini avec soin ; trop peu de points produisent un mauvais modèle de substitution, trop en annulent l'objectif d'éviter les évaluations coûteuses.
  • L'ajustement du Krigeage et l'optimisation de la fonction d'acquisition ajoutent une surcharge computationnelle qui augmente avec la taille de l'ensemble d'entraînement.

Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.

Points forts

  • Réduit considérablement le nombre d'évaluations réelles coûteuses nécessaires pour trouver une conception quasi-optimale.
  • Les modèles de substitution de Krigeage fournissent des estimations d'incertitude qui permettent des stratégies d'enrichissement fondées sur des principes, telles que l'amélioration attendue.
  • Fonctionne sur des problèmes de boîte noire où aucune information de gradient n'est disponible.
  • Applicable à l'ingénierie, à la science et à tout domaine où le coût de la simulation est prédominant.
  • Le modèle de substitution réutilisable peut répondre à plusieurs questions de conception sans évaluations réelles supplémentaires.

Applications

  • Optimisation de la forme aérodynamique des ailes d'avion et des aubes de turbine à l'aide de simulations CFD.
  • Optimisation structurelle dans les analyses par éléments finis où chaque simulation prend des heures.
  • Conception de la résistance aux chocs automobiles et du NVH (bruit, vibration, dureté) avec des budgets d'évaluation serrés.
  • Conception de processus chimiques et de réacteurs où les expériences physiques sont coûteuses et lentes.
  • Réglage des hyperparamètres en apprentissage automatique lorsque l'entraînement d'un modèle est lui-même coûteux.
  • Développement de formulations pharmaceutiques et conception d'essais cliniques.

Comment ça marche

Comment ça marche

1

Un plan d'expériences à remplissage d'espace — le plus souvent l'échantillonnage hypercube latin — est utilisé pour placer un ensemble initial de points de conception dans tout l'espace réalisable. L'objectif est une répartition maximale afin que le modèle de substitution puisse être entraîné avec un biais minimal envers toute région.

2

Chaque point de conception initial est transmis au véritable évaluateur coûteux : un solveur CFD, une analyse par éléments finis, un test de prototype physique ou toute autre fonction haute-fidélité. Cette étape est le goulot d'étranglement computationnel ; sa sortie forme l'ensemble de données d'entraînement pour le modèle de substitution.

3

Un modèle de substitution — Krigeage, fonction de base radiale, surface de réponse polynomiale ou réseau neuronal — est ajusté aux données d'entraînement. Le Krigeage est préféré en conception d'ingénierie car il fournit non seulement une prédiction mais aussi une estimation quantifiée de l'incertitude à chaque point non visité.

4

L'ajustement du modèle de substitution est vérifié par validation croisée ou en comparant les prédictions du modèle de substitution sur un ensemble de points de test mis de côté aux évaluations réelles. Des métriques telles que le R-carré, le RMSE et l'erreur absolue maximale indiquent si le modèle de substitution représente suffisamment bien la fonction réelle pour guider l'optimisation. Si la validation échoue, des points d'entraînement supplémentaires sont ajoutés.

5

Un optimiseur bon marché — basé sur le gradient ou évolutionnaire — recherche l'optimum sur le modèle de substitution ajusté. Parce que l'évaluation du modèle de substitution ne coûte presque rien, des milliers de solutions candidates peuvent être évaluées en quelques secondes.

6

La conception prédite comme optimale (ou la plus informative, selon les critères d'amélioration attendue) est renvoyée à l'évaluateur coûteux. Sa réponse réelle est ajoutée à l'ensemble d'entraînement et le modèle de substitution est réajusté. Cette boucle continue jusqu'à ce qu'un critère d'arrêt — budget, convergence ou objectif de précision — soit atteint.

Pièges courants

  • Ignorer la validation croisée du modèle de substitution est l'erreur la plus courante — un modèle de substitution mal ajusté induira systématiquement l'optimiseur en erreur.
  • L'utilisation d'un plan initial aléatoire uniforme au lieu d'un hypercube latin à remplissage d'espace laisse des régions de l'espace de conception mal couvertes, créant des angles morts pour le modèle de substitution.
  • L'application de la méthode à des problèmes avec des réponses stochastiques (simulations bruyantes ou expériences physiques) sans tenir compte du bruit dans le modèle de substitution conduit à un sur-ajustement au bruit plutôt qu'à la vraie tendance.
  • Arrêter la boucle de mise à jour trop tôt — avant que le modèle de substitution n'ait convergé — peut signifier que l'optimum rapporté est un artefact du modèle de substitution plutôt qu'une véritable amélioration de la conception.

Questions fréquentes

Quel type de modèle de substitution dois-je choisir — Krigeage, RBF ou polynomial ?

Le Krigeage (processus gaussien) est le choix par défaut pour la conception en ingénierie car il fournit à la fois une prédiction et une estimation d'incertitude ponctuelle, permettant des stratégies d'enrichissement fondées sur des principes telles que l'amélioration attendue. Les fonctions de base radiale sont moins coûteuses en calcul et s'adaptent un peu mieux. Les surfaces de réponse polynomiales sont simples et interprétables mais ont des difficultés avec les réponses non linéaires ou multimodales. Commencez par le Krigeage à moins que la dimensionnalité ou la taille de l'ensemble d'entraînement ne le rende impraticable.

De combien de points de conception initiaux ai-je besoin ?

Une règle empirique courante est de 10 fois le nombre de variables de conception pour l'échantillon initial d'hypercube latin, bien que cela dépende de la régularité de la réponse. Les métriques de validation (R-carré de validation croisée, RMSE) doivent confirmer que le modèle de substitution est adéquat avant que l'optimisation ne se poursuive. Des points supplémentaires sont ajoutés via la boucle d'enrichissement plutôt qu'en une seule fois.

L'optimisation basée sur les modèles de substitution est-elle la même chose que l'optimisation bayésienne ?

Elles sont étroitement liées mais non identiques. L'optimisation bayésienne est une forme spécifique d'optimisation basée sur les modèles de substitution qui utilise un modèle de substitution de processus gaussien avec une fonction d'acquisition probabiliste (telle que l'amélioration attendue) pour sélectionner les points d'enrichissement. Le cadre plus large de l'optimisation basée sur les modèles de substitution inclut des modèles de substitution non probabilistes (RBF, polynomial) et d'autres critères d'enrichissement, de sorte que l'optimisation bayésienne en est un sous-ensemble.

Que se passe-t-il si ma simulation est bruyante plutôt que déterministe ?

Le Krigeage standard suppose une réponse déterministe. Pour les simulateurs stochastiques, un terme de bruit doit être ajouté au modèle de covariance de Krigeage (paramètre nugget ou Krigeage stochastique). Sans cela, le modèle de substitution sur-ajustera le bruit plutôt que la vraie tendance et l'optimiseur sera induit en erreur.

Méthodes associées

Sources

  1. Forrester, A., Sobester, A., & Keane, A. (2008). Engineering Design via Surrogate Modelling: A Practical Guide. Wiley.

    Ouvrir la référence de la publication
    Copié.
  2. Sacks, J., Welch, W. J., Mitchell, T. J., & Wynn, H. P. (1989). Design and Analysis of Computer Experiments. Statistical Science, 4(4), 409-423.

    Ouvrir la référence DOI
    Copié.