Calcul bayésien approximatif — inférence sans vraisemblance
- Année
- 2002
- Type
- Simulation-based Bayesian inference
Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais
À quoi sert-elle ?
Le calcul bayésien approximatif (ABC) est une famille de méthodes d'inférence basées sur la simulation qui estiment les distributions a posteriori sans nécessiter de fonction de vraisemblance traitable analytiquement.
Introduit par Beaumont, Zhang et Balding (2002) dans le contexte de la génétique des populations, l'ABC a remplacé la vraisemblance intraitable par des simulations de modèle répétées et une comparaison des statistiques récapitulatives entre les données simulées et observées.
L’intuition derrière la méthode
L'inférence bayésienne classique pose la question suivante : étant donné les données observées, quelle est la probabilité des paramètres du modèle ? Répondre à cette question nécessite normalement le calcul de la vraisemblance — la probabilité des données sous chaque configuration de paramètre. Pour de nombreux modèles réalistes en biologie, en écologie et en économie, ce calcul est soit analytiquement impossible, soit computationnellement prohibitif. L'ABC l'évite entièrement : au lieu de calculer la vraisemblance, il simule des données à partir du modèle, les compresse en quelques statistiques récapitulatives, et n'accepte une proposition de paramètre que lorsque ces statistiques simulées sont suffisamment proches des statistiques observées. Les propositions acceptées s'accumulent pour former une distribution a posteriori approximative. L'approximation est exacte à la limite lorsque le seuil de tolérance approche zéro, et elle s'améliore constamment à mesure que ce seuil se resserre — au prix d'une acceptation de moins de propositions.
Histoire
Les fondements de l'inférence sans vraisemblance remontent aux idées d'échantillonnage par rejet utilisées informellement en génétique des populations, mais la méthode a été formalisée et nommée par Beaumont, Zhang et Balding dans leur article fondateur de 2002 dans Genetics sur l'inférence de l'histoire démographique. Marjoram et al. (2003) ont introduit la variante ABC-MCMC pour améliorer l'efficacité, et Sisson, Fan et Beaumont (2007) ont développé le cadre de Monte Carlo séquentiel (SMC-ABC) qui réduit la tolérance de manière adaptative à travers les populations. Le Handbook of Approximate Bayesian Computation de 2018, édité par Sisson, Fan et Beaumont, consolide deux décennies de développement méthodologique. Plus récemment, des estimateurs de densité neuronaux et l'inférence amortie ont été proposés comme moyens d'apprendre la distribution a posteriori directement à partir de simulations, étendant l'ABC à l'ère de l'apprentissage automatique.
Quand l’utiliser
L'ABC est le bon choix lorsque le modèle peut être simulé en avant mais que sa fonction de vraisemblance ne peut pas être évaluée analytiquement — une situation qui se présente fréquemment en génétique des populations, en épidémiologie, en écologie et en modélisation économique basée sur les agents. Il gère les variables de résultat continues, binaires et de comptage et n'impose aucune exigence de normalité sur les données. Il n'y a pas de taille d'échantillon minimale stricte, mais les statistiques récapitulatives doivent contenir des informations adéquates sur les paramètres. Lorsque le budget de simulation est important et que la tolérance peut être fixée à un niveau bas, l'ABC approche étroitement la vraie distribution a posteriori ; lorsque les simulations sont coûteuses, le SMC-ABC ou les variantes d'estimation a posteriori neuronale sont préférables. Si la vraisemblance est traitable, le MCMC standard est plus efficace.
Limites et points d’attention
- L'ABC par rejet naïf nécessite un nombre énorme de simulations pour atteindre un seuil de tolérance bas et un taux d'acceptation significatif, ce qui le rend coûteux en termes de calcul pour les espaces de paramètres de grande dimension.
- La qualité de l'approximation a posteriori dépend de manière critique du choix des statistiques récapitulatives ; des résumés mal choisis peuvent produire une distribution a posteriori biaisée ou à variance élevée.
- Il n'y a aucune garantie analytique que les statistiques récapitulatives choisies soient exhaustives, de sorte qu'une perte d'information est généralement inévitable par rapport à la vraisemblance complète.
- Moins d'environ 1 000 propositions acceptées au total donnent généralement une approximation a posteriori peu fiable ; lorsque le budget de simulation est limité, le MCMC standard devrait être envisagé.
Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.
Points forts
- Opère sans forme analytique de la vraisemblance, ouvrant l'inférence bayésienne à des modèles génératifs complexes faciles à simuler mais difficiles à évaluer analytiquement.
- Suffisamment flexible pour gérer des résultats continus, binaires et de comptage sous n'importe quel modèle structurel que l'analyste peut encoder comme un simulateur.
- Des variantes telles que le SMC-ABC et l'ABC-MCMC réduisent considérablement le nombre de simulations nécessaires par rapport à l'échantillonnage par rejet naïf.
- L'approximation a posteriori converge vers la vraie distribution a posteriori à mesure que le seuil de tolérance approche zéro.
Applications
- Inférence de la taille de la population, de la migration et de l'histoire de la divergence en génétique des populations à partir de données de fréquence allélique.
- Estimation des taux de transmission et des paramètres de contact dans les modèles épidémiques où la vraisemblance au niveau individuel est intraitable.
- Calibrage de modèles économiques basés sur des agents aux statistiques macro-économiques observées sans vraisemblance d'équilibre sous forme analytique.
- Ajustement de modèles écologiques stochastiques — dynamique prédateur-proie, propagation des espèces — aux résumés d'observations de terrain.
- Estimation des paramètres dans les modèles de biologie des systèmes où les équations différentielles ordinaires mécanistes sont remplacées par des simulations stochastiques.
Comment ça marche
Comment ça marche
L'analyste spécifie une distribution a priori sur les paramètres du modèle, encodant ce qui est connu ou supposé avant de voir les données. Cette distribution a priori est la source à partir de laquelle les valeurs de paramètres candidates seront tirées tout au long de l'algorithme, elle doit donc couvrir la plage plausible des paramètres.
Une proposition de paramètre est tirée de la distribution a priori (ou, dans les variantes adaptatives, d'une distribution d'importance). Le modèle stochastique complet est ensuite exécuté en utilisant cette proposition pour générer un ensemble de données synthétiques. Cette étape de simulation est le cœur computationnel de l'ABC et peut être exécutée des milliers ou des millions de fois.
L'ensemble de données synthétiques et l'ensemble de données observées sont tous deux compressés en un vecteur de statistiques récapitulatives — des quantités choisies pour contenir autant d'informations que possible sur les paramètres. Idéalement, les statistiques récapitulatives sont des statistiques exhaustives, mais en pratique, elles sont choisies en fonction des connaissances du domaine et des vérifications diagnostiques.
La distance entre les statistiques récapitulatives simulées et les statistiques récapitulatives observées est calculée selon une métrique choisie. Si cette distance tombe en dessous d'un seuil de tolérance epsilon pré-spécifié, la proposition de paramètre est acceptée ; sinon, elle est rejetée. Des valeurs d'epsilon plus petites donnent une approximation a posteriori plus précise mais un taux d'acceptation plus faible.
La collection de propositions de paramètres acceptées forme un échantillon de la distribution a posteriori approximative. Cet échantillon peut être utilisé pour calculer les moyennes a posteriori, les intervalles de crédibilité et les distributions prédictives exactement de la même manière qu'un échantillon a posteriori bayésien standard. Dans le SMC-ABC, la tolérance est réduite sur une séquence de populations pour améliorer l'efficacité.
Pièges courants
- Fixer la tolérance epsilon de manière trop lâche produit une approximation qui peut différer considérablement de la vraie distribution a posteriori — toujours vérifier que le resserrement d'epsilon stabilise la distribution a posteriori.
- Les statistiques récapitulatives qui ne contiennent pas suffisamment d'informations sur les paramètres d'intérêt biaisent la distribution a posteriori vers la distribution a priori ; valider les statistiques en vérifiant si elles changent lorsque le vrai paramètre change.
- L'exécution de moins de 1 000 simulations produit un échantillon a posteriori trop mince pour être fiable ; si le coût de la simulation empêche d'atteindre ce seuil, passer au MCMC ou au SMC-ABC.
- La distribution a priori doit couvrir adéquatement l'espace des paramètres plausible ; une distribution a priori trop étroite exclura des régions de la distribution a posteriori, tandis qu'une distribution a priori beaucoup trop large gaspille le budget de simulation sur des régions implausibles.
Questions fréquentes
En quoi l'ABC est-il différent du MCMC standard ?
Les deux méthodes produisent des échantillons à partir d'une distribution a posteriori, mais le MCMC évalue la vraisemblance à chaque valeur de paramètre proposée, tandis que l'ABC remplace cette évaluation par une simulation directe et une comparaison de statistiques récapitulatives. Utilisez l'ABC lorsque la vraisemblance est intraitable ; utilisez le MCMC lorsqu'elle peut être calculée.
Comment choisir les statistiques récapitulatives ?
Les statistiques récapitulatives doivent capturer autant d'informations que possible sur les paramètres d'intérêt. La pratique courante consiste à utiliser les connaissances du domaine (par exemple, moyenne, variance, fréquences alléliques) et à valider les choix en vérifiant si les statistiques changent lorsque le vrai paramètre change. Les statistiques exhaustives n'existent que pour les modèles de la famille exponentielle ; pour les autres modèles, une certaine perte d'information est inévitable.
Quelle doit être la taille de la tolérance epsilon ?
Il n'y a pas de règle universelle. Une approche pratique consiste à resserrer epsilon progressivement et à vérifier si la forme a posteriori se stabilise. L'approximation a posteriori s'améliore à mesure qu'epsilon diminue, mais le taux d'acceptation diminue en conséquence et davantage de simulations sont nécessaires. Le SMC-ABC automatise ce compromis en réduisant epsilon de manière adaptative à travers les populations.
Quand dois-je utiliser le SMC-ABC au lieu de l'ABC par rejet ?
Lorsque la simulation est coûteuse, l'ABC par rejet naïf gaspille la plupart des simulations car le taux d'acceptation peut être extrêmement faible à une tolérance stricte. Le SMC-ABC utilise une séquence de seuils de tolérance intermédiaires et de populations pondérées par l'importance pour concentrer les simulations près de la distribution a posteriori, ce qui le rend beaucoup plus efficace pour le même epsilon final.
Méthodes associées
Sources
Beaumont, M.A., Zhang, W. & Balding, D.J. (2002). Approximate Bayesian Computation in Population Genetics. Genetics, 162(4), 2025-2035.
Ouvrir la référence DOICopié.Sisson, S.A., Fan, Y. & Beaumont, M.A. (Eds.) (2018). Handbook of Approximate Bayesian Computation. Chapman & Hall/CRC.
Ouvrir la référence DOICopié.