Inférence statistique bayésienne
- Introduite par
- Thomas Bayes
- Année
- 1763
- Type
- Method
- Famille
- probabilistic-inference
Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais
À quoi sert-elle ?
L'inférence bayésienne est un cadre statistique qui utilise le théorème de Bayes pour mettre à jour les croyances concernant des paramètres ou des hypothèses à mesure que les données s'accumulent.
Publié à titre posthume en 1763, le travail de Thomas Bayes est resté en sommeil jusqu'au XXe siècle, lorsque les avancées computationnelles (échantillonnage de Gibbs, Monte Carlo par chaînes de Markov) ont rendu les méthodes bayésiennes pratiques. Contrairement à l'inférence fréquentiste (qui traite les paramètres comme des inconnues fixes), l'analyse bayésienne traite les paramètres comme des variables aléatoires avec des distributions de probabilité, permettant des énoncés de probabilité directs sur les paramètres, l'incorporation de connaissances antérieures et la mise à jour séquentielle. Elle est essentielle en médecine de précision, dans les essais adaptatifs, les modèles hiérarchiques complexes et tout contexte où l'information a priori enrichit l'inférence.
L’intuition derrière la méthode
L'inférence bayésienne combine la croyance a priori sur un paramètre (avant l'observation des données) avec la vraisemblance des données observées pour produire une croyance a posteriori (après l'observation des données). La connaissance a priori (issue d'études précédentes, d'avis d'experts, de raisonnement théorique) est encodée sous forme de distribution de probabilité. À mesure que de nouvelles données s'accumulent, la distribution a posteriori est mise à jour vers la vraisemblance, affinant progressivement l'incertitude. Théorème de Bayes : P(paramètre|données) = P(données|paramètre) × P(paramètre) / P(données). La distribution a posteriori répond directement à des questions telles que « Quelle est la probabilité que l'effet du traitement dépasse 10 % ? » (intervalle de crédibilité) ou « Quelle est la probabilité que le traitement A soit meilleur que le traitement B ? » Ces questions sont naturelles pour les praticiens mais impossibles en inférence fréquentiste, qui produit des valeurs p et des intervalles de confiance nécessitant une interprétation prudente.
Histoire
L'article posthume de Thomas Bayes de 1763 a introduit les fondements : si un paramètre est incertain, comment les preuves mettent-elles à jour la croyance ? Laplace a redécouvert indépendamment le théorème de Bayes et l'a étendu aux problèmes de probabilité inverse. Le cadre est resté en sommeil jusqu'au XXe siècle ; les méthodes fréquentistes (Neyman, Pearson) ont dominé. Les algorithmes MCMC dans les années 1990 (échantillonnage de Gibbs, Metropolis-Hastings, Monte Carlo Hamiltonien) ont rendu le calcul bayésien pratique pour les modèles complexes. La renaissance bayésienne moderne est portée par Stan, JAGS et les packages R ; son adoption s'accélère en médecine, en apprentissage automatique et en politique.
Quand l’utiliser
Utilisez les méthodes bayésiennes lorsque : (1) des informations a priori existent et sont pertinentes (études précédentes, jugement d'experts, directives réglementaires), (2) une analyse séquentielle est nécessaire (essais adaptatifs, analyses intermédiaires), (3) des modèles hiérarchiques ou à variables latentes complexes sont requis (modèles multiniveaux, modèles de mélange), (4) des énoncés de probabilité directs sur les paramètres sont souhaités (médecine de précision, évaluation des risques), (5) les tailles d'échantillon sont petites (les priors de rétrécissement bayésiens stabilisent les estimations). Les méthodes bayésiennes sont particulièrement précieuses dans la recherche sur les maladies rares, la médecine de précision (individualisation du traitement), le développement de médicaments (prise de décision séquentielle) et les décisions politiques intégrant de multiples sources de preuves.
Limites et points d’attention
- Spécification des priors : le choix des priors est subjectif ; des personnes raisonnables peuvent être en désaccord. Une analyse de sensibilité est nécessaire pour démontrer que les conclusions sont robustes au choix du prior ; des priors mal spécifiés peuvent induire en erreur.
- Coût computationnel : l'échantillonnage MCMC est intensif en calcul pour les grands ensembles de données ou les modèles complexes ; il nécessite une expertise pour diagnostiquer la convergence.
- Manque de consensus : les praticiens bayésiens et fréquentistes sont en désaccord sur l'interprétation et la méthodologie, créant des obstacles à la publication et au financement dans les revues traditionnelles.
- Les priors par défaut sont souvent arbitraires : choisir des priors « faiblement informatifs » semble objectif mais implique des hypothèses implicites ; les résultats peuvent être sensibles au choix par défaut.
- Difficulté de comparaison de modèles : les facteurs de Bayes nécessitent le calcul de la vraisemblance marginale ; cela est coûteux en calcul et sensible à la spécification du prior dans les modèles complexes.
Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.
Points forts
- Incorporation des priors : les connaissances existantes issues d'essais précédents, de méta-analyses ou d'avis d'experts sont formellement intégrées, améliorant l'efficacité et réduisant la taille d'échantillon requise.
- Énoncés de probabilité directs : la probabilité a posteriori d'une hypothèse (P(l'effet existe|données)) répond directement aux questions scientifiques ; elle ne nécessite pas la logique contre-intuitive des valeurs p.
- Analyse séquentielle : les données sont analysées au fur et à mesure de leur accumulation ; les essais peuvent être arrêtés prématurément pour efficacité ou futilité sans gonfler l'erreur de Type I (contrairement aux tests répétés fréquentistes).
- Flexibilité pour les modèles complexes : les structures hiérarchiques, les données manquantes et les variables latentes sont naturellement prises en compte ; la régression multiniveau dans un cadre bayésien est simple.
- Les priors de rétrécissement stabilisent les estimations : particulièrement puissants pour les petits échantillons ou les données de grande dimension (nombreuses variables, peu d'observations) ; ils régularisent les coefficients vers zéro.
Applications
- Essais cliniques et médecine de précision : essais adaptatifs bayésiens ajustant les attributions de traitement en fonction des données d'efficacité/sécurité accumulées ; réduction des tailles d'échantillon et réponses plus rapides.
- Génomique et données de grande dimension : la sélection de variables bayésienne utilisant des priors parcimonieux identifie les vrais signaux parmi des milliers de marqueurs génétiques ; la régularisation prévient le surapprentissage.
- Développement de médicaments et approbation par la FDA : incorporation de données historiques d'essais précédents via des priors, réduisant les exigences de taille d'échantillon et accélérant l'approbation.
- Surveillance épidémiologique : analyse séquentielle des épidémies ; mise à jour de la probabilité d'épidémie à mesure que de nouveaux cas sont signalés ; détection précoce des épidémies.
- Modélisation environnementale et écologique : modèles hiérarchiques tenant compte des erreurs de mesure, des données manquantes et de la structure spatio-temporelle dans des systèmes complexes.
Comment ça marche
Comment ça marche
Administrer l'analyse bayésienne en : (1) spécifiant la vraisemblance (modèle de probabilité pour les données étant donné les paramètres, par exemple, modèle normal pour les résultats continus, binomial pour les binaires), (2) spécifiant les priors (distributions de probabilité sur les paramètres, représentant la connaissance a priori ou le scepticisme), (3) collectant les données, (4) calculant la distribution a posteriori (distribution de probabilité des paramètres étant donné les données, via le théorème de Bayes). Les priors peuvent être : faiblement informatifs (influence minimale du prior, laissant les données dominer), informatifs (incorporant une véritable connaissance a priori issue d'études précédentes), sceptiques (favorisant l'hypothèse nulle, nécessitant des preuves solides pour modifier les croyances), ou empiriques (utilisant des données pilotes). La justification des priors est essentielle ; il faut rapporter des analyses de sensibilité testant des priors alternatifs pour évaluer la robustesse.
Calculez la distribution a posteriori via le théorème de Bayes : P(θ|y) ∝ P(y|θ) × P(θ), où θ représente le(s) paramètre(s) et y les données. Pour les modèles simples, la distribution a posteriori est analytiquement traitable (par exemple, vraisemblance normale avec un prior conjugué normal). Pour les modèles complexes, utilisez les méthodes de Monte Carlo par chaînes de Markov (MCMC) : des algorithmes (échantillonnage de Gibbs, Metropolis-Hastings, Monte Carlo Hamiltonien) génèrent des échantillons de la distribution a posteriori, à partir desquels les estimations sont calculées. Rapportez : (1) La moyenne a posteriori et les intervalles de crédibilité (intervalle de crédibilité à 95 % : plage contenant 95 % de la probabilité a posteriori ; directement interprétable comme l'incertitude du paramètre), (2) La probabilité a posteriori des hypothèses (P(effet > 0 | données)), (3) Le facteur de Bayes comparant les modèles concurrents : BF₁₀ = P(données|modèle1) / P(données|modèle2) ; BF > 3 indique une preuve modérée pour le modèle 1, BF > 10 une preuve forte. (4) La distribution prédictive a posteriori : prédictions pour de nouvelles observations. (5) Les diagnostics du modèle : vérifications de convergence MCMC (statistique de Gelman-Rubin Rhat < 1.01), taille d'échantillon effective, tracés de trace.
La moyenne a posteriori est l'estimation ponctuelle du paramètre ; l'intervalle de crédibilité est la plage des valeurs plausibles. Contrairement aux intervalles de confiance fréquentistes (qui affirment : si nous répétions l'étude à l'infini, 95 % des IC contiendraient la vraie valeur), les intervalles de crédibilité bayésiens déclarent directement : il y a 95 % de probabilité que la vraie valeur se situe dans cet intervalle. Cette interprétation intuitive est un avantage clé. La probabilité a posteriori d'une hypothèse (par exemple, P(effet > 0|données)) répond directement à la question de savoir si le traitement fonctionne ; les valeurs p nécessitent une logique contre-intuitive. Le facteur de Bayes quantifie les preuves en faveur d'un modèle par rapport à un autre sans spécifier de seuil de signification ; il fournit une échelle de preuves continue. Examinez la forme de la distribution a posteriori (symétrique, asymétrique) pour comprendre l'incertitude des paramètres. Analyse de sensibilité : réajustez le modèle avec différents priors ; si les conclusions a posteriori sont robustes au choix du prior, l'inférence est fiable.
Pièges courants
- Spécification arbitraire du prior : ne pas justifier les priors ou ne pas effectuer d'analyse de sensibilité. Les priors doivent être explicites et justifiés ; toujours tester la robustesse aux alternatives.
- Ignorer les diagnostics MCMC : ne pas vérifier la convergence (Rhat, tracés de trace, taille d'échantillon effective) peut conduire à une inférence invalide. Toujours vérifier que les chaînes ont convergé et que la taille d'échantillon effective est adéquate.
- Sélection de modèle via la valeur p prédictive a posteriori : semble similaire aux valeurs p fréquentistes mais a une interprétation différente ; une mauvaise utilisation conduit à une inflation de l'erreur de Type I.
- Équivalent du p-hacking en bayésien : choisir les priors a posteriori pour atteindre les conclusions souhaitées (inconsciemment ou intentionnellement) compromet la validité. Spécifiez les priors a priori.
- Rétrécissement trop confiant : des priors forts réduisent fortement les estimations vers la moyenne du prior ; cela peut masquer les vrais effets si le prior est mal spécifié. Utilisez les priors sceptiques avec prudence ; assurez-vous d'effectuer une analyse de sensibilité.
- Mauvaise interprétation des facteurs de Bayes : BF = 3 ne signifie pas 75 % de probabilité qu'un modèle soit correct (cela nécessite de spécifier les probabilités a priori des modèles). BF quantifie les preuves, pas la probabilité a posteriori du modèle.
Questions fréquentes
Qu'est-ce qu'un intervalle de crédibilité, et en quoi diffère-t-il d'un intervalle de confiance ?
Un intervalle de crédibilité bayésien (généralement à 95 %) est la plage contenant 95 % de la probabilité a posteriori ; il est directement interprétable comme : « il y a 95 % de probabilité que le vrai paramètre se situe dans cet intervalle. » Un intervalle de confiance fréquentiste (IC à 95 %) est une plage construite de telle sorte que, si l'étude était répétée à l'infini, 95 % des IC construits contiendraient le vrai paramètre. Ceux-ci sont fondamentalement différents : l'intervalle de crédibilité concerne la probabilité du paramètre ; l'intervalle de confiance concerne la répétabilité de la procédure. En pratique, pour les problèmes standards, ils se chevauchent souvent numériquement, ce qui prête à confusion. Spécifiez toujours celui que vous rapportez.
Qu'est-ce qu'un prior, et comment en choisir un ?
Un prior est la distribution de probabilité sur les valeurs des paramètres avant d'observer les données, reflétant les connaissances ou les hypothèses a priori. Les priors faiblement informatifs apportent une information minimale (distributions plates) ; les priors informatifs incorporent une véritable connaissance a priori (par exemple, effet du traitement < 20 % d'après des essais précédents). Les priors sceptiques favorisent fortement l'hypothèse nulle (pas d'effet), nécessitant des preuves solides des données pour changer. Choisissez les priors en : (1) examinant la littérature antérieure, (2) consultant des experts du domaine, (3) spécifiant des plages de valeurs plausibles, (4) testant la sensibilité à des priors alternatifs. Rapportez toujours les priors explicitement et justifiez-les. Si les conclusions changent radicalement avec différents priors raisonnables, l'inférence est faible et davantage de données sont nécessaires.
Qu'est-ce qu'un facteur de Bayes, et comment l'interpréter ?
Un facteur de Bayes (BF) quantifie les preuves en faveur d'un modèle par rapport à un autre : BF₁₀ = P(données|modèle 1) / P(données|modèle 2). BF > 1 favorise le modèle 1. Interprétation : BF = 3 = « preuve modérée pour le modèle 1 » ; BF = 10 = « preuve forte » ; BF > 100 = « preuve décisive ». Contrairement aux valeurs p, le BF ne nécessite pas de seuil de signification prédéfini. Le BF peut favoriser l'hypothèse nulle (BF < 1), détectant l'absence de preuve. Limitation : le calcul du BF nécessite de spécifier les probabilités a priori des modèles (quel modèle est a priori plausible) ; différentes attributions de priors donnent différentes valeurs de BF. Utilisez le BF pour la comparaison de modèles lorsque les deux modèles ont une motivation pratique claire.
L'analyse bayésienne évite-t-elle le problème des comparaisons multiples ?
Partiellement. L'inférence bayésienne n'utilise pas de valeurs p ni de seuils de signification, de sorte que la correction traditionnelle des comparaisons multiples (Bonferroni) est inutile. Cependant, lors de l'ajustement de nombreux modèles et de la sélection basée sur des critères a posteriori (DIC, WAIC), vous risquez le surapprentissage et un biais de sélection de modèle analogue aux tests multiples fréquentistes. Meilleure pratique : spécifiez les modèles a priori sur la base de la théorie, et non de l'exploration des données. Si exploratoire, appliquez la validation croisée pour évaluer la généralisation. La moyenne de modèles bayésiens (combinant les prédictions de plusieurs modèles pondérées par les probabilités a posteriori) est une solution élégante à l'incertitude du modèle.
Méthodes associées
Sources
Bayes, T. (1763). An essay towards solving a problem in the doctrine of chances. Philosophical Transactions of the Royal Society, 53, 370–418.
Ouvrir la référence de la publicationCopié.Gelman, A., Carlin, J. B., Stern, H. S., & Rubin, D. B. (2013). Bayesian Data Analysis (3rd ed.). CRC Press.
Ouvrir la référence DOICopié.Kruschke, J. K. (2015). Doing Bayesian Data Analysis: A Tutorial with R, JAGS, and Stan (2nd ed.). Academic Press.
Ouvrir la référence DOICopié.