Skip to content
Retour aux résultats

Simulation Bootstrap — Rééchantillonnage Empirique pour l'Inférence Statistique

Introduite par
Bradley Efron
Année
1979
Type
Simulation-based nonparametric inference

Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais

Taille de police

À quoi sert-elle ?

La simulation bootstrap, introduite par Bradley Efron en 1979, est une méthode d'inférence basée sur la simulation qui dérive la distribution d'échantillonnage de pratiquement n'importe quelle statistique en rééchantillonnant de manière répétée avec remise à partir des données observées.

Parce qu'elle ne requiert aucune hypothèse de distribution paramétrique, elle offre une alternative robuste et polyvalente aux intervalles de confiance analytiques et aux tests d'hypothèse paramétriques pour les données continues, ordinales, binaires et de comptage.

L’intuition derrière la méthode

Normalement, pour comprendre la variabilité d'une statistique comme la moyenne ou la médiane, il faudrait collecter de nombreux échantillons indépendants de la population — mais vous ne disposez que d'un seul échantillon. Le rééchantillonnage bootstrap résout ce problème en traitant votre échantillon unique comme s'il était la population et en tirant des milliers de nouveaux échantillons avec remise. Chaque nouveau tirage est légèrement différent, et ensemble, ils construisent une image empirique du comportement de la statistique à travers des études répétées — aucune formule de distribution n'est requise.

Histoire

Bradley Efron a introduit le bootstrap dans un article marquant en 1979 et a développé le cadre avec Rob Tibshirani dans leur manuel de 1993, qui reste la référence définitive. La méthode est issue des idées antérieures de rééchantillonnage par jackknife et a été révolutionnaire car elle offrait une voie calculatoirement traitable vers une inférence valide sans nécessiter de distributions d'échantillonnage en forme fermée. La monographie de Cambridge de Davison et Hinkley de 1997 a étendu la théorie du bootstrap aux modèles de régression, aux séries chronologiques et aux données censurées, consolidant la méthode comme une pierre angulaire des statistiques appliquées modernes.

Quand l’utiliser

La simulation bootstrap est appropriée chaque fois que la distribution d'échantillonnage d'une statistique ne peut pas être dérivée analytiquement ou lorsque les hypothèses paramétriques (normalité, homoscédasticité) ne peuvent pas être justifiées. Elle gère les variables continues, ordinales, binaires et de comptage et fonctionne avec pratiquement n'importe quel estimateur statistique — y compris des estimateurs complexes tels que les coefficients de régression, les différences de corrélation ou les métriques de précision de modèle. Un échantillon minimum d'environ 20 observations est généralement nécessaire ; avec de très petits échantillons, la distribution bootstrap peut ne pas représenter adéquatement la population. Pour les données corrélées ou les séries chronologiques, utilisez le bootstrap par blocs plutôt que la version i.i.d. standard.

Limites et points d’attention

  • Intensif en calcul lorsque B est grand (10 000+ rééchantillonnages) ou que la statistique est coûteuse à calculer.
  • Ne peut pas corriger un échantillon original biaisé ou non représentatif — le bootstrap hérite de toute erreur systématique dans les données.
  • Les petits échantillons originaux (n < 20) peuvent ne pas fournir une distribution d'échantillonnage empirique fiable, même avec de nombreux rééchantillonnages.
  • Le bootstrap i.i.d. standard est invalide pour les données dépendantes ; le bootstrap par blocs doit être utilisé à la place, et la sélection de la taille des blocs ajoute de la complexité.

Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.

Points forts

  • Ne nécessite aucune hypothèse de distribution paramétrique — valide dans de larges conditions où les formules classiques échouent.
  • Applicable à pratiquement n'importe quelle statistique : moyennes, médianes, corrélations, coefficients de régression, métriques de performance de modèle et estimateurs personnalisés.
  • Fournit des intervalles de confiance et des tests d'hypothèse sans dérivations de distribution d'échantillonnage en forme fermée.
  • Facile à étendre : le bootstrap par blocs gère les données dépendantes ; les intervalles BCa gèrent l'asymétrie.

Applications

  • Construction d'intervalles de confiance pour des estimateurs complexes (médianes, moyennes tronquées, précision de modèle) lorsque les formules analytiques sont indisponibles.
  • Test d'hypothèse lorsque les hypothèses paramétriques ne peuvent pas être vérifiées — par exemple, comparer deux groupes sur un résultat continu asymétrique.
  • Estimation de l'erreur de prédiction et de la stabilité du modèle en apprentissage automatique via l'échantillonnage out-of-bag bootstrap.
  • Recherche biomédicale : dérivation d'intervalles de confiance pour les courbes de survie, les paramètres dose-réponse et les caractéristiques des tests diagnostiques.
  • Recherche en sciences sociales et en éducation : inférence sur les différences de corrélation, les tailles d'effet et les scores d'échelles composites.

Comment ça marche

Comment ça marche

1

Commencez par l'ensemble de données observées de n observations. Vérifiez que l'échantillon est représentatif de la population cible — le bootstrap ne peut reproduire que ce qui est dans les données, donc un échantillon biaisé ou non représentatif produira des estimations bootstrap biaisées.

2

Tirez B échantillons aléatoires de taille n à partir des données originales, en échantillonnant à chaque fois avec remise. Efron et Tibshirani (1993) recommandent un minimum de B ≥ 1 000 ; pour les intervalles de confiance, B = 10 000 est la recommandation standard. Pour les données dépendantes (séries chronologiques, observations groupées), utilisez le bootstrap par blocs pour préserver la structure de dépendance.

3

Calculez la statistique d'intérêt — moyenne, médiane, coefficient de régression, corrélation, ou tout autre estimateur — sur chacun des B échantillons bootstrap. Cela produit une distribution bootstrap de B valeurs de la statistique.

4

Assemblez les B valeurs de la statistique bootstrap en une distribution d'échantillonnage empirique. Résumez-la avec l'erreur standard bootstrap et un intervalle de confiance bootstrap. Pour les distributions asymétriques, l'intervalle corrigé par le biais et accéléré (BCa) est préféré ; l'intervalle de percentiles est l'alternative la plus simple.

5

Utilisez la distribution bootstrap agrégée pour faire des inférences : rapportez l'intervalle de confiance pour le paramètre d'intérêt, ou calculez une valeur p pour un test d'hypothèse en comparant la statistique observée à la distribution nulle bootstrap. Puisqu'aucune hypothèse paramétrique n'était nécessaire pour arriver à ce point, l'inférence est valide dans de larges conditions.

Pièges courants

  • Utiliser trop peu de rééchantillonnages (B < 1 000) produit des intervalles de confiance instables — utilisez toujours au moins B = 1 000 et B = 10 000 pour les IC finaux rapportés.
  • Appliquer le bootstrap i.i.d. standard à des séries chronologiques ou des données groupées viole l'hypothèse d'indépendance ; utilisez le bootstrap par blocs pour les observations dépendantes.
  • Traiter les intervalles de confiance bootstrap comme équivalents quelle que soit la méthode — l'intervalle de percentiles peut être biaisé lorsque la statistique est asymétrique ; préférez BCa dans ces cas.
  • Confondre l'erreur standard bootstrap avec l'écart-type de la population — l'erreur standard bootstrap estime la variabilité de l'estimateur, pas la variabilité des données brutes.

Questions fréquentes

De combien de rééchantillonnages bootstrap ai-je besoin ?

Un minimum de B = 1 000 rééchantillonnages est requis pour les erreurs standard bootstrap et les intervalles de confiance approximatifs. Pour les intervalles de confiance finaux rapportés, B = 10 000 est la recommandation standard (Efron & Tibshirani, 1993). Moins de 1 000 rééchantillonnages produisent des résultats instables et ne devraient pas être rapportés.

Quelle méthode d'intervalle de confiance dois-je utiliser — percentile, BCa ou basique ?

L'intervalle BCa (corrigé par le biais et accéléré) est préféré dans la plupart des situations, en particulier lorsque la distribution d'échantillonnage de la statistique est asymétrique ou que l'estimateur est biaisé. L'intervalle de percentiles est plus simple mais peut être imprécis en cas d'asymétrie. BCa ajuste à la fois le biais et l'asymétrie, ce qui en fait le choix le plus fiable à usage général.

Le bootstrap peut-il être utilisé avec des séries chronologiques ou des données de panel ?

Oui, mais le bootstrap i.i.d. standard (qui rééchantillonne des observations individuelles) est invalide pour les données dépendantes car il rompt la structure de dépendance. Les méthodes de bootstrap par blocs, qui rééchantillonnent des blocs contigus d'observations, préservent la dépendance sérielle et doivent être utilisées chaque fois que les données sont corrélées dans le temps ou au sein de clusters.

Le bootstrap fonctionne-t-il avec de petits échantillons ?

L'inférence bootstrap est généralement fiable lorsque n ≥ 20. Avec de très petits échantillons, les données observées peuvent ne pas représenter adéquatement la population, de sorte que la distribution bootstrap hérite de cette limitation — aucune quantité de rééchantillonnage ne compense un échantillon trop petit pour capturer la forme de la population. Dans de tels cas, envisagez des tests de permutation exacts ou des méthodes bayésiennes.

Méthodes associées

Sources

  1. Efron, B. & Tibshirani, R.J. (1993). An Introduction to the Bootstrap. Chapman & Hall/CRC.

    Ouvrir la référence DOI
    Copié.
  2. Davison, A.C. & Hinkley, D.V. (1997). Bootstrap Methods and their Application. Cambridge University Press.

    Ouvrir la référence DOI
    Copié.