Zum Inhalt springen
Zurück zu den Suchergebnissen

Bootstrap-Simulation — Empirisches Resampling für statistische Inferenz

Eingeführt von
Bradley Efron
Jahr
1979
Typ
Simulation-based nonparametric inference

Dieser Text ist eine maschinelle Übersetzung und wurde noch nicht geprüft. Original auf Englisch lesen

Schriftgröße

Was leistet sie?

Die Bootstrap-Simulation, eingeführt von Bradley Efron im Jahr 1979, ist eine simulationsbasierte Inferenzmethode, die die Stichprobenverteilung praktisch jeder Statistik durch wiederholtes Ziehen mit Zurücklegen aus den beobachteten Daten ableitet.

Da sie keine parametrischen Verteilungsannahmen erfordert, bietet sie eine robuste, universell einsetzbare Alternative zu analytischen Konfidenzintervallen und parametrischen Hypothesentests für kontinuierliche, ordinale, binäre und Zähldaten.

Die Intuition hinter der Methode

Um zu verstehen, wie variabel eine Statistik wie der Mittelwert oder Median ist, würden Sie normalerweise viele unabhängige Stichproben aus der Grundgesamtheit ziehen – aber Sie haben nur eine Stichprobe. Das Bootstrap-Resampling löst dieses Problem, indem es Ihre eine Stichprobe so behandelt, als wäre sie die Grundgesamtheit und daraus Tausende neuer Stichproben mit Zurücklegen zieht. Jede neue Ziehung ist leicht unterschiedlich, und zusammen bilden sie ein empirisches Bild davon, wie sich die Statistik über wiederholte Studien hinweg verhalten würde – keine Verteilungsformel erforderlich.

Geschichte

Bradley Efron führte den Bootstrap in einer wegweisenden Arbeit von 1979 ein und erweiterte den Rahmen mit Rob Tibshirani in ihrem Lehrbuch von 1993, das die definitive Referenz bleibt. Die Methode entwickelte sich aus früheren Jackknife-Resampling-Ideen und war revolutionär, da sie einen rechnerisch handhabbaren Weg zur gültigen Inferenz bot, ohne geschlossene Stichprobenverteilungen zu benötigen. Davison und Hinkleys Monographie von 1997 erweiterte die Bootstrap-Theorie auf Regressionsmodelle, Zeitreihen und zensierte Daten und festigte die Methode als Eckpfeiler der modernen angewandten Statistik.

Wann wird sie eingesetzt?

Die Bootstrap-Simulation ist geeignet, wenn die Stichprobenverteilung einer Statistik nicht analytisch abgeleitet werden kann oder wenn parametrische Annahmen (Normalität, Homoskedastizität) nicht gerechtfertigt werden können. Sie verarbeitet kontinuierliche, ordinale, binäre und Zähldaten und funktioniert mit praktisch jedem statistischen Schätzer – einschließlich komplexer wie Regressionskoeffizienten, Korrelationsdifferenzen oder Modellgenauigkeitsmetriken. Eine Mindeststichprobengröße von etwa 20 Beobachtungen ist im Allgemeinen erforderlich; bei sehr kleinen Stichproben spiegelt die Bootstrap-Verteilung möglicherweise die Grundgesamtheit nicht ausreichend wider. Für korrelierte oder Zeitreihendaten verwenden Sie Block-Bootstrap anstelle der Standard-i.i.d.-Version.

Grenzen und Hinweise

  • Rechenintensiv, wenn B groß ist (≥ 10.000 Resamples) oder die Berechnung der Statistik teuer ist.
  • Kann keine Verzerrung oder Nichtrepräsentativität der ursprünglichen Stichprobe korrigieren – der Bootstrap erbt systematische Fehler in den Daten.
  • Kleine Originalstichproben (n < 20) liefern möglicherweise keine zuverlässige empirische Stichprobenverteilung, selbst bei vielen Resamples.
  • Standard-i.i.d.-Bootstrap ist für abhängige Daten ungültig; Block-Bootstrap muss stattdessen verwendet werden, und die Auswahl der Blockgröße erhöht die Komplexität.

Die Bedingungen der Quelle ersetzen weder eine unabhängige wissenschaftliche Prüfung noch die Validierung durch eine Analyse-Engine.

Stärken

  • Erfordert keine parametrische Verteilungsannahme – gültig unter breiten Bedingungen, wo klassische Formeln versagen.
  • Anwendbar auf praktisch jede Statistik: Mittelwerte, Mediane, Korrelationen, Regressionskoeffizienten, Modellleistungskennzahlen und benutzerdefinierte Schätzer.
  • Bietet Konfidenzintervalle und Hypothesentests ohne geschlossene Stichprobenverteilungsableitungen.
  • Einfach zu erweitern: Block-Bootstrap behandelt abhängige Daten; BCa-Intervalle behandeln Asymmetrie.

Anwendungen

  • Konstruktion von Konfidenzintervallen für komplexe Schätzer (Median, getrimmter Mittelwert, Modellgenauigkeit), für die analytische Formeln nicht verfügbar sind.
  • Hypothesentests, wenn parametrische Annahmen nicht verifiziert werden können – z. B. Vergleich zweier Gruppen bei einem schiefen kontinuierlichen Ergebnis.
  • Schätzung des Vorhersagefehlers und der Modellstabilität im maschinellen Lernen mittels Bootstrap Out-of-Bag-Sampling.
  • Biomedizinische Forschung: Ableitung von Konfidenzintervallen für Überlebenskurven, Dosis-Wirkungs-Parameter und diagnostische Testmerkmale.
  • Sozial- und Bildungswissenschaftliche Forschung: Inferenz zu Korrelationsdifferenzen, Effektstärken und zusammengesetzten Skalenwerten.

So funktioniert es

So funktioniert es

1

Beginnen Sie mit dem beobachteten Datensatz von n Beobachtungen. Stellen Sie sicher, dass die Stichprobe repräsentativ für die Zielgrundgesamtheit ist – der Bootstrap kann nur wiedergeben, was in den Daten vorhanden ist, sodass eine verzerrte oder nicht repräsentative Stichprobe verzerrte Bootstrap-Schätzungen liefert.

2

Ziehen Sie B Zufallsstichproben der Größe n aus den Originaldaten, jedes Mal mit Zurücklegen. Efron und Tibshirani (1993) empfehlen mindestens B ≥ 1.000; für Konfidenzintervalle ist B = 10.000 die Standardempfehlung. Für abhängige Daten (Zeitreihen, gruppierte Beobachtungen) verwenden Sie Block-Bootstrap, um die Abhängigkeitsstruktur zu erhalten.

3

Berechnen Sie die interessierende Statistik – Mittelwert, Median, Regressionskoeffizient, Korrelation oder jeder andere Schätzer – für jede der B Bootstrap-Stichproben. Dies erzeugt eine Bootstrap-Verteilung von B Statistikwerten.

4

Fassen Sie die B Bootstrap-Statistikwerte zu einer empirischen Stichprobenverteilung zusammen. Fassen Sie diese mit dem Bootstrap-Standardfehler und einem Bootstrap-Konfidenzintervall zusammen. Für schiefe Verteilungen wird das bias-corrected accelerated (BCa)-Intervall bevorzugt; das Perzentilintervall ist die einfachste Alternative.

5

Verwenden Sie die aggregierte Bootstrap-Verteilung, um Inferenz zu ziehen: Berichten Sie das Konfidenzintervall für den interessierenden Parameter oder berechnen Sie einen p-Wert für einen Hypothesentest, indem Sie die beobachtete Statistik mit der Bootstrap-Nullverteilung vergleichen. Da keine parametrische Annahme erforderlich war, um diesen Punkt zu erreichen, ist die Inferenz unter breiten Bedingungen gültig.

Häufige Fallstricke

  • Die Verwendung von zu wenigen Resamples (B < 1.000) führt zu instabilen Konfidenzintervallen – verwenden Sie immer mindestens B = 1.000 und B = 10.000 für endgültig berichtete KI.
  • Anwendung des Standard-i.i.d.-Bootstraps auf Zeitreihen oder gruppierte Daten verletzt die Unabhängigkeitsannahme; verwenden Sie Block-Bootstrap für abhängige Beobachtungen.
  • Gleichsetzung von Bootstrap-Konfidenzintervallen unabhängig von der Methode – das Perzentilintervall kann bei schiefen Statistiken verzerrt sein; bevorzugen Sie in diesen Fällen BCa.
  • Verwechslung des Bootstrap-Standardfehlers mit der Populationsstandardabweichung – der Bootstrap-SE schätzt die Variabilität des Schätzers, nicht die Variabilität der Rohdaten.

Häufig gestellte Fragen

Wie viele Bootstrap-Resamples benötige ich?

Mindestens B = 1.000 Resamples sind für Bootstrap-Standardfehler und grobe Konfidenzintervalle erforderlich. Für endgültig berichtete Konfidenzintervalle ist B = 10.000 die Standardempfehlung (Efron & Tibshirani, 1993). Weniger als 1.000 Resamples führen zu instabilen Ergebnissen und sollten nicht berichtet werden.

Welche Methode für Konfidenzintervalle sollte ich verwenden – Perzentil, BCa oder Basic?

Das BCa (bias-corrected accelerated)-Intervall wird in den meisten Situationen bevorzugt, insbesondere wenn die Stichprobenverteilung der Statistik asymmetrisch ist oder der Schätzer verzerrt ist. Das Perzentilintervall ist einfacher, kann aber bei Schiefe ungenau sein. BCa korrigiert sowohl für Bias als auch für Schiefe und ist somit die zuverlässigste universelle Wahl.

Kann Bootstrap mit Zeitreihen oder Paneldaten verwendet werden?

Ja, aber der Standard-i.i.d.-Bootstrap (der einzelne Beobachtungen neu abtastet) ist für abhängige Daten ungültig, da er die Abhängigkeitsstruktur zerstört. Block-Bootstrap-Methoden, die zusammenhängende Blöcke von Beobachtungen neu abtasten, erhalten die serielle Abhängigkeit und sollten immer dann verwendet werden, wenn Daten über die Zeit oder innerhalb von Clustern korreliert sind.

Funktioniert Bootstrap mit kleinen Stichproben?

Bootstrap-Inferenz ist im Allgemeinen zuverlässig, wenn n ≥ 20. Bei sehr kleinen Stichproben repräsentieren die beobachteten Daten möglicherweise nicht ausreichend die Grundgesamtheit, sodass die Bootstrap-Verteilung diese Einschränkung erbt – keine Anzahl von Resamples kompensiert eine Stichprobe, die zu klein ist, um die Form der Grundgesamtheit zu erfassen. In solchen Fällen sollten exakte Permutationstests oder Bayes'sche Methoden in Betracht gezogen werden.

Verwandte Methoden

Quellen

  1. Efron, B. & Tibshirani, R.J. (1993). An Introduction to the Bootstrap. Chapman & Hall/CRC.

    DOI-Referenz öffnen
    Kopiert.
  2. Davison, A.C. & Hinkley, D.V. (1997). Bootstrap Methods and their Application. Cambridge University Press.

    DOI-Referenz öffnen
    Kopiert.