Skip to content
検索結果に戻る

ブートストラップシミュレーション — 統計的推測のための経験的リサンプリング

提唱者
Bradley Efron
年
1979
種類
Simulation-based nonparametric inference

この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む

文字サイズ

何をする手法か?

1979年にBradley Efronによって導入されたブートストラップシミュレーションは、観測データから繰り返し置換抽出を行うことで、事実上あらゆる統計量の標本分布を導出するシミュレーションベースの推測手法である。パラメトリックな分布仮定を必要としないため、連続データ、順序データ、二値データ、カウントデータにわたって、分析的な信頼区間やパラメトリックな仮説検定に対するロバストで汎用的な代替手段を提供する。

手法の背後にある直感

通常、平均や中央値のような統計量がどれほど変動するかを理解するためには、母集団から多くの独立した標本を収集するが、実際には1つの標本しか手元にない。ブートストラップリサンプリングは、この1つの標本を母集団であるかのように扱い、そこから置換抽出によって何千もの新しい標本を抽出することでこの問題を解決する。それぞれの新しい抽出はわずかに異なり、それらを合わせることで、統計量が繰り返し研究においてどのように振る舞うかについての経験的な全体像が構築される。分布の公式は必要ない。

歴史学

Bradley Efronは1979年の画期的な論文でブートストラップを導入し、1993年の教科書でRob Tibshiraniと共にその枠組みを拡張した。この教科書は今も決定的な参考文献である。この手法は初期のジャックナイフリサンプリングのアイデアから発展し、閉形式の標本分布を必要とせずに有効な推測への計算上扱いやすい経路を提供したため、革命的であった。Davison and Hinkleyの1997年のケンブリッジモノグラフは、ブートストラップ理論を回帰モデル、時系列、打ち切りデータに拡張し、この手法を現代応用統計学の基礎として確立した。

使うべき場面

ブートストラップシミュレーションは、統計量の標本分布を解析的に導出できない場合や、パラメトリックな仮定(正規性、等分散性)が正当化できない場合に適切である。連続変数、順序変数、二値変数、カウント変数を扱い、回帰係数、相関差、モデル精度指標などの複雑なものを含む、事実上あらゆる統計的推定量に適用できる。一般的に約20以上の観測値の最小標本が必要である。非常に小さな標本では、ブートストラップ分布が母集団を適切に表現できない場合がある。相関のあるデータや時系列データには、標準的なi.i.d.バージョンではなくブロックブートストラップを使用する。

限界と注意点

  • Bが大きい場合(10,000以上のリサンプリング)や統計量の計算コストが高い場合、計算負荷が高い。
  • 偏った、または代表性のない元の標本を修正することはできない — ブートストラップはデータ内のあらゆる系統誤差を継承する。
  • 元の標本が小さい場合(n < 20)は、多くのリサンプリングを行っても信頼できる経験的標本分布を提供できない可能性がある。
  • 標準的なi.i.d.ブートストラップは従属データには無効である。代わりにブロックブートストラップを使用する必要があり、ブロックサイズの選択が複雑さを増す。

出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。

強み

  • パラメトリックな分布仮定を必要としない — 古典的な公式が破綻する広範な条件下で有効である。
  • 事実上あらゆる統計量に適用可能:平均、中央値、相関、回帰係数、モデル性能指標、およびカスタム推定量。
  • 閉形式の標本分布導出なしに信頼区間と仮説検定を提供する。
  • 拡張が容易:ブロックブートストラップは従属データを扱い、BCa区間は非対称性を扱う。

応用

  • 分析的な公式が利用できない複雑な推定量(中央値、トリム平均、モデル精度)の信頼区間を構築する。
  • パラメトリックな仮定が検証できない場合の仮説検定 — 例えば、歪んだ連続アウトカムについて2つのグループを比較する場合。
  • 機械学習におけるブートストラップのout-of-bagサンプリングによる予測誤差とモデル安定性の推定。
  • 生物医学研究:生存曲線、用量反応パラメータ、診断テスト特性の信頼区間の導出。
  • 社会科学および教育研究:相関差、効果量、複合尺度スコアに関する推測。

使い方

使い方

1

n個の観測値からなる観測データセットから始める。標本が対象母集団を代表していることを確認する。ブートストラップはデータに含まれるものしか再現できないため、偏った、または代表性のない標本は偏ったブートストラップ推定値を生み出す。

2

元のデータから、それぞれ置換抽出によってサイズnのB個のランダム標本を抽出する。Efron and Tibshirani (1993)は、最低でもB ≥ 1,000を推奨しており、信頼区間についてはB = 10,000が標準的な推奨である。従属データ(時系列、クラスター化された観測値)の場合、依存構造を保持するためにブロックブートストラップを使用する。

3

B個の各ブートストラップ標本に対して、関心のある統計量(平均、中央値、回帰係数、相関、またはその他の推定量)を計算する。これにより、B個の統計量値からなるブートストラップ分布が生成される。

4

B個のブートストラップ統計量値を集約して経験的標本分布を構築する。これをブートストラップ標準誤差とブートストラップ信頼区間で要約する。歪んだ分布の場合、バイアス補正加速型(BCa)区間が推奨される。パーセンタイル区間は最も単純な代替手段である。

5

集約されたブートストラップ分布を用いて推測を行う。関心のあるパラメータの信頼区間を報告するか、観測された統計量をブートストラップ帰無分布と比較することで仮説検定のp値を計算する。この時点までパラメトリックな仮定が不要であったため、推測は広範な条件下で有効である。

よくある落とし穴

  • リサンプリング数が少なすぎる場合(B < 1,000)は不安定な信頼区間を生成する — 常に少なくともB = 1,000を使用し、最終的に報告する信頼区間にはB = 10,000を使用する。
  • 時系列データやクラスター化されたデータに標準的なi.i.d.ブートストラップを適用すると、独立性の仮定に違反する。従属する観測値にはブロックブートストラップを使用する。
  • ブートストラップ信頼区間を方法に関わらず同等に扱うこと — 統計量が歪んでいる場合、パーセンタイル区間は偏る可能性がある。そのような場合はBCaを推奨する。
  • ブートストラップ標準誤差と母集団標準偏差を混同すること — ブートストラップSEは推定量の変動性を推定するものであり、生データの変動性ではない。

よくある質問

ブートストラップリサンプリングはいくつ必要ですか?

ブートストラップ標準誤差と大まかな信頼区間には、最低B = 1,000のリサンプリングが必要です。最終的に報告する信頼区間には、B = 10,000が標準的な推奨です(Efron & Tibshirani, 1993)。1,000未満のリサンプリングでは不安定な結果が生じるため、報告すべきではありません。

どの信頼区間法を使用すべきですか — パーセンタイル、BCa、それとも基本?

BCa(バイアス補正加速型)区間は、ほとんどの状況で推奨されます。特に統計量の標本分布が非対称である場合や、推定量が偏っている場合に有効です。パーセンタイル区間はより単純ですが、歪度がある場合には不正確になることがあります。BCaはバイアスと歪度の両方を調整するため、最も信頼性の高い汎用的な選択肢です。

ブートストラップは時系列データやパネルデータに使用できますか?

はい、しかし標準的なi.i.d.ブートストラップ(個々の観測値をリサンプリングするもの)は、依存構造を破壊するため、従属データには無効です。連続する観測値のブロックをリサンプリングするブロックブートストラップ法は、系列依存性を保持するため、データが時間的またはクラスター内で相関している場合には常に使用すべきです。

ブートストラップは小標本でも機能しますか?

ブートストラップ推測は、一般的にn ≥ 20の場合に信頼できます。非常に小さな標本では、観測データが母集団を適切に代表しない可能性があり、ブートストラップ分布はこの限界を継承します — 母集団の形状を捉えるには小さすぎる標本を、いくらリサンプリングしても補償することはできません。そのような場合は、厳密な順列検定やベイズ法を検討してください。

関連する手法

参考文献

  1. Efron, B. & Tibshirani, R.J. (1993). An Introduction to the Bootstrap. Chapman & Hall/CRC.

    DOI 文献を開く
    コピーしました。
  2. Davison, A.C. & Hinkley, D.V. (1997). Bootstrap Methods and their Application. Cambridge University Press.

    DOI 文献を開く
    コピーしました。