Skip to content
検索結果に戻る

マルコフ連鎖モンテカルロ法(MCMC) — メトロポリス・ヘイスティングス法とギブスサンプリング

提唱者
Metropolis et al. (1953); Gibbs sampler formalised by Geman & Geman (1984)
年
1953 (Metropolis-Hastings); 1984 (Gibbs)
種類
Simulation-based Bayesian inference / numerical integration

この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む

文字サイズ

何をする手法か?

マルコフ連鎖モンテカルロ法(MCMC)は、定常分布が目的の事後分布となるようなマルコフ連鎖を構築するシミュレーションアルゴリズム群であり、ベイズ推論や、そうでなければ解析的に解けない高次元積分の計算を可能にする。1953年にメトロポリスとその共同研究者によって開拓され、1970年にヘイスティングスによって拡張されたMCMCは、現代のベイズ統計学の基盤となっている。最も広く用いられている2つのバリアントは、一般的な提案分布からの移動を提案するメトロポリス・ヘイスティングス法と、各パラメータをその完全条件付き分布から逐次的に引き出すギブスサンプリングである。

手法の背後にある直感

霧に隠された山脈の形状を知りたいと想像してほしい。一度に全体を見ることはできないが、ランダムな方向に一歩踏み出し、地面が高いか低いかに基づいて移動するかどうかを決定できる。十分に長く歩き、どこに行ったかを記録することで、最も頻繁に訪れた場所がピークをなぞる――それが事後分布である。MCMCは高次元パラメータ空間で同じことを行う。それは、確率の高い領域に徐々にさまようサンプルの連鎖を構築するため、ヒストグラムが閉形式の表現を必要とせずに目的の分布を近似する。

歴史学

基本的なメトロポリスアルゴリズムは、1953年にメトロポリス、ローゼンブルス、ローゼンブルス、テラー、テラーによって分子シミュレーションのために発表された。ヘイスティングス(1970)はそれを非対称な提案分布に一般化し、メトロポリス・ヘイスティングスアルゴリズムを開発した。ジェマンとジェマン(1984)は、画像復元の文脈でギブスサンプリングを導入した。このアルゴリズムは、ゲルファンドとスミス(1990)がベイズ計算への広範な適用性を示し、ゲルマンとルビン(1992)がR̂収束診断を提供した後、1990年代初頭に主流の統計ツールとなった。その後、デュアンら(1987)によるハミルトニアンモンテカルロ法と、ホフマンとゲルマン(2014)によるその自動バリアントNUTSの開発は、MCMCを高次元問題に拡張した。ゲルマンらによる『Bayesian Data Analysis』(2013)と『Handbook of Markov Chain Monte Carlo』(Brooksら、2011)が、標準的な包括的参考文献である。

使うべき場面

MCMCは、ベイズモデルが指定されており、事後分布が解析的に計算できない場合に適切なツールである。これは、パラメータが数個を超えるモデルや、非共役事前分布を持つモデルでは一般的なケースである。また、潜在変数モデル、階層モデル、および不確実性を複雑なパイプライン全体に完全に伝播する必要があるあらゆる設定における標準的なアプローチでもある。尤度仕様を超えるデータに関する分布仮定は必要ない。主な実用的な要件は、連鎖が収束するために十分な反復回数である。バーンイン後のサンプルが約1,000未満では、通常、事後分布の信頼できる特性評価が得られず、高次元設定ではさらに多くのサンプルが必要となる。パラメータ空間が非常に高次元の場合、ハミルトニアンモンテカルロ法(HMC)またはNo-U-Turn Sampler(NUTS)――MCMCのアイデアの自動拡張――は、基本的なメトロポリス・ヘイスティングス法よりも大幅に効率的である。

限界と注意点

  • 有限時間での収束は保証されておらず、収束したように見える連鎖がまだ事後分布の局所的な領域に留まっている可能性がある。
  • 連続サンプル間の自己相関は、実効サンプルサイズが反復回数よりも小さいことを意味し、同等の独立サンプルよりも長い実行が必要となる。
  • 高次元パラメータ空間では、ランダムウォーク・メトロポリス・ヘイスティングス法は混合が悪く、効率的な探索にはハミルトニアンモンテカルロ法またはNUTSが必要である。
  • モデル仕様では、解析者は事前分布を慎重に選択する必要があり、不適切に選択された事前分布や誤って指定された尤度関数は、検出が困難な方法で事後分布を偏らせる可能性がある。

出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。

強み

  • 事後分布が閉形式を持たないモデル(階層モデル、欠損データ問題、複雑な尤度を含む)に対する(漸近的に)正確なベイズ推論を可能にする。
  • 派生した任意の量、予測、または決定を、不確実性を適切に伝播して計算できるように、完全な同時事後サンプルを生成する。
  • 連続、二値、およびカウントアウトカムに適用され、モデラー指定の尤度を超えるデータに関する分布仮定を課さない。
  • 複数の並列連鎖を実行することで、Gelman-Rubin R̂診断を通じて収束検証が体系的になる。

応用

  • データがグループ化されており、部分的なプーリングが望ましい心理学、教育学、医学における階層ベイズモデルのフィッティング。
  • 観測された症例数からの疫学的な区画モデル(SIR、SEIR)のパラメータ推定、不確実性定量化を含む。
  • 社会科学研究におけるベイズ構造方程式モデリングおよび潜在変数モデル。
  • 教育測定における項目応答理論(IRT)モデルの事後推論。
  • 尤度が利用可能であるが非共役である場合の、複雑なシミュレーションモデルの観測データに対するキャリブレーション。
  • ベイズパラメータ不確実性下での金融リスクモデリングおよびオプション価格設定。

使い方

使い方

1

解析者はベイズモデルを定義する。パラメータと観測データを結びつける尤度関数と、データを見る前の各パラメータに関する信念をエンコードする事前分布である。これらが一体となって、MCMCが探索する正規化されていない事後分布を定義する。事前分布と尤度関数の選択は、連鎖の構造を決定し、主題知識に基づかなければならない。

2

すべてのパラメータの初期値が選択され、連鎖の数、ウォームアップ(バーンイン)期間の長さ、およびバーンイン後の総反復回数が設定される。通常4本、異なる初期値から複数の独立した連鎖を実行することが標準的な実践であり、これにより、単一の軌跡に依存するのではなく、連鎖を比較することによって収束を評価できる。

3

各反復において、アルゴリズムはパラメータ空間での移動を提案する。メトロポリス・ヘイスティングス法では、候補が提案分布から引き出され、候補位置と現在の位置における事後密度比に依存する確率で受け入れられる。これにより、連鎖の定常分布が目的の事後分布となることが保証される。ギブスサンプリングでは、各パラメータは、完全条件付き分布から直接引き出すことによって逐次的に更新される。これにより、明示的な受理ステップが不要になる。連続するサンプルは情報を共有するため、連鎖は自己相関を示す。間引き(k番目のドローのみを保持すること)は、保存されるサンプル数を減らす代わりに、これを低減できる。

4

バーンインを破棄した後、収束が評価される。Gelman-Rubin R̂統計量は、複数の連鎖にわたる連鎖内分散と連鎖間分散を比較する。1.05未満の値は、連鎖が混合し、同じ分布に収束したことを示す。トレースプロット(反復回数に対するサンプリング値のシーケンス)と実効サンプルサイズも検査される。R̂が大きい場合やトレースプロットが貧弱な混合を示す場合は、推論を進める前にモデル、事前分布、またはサンプラー設定を修正する必要がある。

5

バーンイン後のサンプルのコレクションが、事後分布の経験的近似を形成する。点推定値(事後平均または中央値)、信用区間、および事後予測分布は、サンプルから直接計算される。サンプルは同時事後分布からのドローであるため、派生した任意の量――比率、差、パラメータの非線形関数――は、同じ関数を各サンプルに適用し、結果の分布を要約することによって推定できる。

よくある落とし穴

  • バーンイン期間をスキップまたは短縮することは、連鎖の初期の非定常部分が事後推定値を汚染することを意味する――常に十分なウォームアップを破棄すること。
  • 単一の連鎖のみを実行すると、サンプラーが収束したか、または1つの領域に閉じ込められているかを検出できなくなる――常に少なくとも4本の独立した連鎖を実行すること。
  • R̂を計算したりトレースプロットを検査したりせずに、多数の反復回数を収束の証拠として扱うことは、誤った自信を与える可能性がある――多くの反復回数だけでなく、R̂ < 1.05が必要である。
  • 自己相関を無視し、実効サンプルサイズを生のカウント数のように報告することは、精度を過大評価する――生のカウント数と並んで実効サンプルサイズを報告すること。
  • 反復回数が約1,000未満のモデルにMCMCを適用すると、一般的に信頼できる事後分布が得られない――計算予算がそれほどタイトな場合は、解析的なベイズ手法または共役モデルを検討すること。

よくある質問

MCMC連鎖が収束したかどうかをどのように判断できますか?

主要な診断はGelman-Rubin R̂統計量であり、異なる初期値から少なくとも4本の独立した連鎖を実行し、連鎖内分散と連鎖間分散を比較することによって計算される。すべてのパラメータについて1.05未満の値が従来の閾値である。トレースプロットは、連鎖が重なり、同じ領域を探索していることを示すべきである。漏斗状またはドリフトするトレースは、貧弱な混合を示唆する。実効サンプルサイズもチェックすべきである――生のカウント数と比較して非常に小さい実効サンプルサイズは、高い自己相関とより多くの反復またはより良いサンプラーの必要性を示唆する。

メトロポリス・ヘイスティングス法とギブスサンプリングの違いは何ですか?

メトロポリス・ヘイスティングス法は、ユーザー指定の提案分布から、すべてのパラメータ(またはブロック)の移動を同時に提案し、提案された移動を、目的の事後分布を定常分布として維持する確率で受け入れるか拒否する。ギブスサンプリングは代わりに、各パラメータをその完全条件付き分布(他のすべてのパラメータとデータが与えられた場合のそのパラメータの分布)から直接引き出すことによって、一度に1つずつ更新する。ギブスサンプリングは、これらの完全条件付き分布が閉形式で利用可能であることを必要とする。これは多くの共役モデルの場合に当てはまり、利用可能な場合は、すべての提案が受け入れられるため、ギブス法は非常に効率的である。メトロポリス・ヘイスティングス法はより広く適用可能であるが、許容される受理率を達成するためには提案のチューニングが必要である。

メトロポリス・ヘイスティングス法の代わりにハミルトニアンモンテカルロ法を使用すべきなのはいつですか?

ハミルトニアンモンテカルロ法(HMC)とその自動バリアントNUTSは、対数事後分布からの勾配情報を使用して、大きな、情報に基づいた移動を提案する。これらの移動は、それでも高い確率で受け入れられる。これにより、ランダムウォーク・メトロポリス・ヘイスティングス法ではほとんど常に拒否される高次元パラメータ空間において、それらははるかに効率的になる。実用的な目安として、モデルのパラメータ数が約10個を超える場合、またはメトロポリス・ヘイスティングス法の連鎖が貧弱な混合と非常に低い実効サンプルサイズを示す場合は、HMCまたはNUTSへの切り替えが推奨される。

いくつの反復が必要ですか?

普遍的な答えはないが、一般的な出発点は、連鎖ごとに1,000回のウォームアップ(バーンイン)反復と2,000回のサンプリング反復、合計4連鎖で、8,000回のバーンイン後ドローである。その適切性は、連鎖の自己相関と事後分布の複雑さに依存する。すべてのパラメータについてR̂ < 1.05であり、実効サンプルサイズが関心のある事後分布の特徴を特徴づけるのに十分大きい(通常、平均値には少なくとも数百、尾部分位数には数千の実効サンプル)場合、連鎖は十分であるとみなされる。

関連する手法

参考文献

  1. Gelman, A., Carlin, J.B., Stern, H.S., Dunson, D.B., Vehtari, A. & Rubin, D.B. (2013). Bayesian Data Analysis (3rd ed.). Chapman & Hall/CRC.

    DOI 文献を開く
    コピーしました。
  2. Brooks, S., Gelman, A., Jones, G.L. & Meng, X.-L. (Eds.) (2011). Handbook of Markov Chain Monte Carlo. Chapman & Hall/CRC.

    DOI 文献を開く
    コピーしました。