Skip to content
Kembali ke hasil pencarian

Metropolis-Hastings (MCMC) — Metropolis-Hastings dan Gibbs Sampling

Diperkenalkan oleh
Metropolis et al. (1953); Gibbs sampler formalised by Geman & Geman (1984)
Tahun
1953 (Metropolis-Hastings); 1984 (Gibbs)
Jenis
Simulation-based Bayesian inference / numerical integration

Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris

Ukuran huruf

Apa fungsinya?

Metropolis-Hastings (MCMC) adalah keluarga algoritma simulasi yang membangun rantai Markov yang distribusi stasionernya adalah posterior target, memungkinkan inferensi Bayesian dan komputasi integral berdimensi tinggi yang jika tidak akan sulit dipecahkan secara analitis.

Dipelopori oleh Metropolis dan kolega pada tahun 1953 dan diperluas oleh Hastings pada tahun 1970, MCMC mendasari statistik Bayesian modern. Dua varian yang paling banyak digunakan adalah Metropolis-Hastings, yang mengusulkan pergerakan dari distribusi proposal umum, dan Gibbs sampling, yang menarik setiap parameter secara bergantian dari distribusi kondisional penuhnya.

Intuisi di balik metode

Bayangkan Anda ingin mengetahui bentuk rangkaian pegunungan yang tersembunyi di balik kabut. Anda tidak dapat melihatnya sekaligus, tetapi Anda dapat mengambil langkah ke arah acak dan memutuskan apakah akan bergerak berdasarkan apakah tanah lebih tinggi atau lebih rendah. Dengan berjalan cukup lama dan mencatat ke mana saja Anda telah pergi, tempat-tempat yang paling sering Anda kunjungi akan membentuk puncak — itulah distribusi posterior. MCMC melakukan hal yang sama dalam ruang parameter berdimensi tinggi: ia membangun rantai sampel yang secara bertahap mengembara ke wilayah probabilitas tinggi, sehingga histogram nilai yang dikunjungi mendekati distribusi target tanpa perlu ekspresi bentuk tertutup untuk itu.

Sejarah

Algoritma Metropolis dasar diterbitkan pada tahun 1953 oleh Metropolis, Rosenbluth, Rosenbluth, Teller, dan Teller untuk simulasi molekuler. Hastings (1970) menggeneralisasikannya ke distribusi proposal asimetris, menghasilkan algoritma Metropolis-Hastings. Geman dan Geman (1984) memperkenalkan Gibbs sampling dalam konteks restorasi gambar. Algoritma ini menjadi alat statistik arus utama pada awal 1990-an setelah Gelfand dan Smith (1990) mendemonstrasikan penerapan luasnya untuk komputasi Bayesian, dan Gelman dan Rubin (1992) menyediakan diagnostik konvergensi R̂. Pengembangan selanjutnya dari Hamiltonian Monte Carlo oleh Duane et al. (1987) dan varian otomatisnya NUTS oleh Hoffman dan Gelman (2014) memperluas MCMC ke masalah berdimensi tinggi. Bayesian Data Analysis karya Gelman et al. (2013) dan Handbook of Markov Chain Monte Carlo (Brooks et al., 2011) adalah referensi komprehensif standar.

Kapan digunakan

MCMC adalah alat yang tepat ketika model Bayesian telah ditentukan dan distribusi posterior tidak dapat dihitung secara analitis — yang merupakan kasus umum untuk model dengan lebih dari beberapa parameter atau dengan prior non-konjugat. Ini juga merupakan pendekatan standar untuk model variabel laten, model hierarkis, dan pengaturan apa pun di mana ketidakpastian harus disebarkan sepenuhnya melalui alur kerja yang kompleks. Tidak ada asumsi distribusi tentang data yang diperlukan di luar spesifikasi kemungkinan. Persyaratan praktis utama adalah jumlah iterasi yang cukup agar rantai konvergen: kurang dari sekitar 1.000 sampel pasca-burn-in biasanya tidak akan memberikan karakterisasi posterior yang andal, dan dalam pengaturan berdimensi tinggi, lebih banyak lagi yang dibutuhkan. Ketika ruang parameter sangat berdimensi tinggi, Hamiltonian Monte Carlo (HMC) atau No-U-Turn Sampler (NUTS) — ekstensi otomatis dari ide MCMC — secara substansial lebih efisien daripada Metropolis-Hastings dasar.

Batasan dan pertimbangan

  • Konvergensi tidak dijamin dalam waktu terbatas; rantai yang tampaknya telah konvergen mungkin masih terjebak di wilayah posterior lokal.
  • Autokorelasi antara sampel berturut-turut berarti ukuran sampel efektif lebih kecil dari jumlah iterasi mentah, membutuhkan jalankan yang lebih lama daripada yang dibutuhkan sampel independen yang setara.
  • Dalam ruang parameter berdimensi tinggi, Metropolis-Hastings random-walk bercampur buruk; Hamiltonian Monte Carlo atau NUTS diperlukan untuk eksplorasi yang efisien.
  • Spesifikasi model mengharuskan analis untuk memilih prior dengan hati-hati, dan prior yang dipilih dengan buruk atau kemungkinan yang salah spesifikasi dapat membiaskan posterior dengan cara yang sulit dideteksi.

Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.

Kelebihan

  • Memungkinkan inferensi Bayesian yang tepat (secara asimtotik) untuk model di mana posterior tidak memiliki bentuk tertutup, mencakup model hierarkis, masalah data hilang, dan kemungkinan yang kompleks.
  • Menghasilkan sampel posterior gabungan penuh, sehingga setiap kuantitas turunan, prediksi, atau keputusan dapat dihitung dengan ketidakpastian yang disebarkan dengan benar.
  • Berlaku untuk hasil kontinu, biner, dan hitungan dan tidak memberlakukan asumsi distribusi pada data di luar kemungkinan yang ditentukan oleh pemodel.
  • Menjalankan beberapa rantai paralel membuat verifikasi konvergensi sistematis melalui diagnostik R̂ Gelman-Rubin.

Penerapan

  • Memasang model Bayesian hierarkis dalam psikologi, pendidikan, dan kedokteran di mana data dikelompokkan dan penggabungan parsial diinginkan.
  • Memperkirakan parameter model kompartemen epidemiologi (SIR, SEIR) dari jumlah kasus yang diamati, termasuk kuantifikasi ketidakpastian.
  • Pemodelan persamaan struktural Bayesian dan model variabel laten dalam penelitian ilmu sosial.
  • Inferensi posterior untuk model teori respons item (IRT) dalam pengukuran pendidikan.
  • Kalibrasi model simulasi kompleks terhadap data yang diamati ketika kemungkinan tersedia tetapi non-konjugat.
  • Pemodelan risiko keuangan dan penetapan harga opsi di bawah ketidakpastian parameter Bayesian.

Cara kerjanya

Cara kerjanya

1

Analis mendefinisikan model Bayesian: fungsi kemungkinan yang menghubungkan parameter dengan data yang diamati, dan distribusi prior yang mengkodekan keyakinan tentang setiap parameter sebelum melihat data. Bersama-sama ini mendefinisikan posterior yang tidak ternormalisasi yang akan dieksplorasi oleh MCMC. Pilihan prior dan keluarga kemungkinan menentukan struktur rantai dan harus didasarkan pada pengetahuan subjek.

2

Nilai awal dipilih untuk semua parameter, dan jumlah rantai, panjang periode pemanasan (burn-in), dan jumlah total iterasi pasca-burn-in ditetapkan. Menjalankan beberapa rantai independen — biasanya empat — dari titik awal yang berbeda adalah praktik standar, karena memungkinkan konvergensi dinilai dengan membandingkan rantai daripada mengandalkan satu lintasan.

3

Pada setiap iterasi, algoritma mengusulkan pergerakan dalam ruang parameter. Di bawah Metropolis-Hastings, kandidat ditarik dari distribusi proposal dan diterima dengan probabilitas yang bergantung pada rasio kepadatan posterior pada posisi kandidat dan saat ini, memastikan distribusi stasioner rantai adalah posterior target. Di bawah Gibbs sampling, setiap parameter diperbarui secara bergantian dengan menarik langsung dari distribusi kondisional penuhnya, yang menghindari kebutuhan untuk langkah penerimaan eksplisit. Karena sampel berturut-turut berbagi informasi, rantai menunjukkan autokorelasi; penipisan — mempertahankan hanya setiap penarikan ke-k — dapat mengurangi ini dengan mengorbankan lebih sedikit sampel yang disimpan.

4

Setelah membuang burn-in, konvergensi dinilai. Statistik R̂ Gelman-Rubin membandingkan varians dalam rantai dengan varians antar rantai di beberapa rantai; nilai di bawah 1,05 menunjukkan bahwa rantai telah bercampur dan konvergen ke distribusi yang sama. Plot jejak (urutan nilai sampel selama iterasi) dan ukuran sampel efektif juga diperiksa. Jika R̂ besar atau plot jejak menunjukkan pencampuran yang buruk, model, prior, atau pengaturan sampler harus direvisi sebelum inferensi dilanjutkan.

5

Koleksi sampel pasca-burn-in membentuk aproksimasi empiris ke posterior. Estimasi titik (rata-rata posterior atau median), interval kredibel, dan distribusi prediktif posterior dihitung langsung dari sampel. Karena sampel adalah penarikan dari posterior gabungan, setiap kuantitas turunan — rasio, perbedaan, fungsi nonlinier dari parameter — dapat diperkirakan dengan menerapkan fungsi yang sama ke setiap sampel dan meringkas distribusi yang dihasilkan.

Kesalahan umum

  • Melewatkan atau mempersingkat periode burn-in berarti bagian awal rantai yang tidak stasioner mengkontaminasi estimasi posterior — selalu buang periode pemanasan yang cukup.
  • Menjalankan hanya satu rantai membuat tidak mungkin mendeteksi apakah sampler telah konvergen atau terjebak di satu wilayah; selalu jalankan setidaknya empat rantai independen.
  • Memperlakukan jumlah iterasi mentah yang besar sebagai bukti konvergensi tanpa menghitung R̂ atau memeriksa plot jejak dapat memberikan kepercayaan diri yang salah — R̂ < 1,05 diperlukan, bukan hanya banyak iterasi.
  • Mengabaikan autokorelasi dan melaporkan ukuran sampel efektif seolah-olah itu adalah jumlah mentah melebih-lebihkan presisi; laporkan ukuran sampel efektif di samping jumlah mentah.
  • Menerapkan MCMC ke model dengan kurang dari sekitar 1.000 iterasi pasca-burn-in umumnya tidak akan menghasilkan posterior yang andal; jika anggaran komputasi sangat ketat, pertimbangkan metode Bayesian analitis atau model konjugat.

Pertanyaan yang sering diajukan

Bagaimana saya tahu apakah rantai MCMC saya telah konvergen?

Diagnostik utama adalah statistik R̂ Gelman-Rubin, yang dihitung dengan menjalankan setidaknya empat rantai independen dari titik awal yang berbeda dan membandingkan varians dalam rantai dengan varians antar rantai. Nilai R̂ di bawah 1,05 untuk semua parameter adalah ambang batas konvensional. Plot jejak harus menunjukkan rantai yang tumpang tindih dan menjelajahi wilayah yang sama; jejak berbentuk corong atau melayang menunjukkan pencampuran yang buruk. Ukuran sampel efektif juga harus diperiksa — ukuran sampel efektif yang sangat kecil dibandingkan dengan jumlah mentah menandakan autokorelasi tinggi dan kebutuhan akan iterasi lebih banyak atau sampler yang lebih baik.

Apa perbedaan antara Metropolis-Hastings dan Gibbs sampling?

Metropolis-Hastings mengusulkan pergerakan untuk semua parameter secara bersamaan (atau dalam blok) dari distribusi proposal yang ditentukan pengguna dan menerima atau menolak proposal dengan probabilitas yang mempertahankan posterior target sebagai distribusi stasioner. Gibbs sampling sebaliknya memperbarui setiap parameter satu per satu dengan menarik langsung dari distribusi kondisional penuhnya — distribusi parameter tersebut mengingat semua yang lain dan data. Gibbs sampling memerlukan distribusi kondisional penuh ini tersedia dalam bentuk tertutup, yang merupakan kasus untuk banyak model konjugat; ketika tersedia, Gibbs sangat efisien karena setiap proposal diterima. Metropolis-Hastings lebih umum berlaku tetapi memerlukan penyesuaian proposal untuk mencapai tingkat penerimaan yang dapat diterima.

Kapan saya harus menggunakan Hamiltonian Monte Carlo daripada Metropolis-Hastings?

Hamiltonian Monte Carlo (HMC) dan varian otomatisnya NUTS menggunakan informasi gradien dari log-posterior untuk mengusulkan pergerakan besar yang terinformasi yang tetap diterima dengan probabilitas tinggi. Hal ini membuat mereka jauh lebih efisien daripada Metropolis-Hastings random-walk dalam ruang parameter berdimensi tinggi, di mana proposal acak hampir selalu ditolak. Sebagai aturan praktis, jika model Anda memiliki lebih dari sekitar sepuluh parameter atau jika rantai Metropolis-Hastings menunjukkan pencampuran yang buruk dan ukuran sampel efektif yang sangat rendah, beralih ke HMC atau NUTS disarankan.

Berapa banyak iterasi yang saya butuhkan?

Tidak ada jawaban universal, tetapi titik awal yang umum adalah 1.000 iterasi pemanasan (burn-in) ditambah 2.000 iterasi sampling per rantai, di empat rantai, menghasilkan 8.000 penarikan pasca-burn-in. Kecukupan ini bergantung pada autokorelasi rantai dan kompleksitas posterior. Rantai dianggap cukup ketika R̂ < 1,05 untuk semua parameter dan ukuran sampel efektif cukup besar untuk mengkarakterisasi fitur posterior yang diminati — biasanya setidaknya beberapa ratus sampel efektif untuk rata-rata dan beberapa ribu untuk kuantil ekor.

Metode terkait

Sumber

  1. Gelman, A., Carlin, J.B., Stern, H.S., Dunson, D.B., Vehtari, A. & Rubin, D.B. (2013). Bayesian Data Analysis (3rd ed.). Chapman & Hall/CRC.

    Buka referensi DOI
    Disalin.
  2. Brooks, S., Gelman, A., Jones, G.L. & Meng, X.-L. (Eds.) (2011). Handbook of Markov Chain Monte Carlo. Chapman & Hall/CRC.

    Buka referensi DOI
    Disalin.