Markov Zinciri Monte Carlo (MCMC) — Metropolis-Hastings ve Gibbs Örneklemesi
- Ortaya koyan
- Metropolis et al. (1953); Gibbs sampler formalised by Geman & Geman (1984)
- Yıl
- 1953 (Metropolis-Hastings); 1984 (Gibbs)
- Tür
- Simulation-based Bayesian inference / numerical integration
Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku
Ne işe yarar?
Markov Zinciri Monte Carlo (MCMC), durağan dağılımı hedef sonsal dağılım olan bir Markov zinciri oluşturan simülasyon algoritmaları ailesidir.
Bu sayede, analitik olarak çözülmesi imkansız olan Bayesci çıkarım ve yüksek boyutlu integral hesaplamaları mümkün hale gelir. İlk olarak 1953'te Metropolis ve arkadaşları tarafından geliştirilen ve 1970'te Hastings tarafından genişletilen MCMC, modern Bayesci istatistiğin temelini oluşturur. En yaygın kullanılan iki varyantı, genel bir öneri dağılımından hareketler öneren Metropolis-Hastings ve her parametreyi sırasıyla tam koşullu dağılımından çeken Gibbs örneklemesidir.
Yöntemin mantığı
Sis altında gizli bir dağ sırasının şeklini bilmek istediğinizi hayal edin. Hepsini bir kerede göremezsiniz, ancak rastgele bir yöne adım atabilir ve zeminin daha yüksek veya daha alçak olmasına göre hareket edip etmeyeceğinize karar verebilirsiniz. Yeterince uzun süre yürüyerek ve nerede bulunduğunuzu kaydederek, en sık ziyaret ettiğiniz yerler zirveleri — yani sonsal dağılımı — çizer. MCMC, yüksek boyutlu bir parametre uzayında aynı şeyi yapar: yüksek olasılıklı bölgelere doğru yavaş yavaş ilerleyen bir örnek zinciri oluşturur, böylece ziyaret edilen değerlerin histogramı, hedef dağılım için kapalı form bir ifadeye ihtiyaç duymadan onu yaklaşık olarak temsil eder.
Tarih
Temel Metropolis algoritması, moleküler simülasyon için 1953'te Metropolis, Rosenbluth, Rosenbluth, Teller ve Teller tarafından yayınlandı. Hastings (1970) bunu asimetrik öneri dağılımlarına genelleştirerek Metropolis-Hastings algoritmasını üretti. Geman ve Geman (1984), Gibbs örneklemesini görüntü restorasyonu bağlamında tanıttı. Algoritma, Gelfand ve Smith'in (1990) Bayesci hesaplama için geniş uygulanabilirliğini göstermesinden ve Gelman ve Rubin'in (1992) R̂ yakınsama tanılamasını sağlamasından sonra 1990'ların başında ana akım bir istatistiksel araç haline geldi. Duane ve diğerlerinin (1987) Hamilton Monte Carlo'yu ve Hoffman ve Gelman'ın (2014) otomatik varyantı NUTS'u geliştirmesi, MCMC'yi yüksek boyutlu problemlere genişletti. Gelman ve diğerlerinin Bayesian Data Analysis (2013) ve Handbook of Markov Chain Monte Carlo (Brooks ve diğerleri, 2011) standart kapsamlı referanslardır.
Ne zaman kullanılır?
MCMC, Bayesci bir modelin belirtildiği ve sonsal dağılımın analitik olarak hesaplanamadığı durumlarda uygun bir araçtır — bu durum, birkaçdan fazla parametreye sahip modeller veya eşlenik olmayan önsel dağılımlar için yaygın bir durumdur. Ayrıca, gizli değişkenli modeller, hiyerarşik modeller ve belirsizliğin karmaşık bir süreç boyunca tam olarak yayılması gereken her türlü durum için standart bir yaklaşımdır. Olabilirlik spesifikasyonu dışında veriler hakkında hiçbir dağılımsal varsayıma ihtiyaç duyulmaz. Temel pratik gereksinim, zincirin yakınsaması için yeterli sayıda iterasyondur: yaklaşık 1.000'den az ısınma sonrası örnek, sonsal dağılımın güvenilir bir karakterizasyonunu genellikle sağlamaz ve yüksek boyutlu durumlarda çok daha fazlasına ihtiyaç duyulur. Parametre uzayı çok yüksek boyutlu olduğunda, Hamilton Monte Carlo (HMC) veya No-U-Turn Sampler (NUTS) — MCMC fikrinin otomatik uzantıları — temel Metropolis-Hastings'ten önemli ölçüde daha verimlidir.
Sınırlar ve dikkat edilmesi gerekenler
- Yakınsama sonlu zamanda garanti edilmez; yakınsamış gibi görünen bir zincir, sonsal dağılımın yerel bir bölgesinde sıkışmış olabilir.
- Ardışık örnekler arasındaki otokorelasyon, etkin örneklem büyüklüğünün ham iterasyon sayısından daha küçük olduğu anlamına gelir, bu da eşdeğer bağımsız bir örneklemden daha uzun çalışmalar gerektirir.
- Yüksek boyutlu parametre uzaylarında, rastgele yürüyüş Metropolis-Hastings zayıf karışır; verimli keşif için Hamilton Monte Carlo veya NUTS gereklidir.
- Model spesifikasyonu, analistin önsel dağılımları dikkatlice seçmesini gerektirir ve kötü seçilmiş önsel dağılımlar veya yanlış belirtilmiş olabilirlikler, sonsal dağılımı tespit edilmesi zor şekillerde yanlı hale getirebilir.
Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.
Güçlü yönleri
- Sonsal dağılımın kapalı formu olmayan modeller için (asemptotik olarak) tam Bayesci çıkarım sağlar; hiyerarşik modelleri, eksik veri problemlerini ve karmaşık olabilirlikleri kapsar.
- Tam bir ortak sonsal örneklem üretir, böylece herhangi bir türetilmiş nicelik, tahmin veya karar, doğru şekilde yayılan belirsizlikle hesaplanabilir.
- Sürekli, ikili ve sayım sonuçlarına uygulanır ve modelleyici tarafından belirtilen olabilirlik dışında veriler üzerinde hiçbir dağılımsal varsayım dayatmaz.
- Birden fazla paralel zincir çalıştırmak, Gelman-Rubin R̂ tanılaması aracılığıyla yakınsama doğrulamasını sistematik hale getirir.
Uygulama alanları
- Verilerin gruplandığı ve kısmi havuzlamanın istendiği psikoloji, eğitim ve tıp alanlarında hiyerarşik Bayesci modellerin uyarlanması.
- Gözlemlenen vaka sayımlarından epidemiyolojik kompartıman modellerinin (SIR, SEIR) parametrelerini, belirsizlik nicelemesi dahil olmak üzere tahmin etme.
- Sosyal bilimler araştırmalarında Bayesci yapısal eşitlik modellemesi ve gizli değişkenli modeller.
- Eğitimsel ölçümde madde tepki teorisi (IRT) modelleri için sonsal çıkarım.
- Olabilirlik mevcut ancak eşlenik olmadığında karmaşık simülasyon modellerini gözlemlenen verilere göre kalibre etme.
- Bayesci parametre belirsizliği altında finansal risk modellemesi ve opsiyon fiyatlandırması.
Nasıl çalışır?
Nasıl çalışır?
Analist Bayesci modeli tanımlar: parametreleri gözlemlenen verilere bağlayan bir olabilirlik fonksiyonu ve verileri görmeden önce her parametre hakkındaki inançları kodlayan önsel dağılımlar. Bunlar birlikte, MCMC'nin keşfedeceği normalleştirilmemiş sonsal dağılımı tanımlar. Önsel ve olabilirlik ailesinin seçimi, zincirin yapısını belirler ve konu alanı bilgisine dayanmalıdır.
Tüm parametreler için başlangıç değerleri seçilir ve zincir sayısı, ısınma (burn-in) periyodunun uzunluğu ve burn-in sonrası toplam iterasyon sayısı belirlenir. Farklı başlangıç noktalarından birden fazla bağımsız zincir — genellikle dört — çalıştırmak standart bir uygulamadır, çünkü bu, tek bir yörüngeye güvenmek yerine zincirleri karşılaştırarak yakınsamanın değerlendirilmesini sağlar.
Her iterasyonda algoritma, parametre uzayında bir hareket önerir. Metropolis-Hastings altında, bir aday öneri dağılımından çekilir ve adayın ve mevcut konumların sonsal yoğunluklarının oranına bağlı bir olasılıkla kabul edilir, bu da zincirin durağan dağılımının hedef sonsal dağılım olmasını sağlar. Gibbs örneklemesi altında, her parametre sırasıyla tam koşullu dağılımından doğrudan çekilerek güncellenir, bu da açık bir kabul adımına olan ihtiyacı ortadan kaldırır. Ardışık örnekler bilgi paylaştığı için zincir otokorelasyon gösterir; inceltme — sadece her k. çekimi saklama — daha az depolanan örnek pahasına bunu azaltabilir.
Isınma periyodu atıldıktan sonra yakınsama değerlendirilir. Gelman-Rubin R̂ istatistiği, birden fazla zincirdeki zincir içi varyansı zincirler arası varyansla karşılaştırır; 1.05'in altındaki değerler, zincirlerin karıştığını ve aynı dağılıma yakınsadığını gösterir. İzleme grafikleri (iterasyonlar boyunca örneklenen değerlerin dizisi) ve etkin örneklem büyüklüğü de incelenir. Eğer R̂ büyükse veya izleme grafikleri zayıf karışım gösteriyorsa, çıkarım işlemine devam etmeden önce model, önsel dağılımlar veya örnekleyici ayarları gözden geçirilmelidir.
Isınma sonrası örneklerin toplanması, sonsal dağılımın ampirik bir yaklaşımını oluşturur. Nokta tahminleri (sonsal ortalama veya medyan), güvenilirlik aralıkları ve sonsal kestirimci dağılımlar doğrudan örnekten hesaplanır. Örnekler ortak sonsal dağılımdan çekildiği için, herhangi bir türetilmiş nicelik — oranlar, farklar, parametrelerin doğrusal olmayan fonksiyonları — aynı fonksiyonu her örneğe uygulayarak ve ortaya çıkan dağılımı özetleyerek tahmin edilebilir.
Sık yapılan hatalar
- Isınma periyodunu atlamak veya kısaltmak, zincirin erken durağan olmayan kısmının sonsal tahminleri kirletmesi anlamına gelir — her zaman cömert bir ısınma periyodu atılmalıdır.
- Sadece tek bir zincir çalıştırmak, örnekleyicinin yakınsayıp yakınsamadığını veya tek bir bölgede sıkışıp kalmadığını tespit etmeyi imkansız hale getirir; her zaman en az dört bağımsız zincir çalıştırın.
- Büyük bir ham iterasyon sayısını, R̂ hesaplamadan veya izleme grafiklerini incelemeden yakınsama kanıtı olarak kabul etmek yanlış bir güven verebilir — sadece birçok iterasyon değil, R̂ < 1.05 gereklidir.
- Otokorelasyonu göz ardı etmek ve etkin örneklem büyüklüğünü ham sayım gibi raporlamak hassasiyeti abartır; etkin örneklem büyüklüğünü ham sayımlarla birlikte raporlayın.
- Yaklaşık 1.000'den az ısınma sonrası iterasyona sahip bir modele MCMC uygulamak genellikle güvenilir bir sonsal dağılım sağlamaz; eğer hesaplama bütçesi bu kadar kısıtlıysa, analitik Bayesci yöntemleri veya eşlenik bir modeli düşünün.
Sık sorulan sorular
MCMC zincirimin yakınsadığını nasıl anlarım?
Birincil tanılayıcı, farklı başlangıç noktalarından en az dört bağımsız zincir çalıştırılarak ve zincir içi varyansın zincirler arası varyansla karşılaştırılmasıyla hesaplanan Gelman-Rubin R̂ istatistiğidir. Tüm parametreler için 1.05'in altındaki R̂ değerleri geleneksel eşiktir. İzleme grafikleri, örtüşen ve aynı bölgeyi keşfeden zincirleri göstermelidir; huni şeklinde veya sürüklenen izler zayıf karışımı gösterir. Etkin örneklem büyüklüğü de kontrol edilmelidir — ham sayıya göre çok küçük bir etkin örneklem büyüklüğü, yüksek otokorelasyonu ve daha fazla iterasyona veya daha iyi bir örnekleyiciye olan ihtiyacı işaret eder.
Metropolis-Hastings ve Gibbs örneklemesi arasındaki fark nedir?
Metropolis-Hastings, kullanıcı tanımlı bir öneri dağılımından tüm parametreler için eşzamanlı olarak (veya bloklar halinde) bir hareket önerir ve hedef sonsal dağılımı durağan dağılım olarak koruyan bir olasılıkla öneriyi kabul eder veya reddeder. Gibbs örneklemesi ise her parametreyi, diğer tüm parametreler ve veriler verildiğinde o parametrenin dağılımı olan tam koşullu dağılımından doğrudan çekerek tek tek günceller. Gibbs örneklemesi, bu tam koşullu dağılımların kapalı formda mevcut olmasını gerektirir, ki bu birçok eşlenik model için geçerlidir; mevcut olduklarında, Gibbs her öneri kabul edildiği için oldukça verimlidir. Metropolis-Hastings daha geniş bir uygulama alanına sahiptir ancak kabul edilebilir kabul oranları elde etmek için önerinin ayarlanmasını gerektirir.
Metropolis-Hastings yerine Hamilton Monte Carlo'yu ne zaman kullanmalıyım?
Hamilton Monte Carlo (HMC) ve otomatik varyantı NUTS, log-sonsal dağılımdan gradyan bilgisini kullanarak büyük, bilgilendirilmiş hareketler önerir ve bunlar yine de yüksek olasılıkla kabul edilir. Bu, rastgele önerilerin neredeyse her zaman reddedildiği yüksek boyutlu parametre uzaylarında onları rastgele yürüyüş Metropolis-Hastings'ten çok daha verimli hale getirir. Pratik bir kural olarak, modeliniz ondan fazla parametreye sahipse veya Metropolis-Hastings zincirleri zayıf karışım ve çok düşük etkin örneklem büyüklükleri gösteriyorsa, HMC veya NUTS'a geçmek tavsiye edilir.
Kaç iterasyona ihtiyacım var?
Evrensel bir cevap yoktur, ancak yaygın bir başlangıç noktası, dört zincirde, zincir başına 1.000 ısınma (burn-in) iterasyonu artı 2.000 örnekleme iterasyonudur, bu da 8.000 ısınma sonrası çekim sağlar. Bunun yeterliliği, zincirin otokorelasyonuna ve sonsal dağılımın karmaşıklığına bağlıdır. Zincir, tüm parametreler için R̂ < 1.05 olduğunda ve etkin örneklem büyüklüğü, ilgilenilen sonsal özelliklerini karakterize etmek için yeterince büyük olduğunda yeterlidir — genellikle ortalamalar için en az birkaç yüz, kuyruk nicelikleri için birkaç bin etkin örnek.
İlgili yöntemler
Kaynaklar
Gelman, A., Carlin, J.B., Stern, H.S., Dunson, D.B., Vehtari, A. & Rubin, D.B. (2013). Bayesian Data Analysis (3rd ed.). Chapman & Hall/CRC.
DOI kaynağını açKopyalandı.Brooks, S., Gelman, A., Jones, G.L. & Meng, X.-L. (Eds.) (2011). Handbook of Markov Chain Monte Carlo. Chapman & Hall/CRC.
DOI kaynağını açKopyalandı.