Skip to content
Torna ai risultati

Catena di Markov Monte Carlo (MCMC) — Metropolis-Hastings e Gibbs Sampling

Introdotto da
Metropolis et al. (1953); Gibbs sampler formalised by Geman & Geman (1984)
Anno
1953 (Metropolis-Hastings); 1984 (Gibbs)
Tipo
Simulation-based Bayesian inference / numerical integration

Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese

Dimensione del carattere

A cosa serve?

La Catena di Markov Monte Carlo (MCMC) è una famiglia di algoritmi di simulazione che costruisce una catena di Markov la cui distribuzione stazionaria è la posteriore target, consentendo inferenza bayesiana e calcolo di integrali ad alta dimensionalità che altrimenti sarebbero analiticamente intrattabili.

Inaugurata da Metropolis e colleghi nel 1953 ed estesa da Hastings nel 1970, l'MCMC è alla base della statistica bayesiana moderna. Le due varianti più utilizzate sono Metropolis-Hastings, che propone spostamenti da una distribuzione di proposta generale, e il Gibbs sampling, che estrae ciascun parametro a turno dalla sua distribuzione condizionale completa.

L’intuizione alla base del metodo

Immagina di voler conoscere la forma di una catena montuosa nascosta dalla nebbia. Non puoi vederla tutta in una volta, ma puoi fare un passo in una direzione casuale e decidere se muoverti in base al fatto che il terreno sia più alto o più basso. Camminando abbastanza a lungo e registrando dove sei stato, i luoghi che hai visitato più spesso tracciano le vette — questa è la distribuzione posteriore. L'MCMC fa la stessa cosa in uno spazio parametrico ad alta dimensionalità: costruisce una catena di campioni che vaga gradualmente verso regioni di alta probabilità, in modo che l'istogramma dei valori visitati approssimi la distribuzione target senza mai aver bisogno di un'espressione in forma chiusa per essa.

Storia

L'algoritmo Metropolis fondamentale fu pubblicato nel 1953 da Metropolis, Rosenbluth, Rosenbluth, Teller e Teller per la simulazione molecolare. Hastings (1970) lo generalizzò a distribuzioni di proposta asimmetriche, producendo l'algoritmo Metropolis-Hastings. Geman e Geman (1984) introdussero il Gibbs sampling nel contesto del restauro di immagini. L'algoritmo divenne uno strumento statistico mainstream nei primi anni '90 dopo che Gelfand e Smith (1990) ne dimostrarono l'ampia applicabilità per il calcolo bayesiano, e Gelman e Rubin (1992) fornirono la diagnostica di convergenza R̂. Lo sviluppo successivo dell'Hamiltonian Monte Carlo da parte di Duane et al. (1987) e della sua variante automatica NUTS da parte di Hoffman e Gelman (2014) estese l'MCMC a problemi ad alta dimensionalità. Bayesian Data Analysis di Gelman et al. (2013) e il Handbook of Markov Chain Monte Carlo (Brooks et al., 2011) sono i riferimenti completi standard.

Quando usarlo

L'MCMC è lo strumento appropriato quando è stato specificato un modello bayesiano e la distribuzione posteriore non può essere calcolata analiticamente — che è il caso comune per modelli con più di una manciata di parametri o con priori non coniugati. È anche l'approccio standard per modelli a variabili latenti, modelli gerarchici e qualsiasi impostazione in cui l'incertezza debba essere propagata completamente attraverso una pipeline complessa. Non sono necessarie assunzioni distribuzionali sui dati oltre la specificazione della verosimiglianza. Il requisito pratico principale è un numero sufficiente di iterazioni affinché la catena converga: meno di circa 1 000 campioni post-burn-in tipicamente non forniranno una caratterizzazione affidabile della posteriore, e in contesti ad alta dimensionalità ne sono necessari molti di più. Quando lo spazio dei parametri è molto ad alta dimensionalità, l'Hamiltonian Monte Carlo (HMC) o il No-U-Turn Sampler (NUTS) — estensioni automatiche dell'idea MCMC — sono sostanzialmente più efficienti del Metropolis-Hastings di base.

Limiti e considerazioni

  • La convergenza non è garantita in tempo finito; una catena che sembra aver convergito potrebbe essere ancora bloccata in una regione locale della posteriore.
  • L'autocorrelazione tra campioni successivi significa che la dimensione effettiva del campione è inferiore al numero grezzo di iterazioni, richiedendo esecuzioni più lunghe di quanto sarebbe necessario per un campione indipendente equivalente.
  • In spazi parametrici ad alta dimensionalità, il Metropolis-Hastings a passeggiata casuale si mescola male; Hamiltonian Monte Carlo o NUTS sono necessari per un'esplorazione efficiente.
  • La specificazione del modello richiede all'analista di scegliere i priori con attenzione, e priori scelti male o verosimiglianze mal specificate possono distorcere la posteriore in modi difficili da rilevare.

Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.

Punti di forza

  • Abilita l'inferenza bayesiana esatta (asintotica) per modelli in cui la posteriore non ha forma chiusa, coprendo modelli gerarchici, problemi di dati mancanti e verosimiglianze complesse.
  • Produce un campione completo della posteriore congiunta, quindi qualsiasi quantità derivata, previsione o decisione può essere calcolata con un'incertezza correttamente propagata.
  • Si applica a risultati continui, binari e di conteggio e non impone assunzioni distribuzionali sui dati oltre la verosimiglianza specificata dal modellista.
  • L'esecuzione di più catene parallele rende la verifica della convergenza sistematica attraverso la diagnostica R̂ di Gelman-Rubin.

Applicazioni

  • Adattamento di modelli bayesiani gerarchici in psicologia, educazione e medicina dove i dati sono raggruppati e si desidera un pooling parziale.
  • Stima dei parametri di modelli compartimentali epidemiologici (SIR, SEIR) da conteggi di casi osservati, inclusa la quantificazione dell'incertezza.
  • Modellazione strutturale bayesiana delle equazioni e modelli a variabili latenti nella ricerca nelle scienze sociali.
  • Inferenza posteriore per modelli di teoria della risposta all'item (IRT) nella misurazione educativa.
  • Calibrazione di modelli di simulazione complessi contro dati osservati quando la verosimiglianza è disponibile ma non coniugata.
  • Modellazione del rischio finanziario e pricing delle opzioni sotto incertezza parametrica bayesiana.

Come funziona

Come funziona

1

L'analista definisce il modello bayesiano: una funzione di verosimiglianza che collega i parametri ai dati osservati e distribuzioni a priori che codificano le credenze su ciascun parametro prima di vedere i dati. Insieme, questi definiscono la posteriore non normalizzata che l'MCMC esplorerà. La scelta dei priori e della famiglia di verosimiglianza determina la struttura della catena e deve essere basata sulla conoscenza del dominio.

2

Vengono scelti i valori iniziali per tutti i parametri, e vengono impostati il numero di catene, la lunghezza del periodo di riscaldamento (burn-in) e il numero totale di iterazioni post-burn-in. Eseguire più catene indipendenti — tipicamente quattro — da punti di partenza diversi è una pratica standard, poiché consente di valutare la convergenza confrontando le catene piuttosto che affidarsi a una singola traiettoria.

3

Ad ogni iterazione l'algoritmo propone uno spostamento nello spazio dei parametri. Sotto Metropolis-Hastings, un candidato viene estratto da una distribuzione di proposta e accettato con una probabilità che dipende dal rapporto delle densità posteriori nelle posizioni candidata e corrente, garantendo che la distribuzione stazionaria della catena sia la posteriore target. Sotto Gibbs sampling, ciascun parametro viene aggiornato a turno estraendo direttamente dalla sua distribuzione condizionale completa, il che evita la necessità di un esplicito passo di accettazione. Poiché i campioni consecutivi condividono informazioni, la catena presenta autocorrelazione; il thinning — conservare solo ogni k-esima estrazione — può ridurla a scapito di meno campioni memorizzati.

4

Dopo aver scartato il burn-in, si valuta la convergenza. La statistica R̂ di Gelman-Rubin confronta la varianza intra-catena con quella inter-catena attraverso le catene multiple; valori inferiori a 1.05 indicano che le catene si sono mescolate e sono confluite nella stessa distribuzione. Vengono inoltre ispezionati i grafici di traccia (la sequenza dei valori campionati nel corso delle iterazioni) e la dimensione effettiva del campione. Se R̂ è elevato o i grafici di traccia mostrano una scarsa mescolanza, il modello, i priori o le impostazioni del campionatore devono essere rivisti prima che l'inferenza proceda.

5

La collezione di campioni post-burn-in costituisce un'approssimazione empirica della posteriore. Stime puntuali (media o mediana posteriore), intervalli di credibilità e distribuzioni predittive posteriori vengono calcolate direttamente dal campione. Poiché i campioni sono estrazioni dalla posteriore congiunta, qualsiasi quantità derivata — rapporti, differenze, funzioni non lineari dei parametri — può essere stimata applicando la stessa funzione a ciascun campione e riassumendo la distribuzione risultante.

Errori comuni

  • Saltare o accorciare il periodo di burn-in significa che la porzione iniziale non stazionaria della catena contamina le stime posteriori — scartare sempre un riscaldamento generoso.
  • Eseguire solo una singola catena rende impossibile rilevare se il campionatore è convergito o è intrappolato in una regione; eseguire sempre almeno quattro catene indipendenti.
  • Trattare un elevato numero grezzo di iterazioni come prova di convergenza senza calcolare R̂ o ispezionare i grafici di traccia può dare una falsa sicurezza — è richiesto R̂ < 1.05, non solo molte iterazioni.
  • Ignorare l'autocorrelazione e riportare la dimensione effettiva del campione come se fosse il conteggio grezzo sovrastima la precisione; riportare la dimensione effettiva del campione accanto ai conteggi grezzi.
  • Applicare l'MCMC a un modello con meno di circa 1 000 iterazioni post-burn-in generalmente non produrrà una posteriore affidabile; se il budget computazionale è così limitato, considerare metodi bayesiani analitici o un modello coniugato.

Domande frequenti

Come faccio a sapere se la mia catena MCMC è convergita?

La diagnostica primaria è la statistica R̂ di Gelman-Rubin, calcolata eseguendo almeno quattro catene indipendenti da punti di partenza diversi e confrontando la varianza intra-catena con quella inter-catena. Valori di R̂ inferiori a 1.05 per tutti i parametri sono la soglia convenzionale. I grafici di traccia dovrebbero mostrare catene che si sovrappongono ed esplorano la stessa regione; tracce a forma di imbuto o in deriva indicano una scarsa mescolanza. Dovrebbe essere controllata anche la dimensione effettiva del campione — una dimensione effettiva del campione molto piccola rispetto al conteggio grezzo segnala un'elevata autocorrelazione e la necessità di più iterazioni o di un campionatore migliore.

Qual è la differenza tra Metropolis-Hastings e Gibbs sampling?

Metropolis-Hastings propone uno spostamento per tutti i parametri simultaneamente (o in blocchi) da una distribuzione di proposta specificata dall'utente e accetta o rifiuta la proposta con una probabilità che preserva la posteriore target come distribuzione stazionaria. Gibbs sampling invece aggiorna ciascun parametro uno alla volta estraendo direttamente dalla sua distribuzione condizionale completa — la distribuzione di quel parametro dati tutti gli altri e i dati. Gibbs sampling richiede che queste condizionali complete siano disponibili in forma chiusa, il che è il caso di molti modelli coniugati; quando sono disponibili, Gibbs è altamente efficiente perché ogni proposta viene accettata. Metropolis-Hastings è più ampiamente applicabile ma richiede la messa a punto della proposta per ottenere tassi di accettazione accettabili.

Quando dovrei usare Hamiltonian Monte Carlo invece di Metropolis-Hastings?

Hamiltonian Monte Carlo (HMC) e la sua variante automatica NUTS utilizzano informazioni sul gradiente del log-posteriore per proporre spostamenti ampi e informati che tuttavia vengono accettati con alta probabilità. Questo li rende molto più efficienti del Metropolis-Hastings a passeggiata casuale in spazi parametrici ad alta dimensionalità, dove le proposte casuali vengono quasi sempre rifiutate. Come regola pratica, se il tuo modello ha più di circa dieci parametri o se le catene Metropolis-Hastings mostrano una scarsa mescolanza e dimensioni effettive del campione molto basse, passare a HMC o NUTS è consigliabile.

Quante iterazioni mi servono?

Non esiste una risposta universale, ma un punto di partenza comune è 1 000 iterazioni di riscaldamento (burn-in) più 2 000 iterazioni di campionamento per catena, su quattro catene, dando 8 000 estrazioni post-burn-in. L'adeguatezza di ciò dipende dall'autocorrelazione della catena e dalla complessità della posteriore. La catena è sufficiente quando R̂ < 1.05 per tutti i parametri e la dimensione effettiva del campione è sufficientemente grande da caratterizzare la posteriore delle caratteristiche di interesse — tipicamente almeno qualche centinaio di campioni effettivi per le medie e qualche migliaio per i quantili di coda.

Metodi correlati

Fonti

  1. Gelman, A., Carlin, J.B., Stern, H.S., Dunson, D.B., Vehtari, A. & Rubin, D.B. (2013). Bayesian Data Analysis (3rd ed.). Chapman & Hall/CRC.

    Apri il riferimento DOI
    Copiato.
  2. Brooks, S., Gelman, A., Jones, G.L. & Meng, X.-L. (Eds.) (2011). Handbook of Markov Chain Monte Carlo. Chapman & Hall/CRC.

    Apri il riferimento DOI
    Copiato.