Markov Chain Monte Carlo (MCMC) — Metropolis-Hastings e Amostragem de Gibbs
- Proposto por
- Metropolis et al. (1953); Gibbs sampler formalised by Geman & Geman (1984)
- Ano
- 1953 (Metropolis-Hastings); 1984 (Gibbs)
- Tipo
- Simulation-based Bayesian inference / numerical integration
Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês
O que ele faz?
Markov Chain Monte Carlo (MCMC) é uma família de algoritmos de simulação que constrói uma cadeia de Markov cuja distribuição estacionária é a posterior alvo, permitindo inferência Bayesiana e computação de integrais de alta dimensionalidade que, de outra forma, seriam analiticamente intratáveis.
Pioneiro por Metropolis e colegas em 1953 e estendido por Hastings em 1970, MCMC fundamenta a estatística Bayesiana moderna. As duas variantes mais amplamente utilizadas são Metropolis-Hastings, que propõe movimentos a partir de uma distribuição de proposta geral, e amostragem de Gibbs, que extrai cada parâmetro por vez de sua distribuição condicional completa.
A intuição por trás do método
Imagine que você quer conhecer o formato de uma cadeia de montanhas escondida sob neblina. Você não pode vê-la toda de uma vez, mas pode dar um passo em uma direção aleatória e decidir se move com base se o terreno está mais alto ou mais baixo. Caminhando tempo suficiente e registrando onde você esteve, os lugares que você visitou com mais frequência traçam os picos — essa é a distribuição posterior. MCMC faz a mesma coisa em um espaço de parâmetros de alta dimensionalidade: constrói uma cadeia de amostras que gradualmente vagueia para regiões de alta probabilidade, de modo que o histograma dos valores visitados se aproxima da distribuição alvo sem nunca precisar de uma expressão de forma fechada para ela.
História
O algoritmo fundamental de Metropolis foi publicado em 1953 por Metropolis, Rosenbluth, Rosenbluth, Teller e Teller para simulação molecular. Hastings (1970) o generalizou para distribuições de proposta assimétricas, produzindo o algoritmo Metropolis-Hastings. Geman e Geman (1984) introduziram a amostragem de Gibbs no contexto de restauração de imagens. O algoritmo tornou-se uma ferramenta estatística mainstream no início dos anos 1990, após Gelfand e Smith (1990) demonstrarem sua ampla aplicabilidade para computação Bayesiana, e Gelman e Rubin (1992) fornecerem o diagnóstico de convergência R̂. O desenvolvimento subsequente de Hamiltonian Monte Carlo por Duane et al. (1987) e sua variante automática NUTS por Hoffman e Gelman (2014) estenderam o MCMC para problemas de alta dimensionalidade. Bayesian Data Analysis de Gelman et al. (2013) e o Handbook of Markov Chain Monte Carlo (Brooks et al., 2011) são as referências abrangentes padrão.
Quando usar
MCMC é a ferramenta apropriada quando um modelo Bayesiano foi especificado e a distribuição posterior não pode ser calculada analiticamente — o que é o caso comum para modelos com mais do que um punhado de parâmetros ou com a priori não conjugadas. É também a abordagem padrão para modelos de variáveis latentes, modelos hierárquicos e qualquer cenário onde a incerteza deve ser propagada totalmente através de um pipeline complexo. Nenhuma suposição distribucional sobre os dados é necessária além da especificação da verossimilhança. O principal requisito prático é um número suficiente de iterações para que a cadeia convirja: menos de aproximadamente 1 000 amostras pós-burn-in tipicamente não fornecerão uma caracterização confiável da posterior, e em cenários de alta dimensionalidade, muitas mais são necessárias. Quando o espaço de parâmetros é de dimensionalidade muito alta, Hamiltonian Monte Carlo (HMC) ou o No-U-Turn Sampler (NUTS) — extensões automáticas da ideia MCMC — são substancialmente mais eficientes do que o Metropolis-Hastings básico.
Limitações e considerações
- A convergência não é garantida em tempo finito; uma cadeia que parece ter convergido pode ainda estar presa em uma região local da posterior.
- A autocorrelação entre amostras sucessivas significa que o tamanho efetivo da amostra é menor que o número bruto de iterações, exigindo execuções mais longas do que uma amostra independente equivalente necessitaria.
- Em espaços de parâmetros de alta dimensionalidade, Metropolis-Hastings de passeio aleatório mistura-se mal; Hamiltonian Monte Carlo ou NUTS é necessário para exploração eficiente.
- A especificação do modelo exige que o analista escolha as a priori criteriosamente, e a priori mal escolhidas ou verossimilhanças mal especificadas podem enviesar a posterior de maneiras difíceis de detectar.
As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.
Pontos fortes
- Permite inferência Bayesiana exata (assintoticamente) para modelos onde a posterior não tem forma fechada, cobrindo modelos hierárquicos, problemas de dados faltantes e verossimilhanças complexas.
- Produz uma amostra completa da posterior conjunta, de modo que qualquer quantidade derivada, previsão ou decisão possa ser calculada com incerteza devidamente propagada.
- Aplica-se a desfechos contínuos, binários e de contagem e não impõe suposições distribucionais aos dados além da verossimilhança especificada pelo modelador.
- A execução de múltiplas cadeias paralelas torna a verificação de convergência sistemática através do diagnóstico R̂ de Gelman-Rubin.
Aplicações
- Ajuste de modelos Bayesianos hierárquicos em psicologia, educação e medicina, onde os dados são agrupados e o pooling parcial é desejado.
- Estimação de parâmetros de modelos compartimentais epidemiológicos (SIR, SEIR) a partir de contagens de casos observadas, incluindo quantificação de incerteza.
- Modelagem estrutural Bayesiana de equações e modelos de variáveis latentes em pesquisa de ciências sociais.
- Inferência posterior para modelos de teoria de resposta ao item (IRT) em medição educacional.
- Calibração de modelos de simulação complexos contra dados observados quando a verossimilhança está disponível, mas não conjugada.
- Modelagem de risco financeiro e precificação de opções sob incerteza de parâmetros Bayesiana.
Como funciona
Como funciona
O analista define o modelo Bayesiano: uma função de verossimilhança conectando parâmetros a dados observados e distribuições a priori que codificam crenças sobre cada parâmetro antes de ver os dados. Juntos, estes definem a posterior não normalizada que o MCMC explorará. A escolha das a priori e da família de verossimilhança determina a estrutura da cadeia e deve ser fundamentada no conhecimento do assunto.
Valores iniciais são escolhidos para todos os parâmetros, e o número de cadeias, o comprimento do período de aquecimento (burn-in) e o número total de iterações pós-burn-in são definidos. Executar múltiplas cadeias independentes — tipicamente quatro — a partir de pontos de partida diferentes é prática padrão, pois permite avaliar a convergência comparando cadeias em vez de depender de uma única trajetória.
Em cada iteração, o algoritmo propõe um movimento no espaço de parâmetros. Sob Metropolis-Hastings, um candidato é extraído de uma distribuição de proposta e aceito com uma probabilidade que depende da razão das densidades posteriores nas posições candidata e atual, garantindo que a distribuição estacionária da cadeia seja a posterior alvo. Sob amostragem de Gibbs, cada parâmetro é atualizado por vez, extraindo diretamente de sua distribuição condicional completa, o que evita a necessidade de uma etapa de aceitação explícita. Como amostras consecutivas compartilham informações, a cadeia exibe autocorrelação; o afinamento (thinning) — reter apenas a cada k-ésima extração — pode reduzir isso ao custo de menos amostras armazenadas.
Após descartar o burn-in, a convergência é avaliada. A estatística R̂ de Gelman-Rubin compara a variância intra-cadeia com a inter-cadeias entre as múltiplas cadeias; valores abaixo de 1.05 indicam que as cadeias se misturaram e convergiram para a mesma distribuição. Gráficos de traço (a sequência de valores amostrados ao longo das iterações) e o tamanho efetivo da amostra também são inspecionados. Se R̂ for grande ou os gráficos de traço mostrarem má mistura, o modelo, as a priori ou as configurações do amostrador devem ser revisados antes que a inferência prossiga.
A coleção de amostras pós-burn-in forma uma aproximação empírica da posterior. Estimativas pontuais (média ou mediana posterior), intervalos de credibilidade e distribuições preditivas posteriores são calculados diretamente da amostra. Como as amostras são extrações da posterior conjunta, qualquer quantidade derivada — razões, diferenças, funções não lineares de parâmetros — pode ser estimada aplicando a mesma função a cada amostra e sumarizando a distribuição resultante.
Erros comuns
- Pular ou encurtar o período de burn-in significa que a porção inicial não estacionária da cadeia contamina as estimativas posteriores — sempre descarte um aquecimento generoso.
- Executar apenas uma única cadeia torna impossível detectar se o amostrador convergiu ou está preso em uma região; sempre execute pelo menos quatro cadeias independentes.
- Tratar uma grande contagem de iterações brutas como prova de convergência sem calcular R̂ ou inspecionar gráficos de traço pode dar falsa confiança — R̂ < 1.05 é necessário, não apenas muitas iterações.
- Ignorar a autocorrelação e relatar o tamanho efetivo da amostra como se fosse a contagem bruta superestima a precisão; relate o tamanho efetivo da amostra ao lado das contagens brutas.
- Aplicar MCMC a um modelo com menos de aproximadamente 1 000 iterações pós-burn-in geralmente não produzirá uma posterior confiável; se o orçamento computacional for tão apertado, considere métodos Bayesianos analíticos ou um modelo conjugado.
Perguntas frequentes
Como sei se minha cadeia MCMC convergiu?
O diagnóstico primário é a estatística R̂ de Gelman-Rubin, calculada executando pelo menos quatro cadeias independentes a partir de pontos de partida diferentes e comparando a variância intra-cadeia com a inter-cadeias. Valores de R̂ abaixo de 1.05 para todos os parâmetros são o limiar convencional. Gráficos de traço devem mostrar cadeias que se sobrepõem e exploram a mesma região; traços em forma de funil ou em deriva indicam má mistura. O tamanho efetivo da amostra também deve ser verificado — um tamanho efetivo da amostra muito pequeno em relação à contagem bruta sinaliza alta autocorrelação e a necessidade de mais iterações ou um amostrador melhor.
Qual a diferença entre Metropolis-Hastings e amostragem de Gibbs?
Metropolis-Hastings propõe um movimento para todos os parâmetros simultaneamente (ou em blocos) a partir de uma distribuição de proposta especificada pelo usuário e aceita ou rejeita a proposta com uma probabilidade que preserva a posterior alvo como a distribuição estacionária. A amostragem de Gibbs, em vez disso, atualiza cada parâmetro um de cada vez, extraindo diretamente de sua distribuição condicional completa — a distribuição desse parâmetro dadas todas as outras e os dados. A amostragem de Gibbs requer que essas condicionais completas estejam disponíveis em forma fechada, o que é o caso para muitos modelos conjugados; quando disponíveis, Gibbs é altamente eficiente porque toda proposta é aceita. Metropolis-Hastings é mais amplamente aplicável, mas requer ajuste da proposta para atingir taxas de aceitação aceitáveis.
Quando devo usar Hamiltonian Monte Carlo em vez de Metropolis-Hastings?
Hamiltonian Monte Carlo (HMC) e sua variante automática NUTS usam informações de gradiente do log-posterior para propor movimentos grandes e informados que, no entanto, são aceitos com alta probabilidade. Isso os torna muito mais eficientes do que Metropolis-Hastings de passeio aleatório em espaços de parâmetros de alta dimensionalidade, onde propostas aleatórias são quase sempre rejeitadas. Como regra prática, se seu modelo tem mais de cerca de dez parâmetros ou se as cadeias Metropolis-Hastings mostram má mistura e tamanhos efetivos de amostra muito baixos, mudar para HMC ou NUTS é aconselhável.
Quantas iterações são necessárias?
Não há uma resposta universal, mas um ponto de partida comum é 1 000 iterações de aquecimento (burn-in) mais 2 000 iterações de amostragem por cadeia, em quatro cadeias, totalizando 8 000 sorteios pós-burn-in. A adequação disso depende da autocorrelação da cadeia e da complexidade da posterior. A cadeia é suficiente quando R̂ < 1.05 para todos os parâmetros e o tamanho efetivo da amostra é grande o suficiente para caracterizar os recursos da posterior de interesse — tipicamente pelo menos algumas centenas de amostras efetivas para médias e alguns milhares para quantis de cauda.
Métodos relacionados
Fontes
Gelman, A., Carlin, J.B., Stern, H.S., Dunson, D.B., Vehtari, A. & Rubin, D.B. (2013). Bayesian Data Analysis (3rd ed.). Chapman & Hall/CRC.
Abrir referência DOICopiado.Brooks, S., Gelman, A., Jones, G.L. & Meng, X.-L. (Eds.) (2011). Handbook of Markov Chain Monte Carlo. Chapman & Hall/CRC.
Abrir referência DOICopiado.