Skip to content
返回搜索结果

马尔可夫链蒙特卡洛 (MCMC) — Metropolis-Hastings 算法和 Gibbs 抽样

提出者
Metropolis et al. (1953); Gibbs sampler formalised by Geman & Geman (1984)
年份
1953 (Metropolis-Hastings); 1984 (Gibbs)
类型
Simulation-based Bayesian inference / numerical integration

本文为机器翻译,尚未经过审校。 阅读英文原文

字号

它有什么作用?

马尔可夫链蒙特卡洛 (MCMC) 是一系列模拟算法,它构建一个马尔可夫链,使其平稳分布为目标后验分布,从而实现贝叶斯推断和高维积分计算,否则这些计算在分析上是难以处理的。MCMC 由 Metropolis 及其同事于 1953 年开创,并由 Hastings 于 1970 年扩展,是现代贝叶斯统计的基础。两种最广泛使用的变体是 Metropolis-Hastings 算法(它从一个通用提议分布中提出移动)和 Gibbs 抽样(它依次从其完全条件分布中抽取每个参数)。

方法背后的直觉

想象一下,您想知道隐藏在迷雾中的山脉的形状。您无法一次性看到它,但您可以随机迈出一步,并根据地面是更高还是更低来决定是否移动。通过长时间行走并记录您去过的地方,您访问最频繁的地方会描绘出山峰——这就是后验分布。MCMC 在高维参数空间中做同样的事情:它构建了一个样本链,该链逐渐进入高概率区域,因此访问值的直方图近似于目标分布,而无需为其提供封闭形式的表达式。

历史学

基础的 Metropolis 算法于 1953 年由 Metropolis、Rosenbluth、Rosenbluth、Teller 和 Teller 发表,用于分子模拟。Hastings (1970) 将其推广到非对称提议分布,产生了 Metropolis-Hastings 算法。Geman 和 Geman (1984) 在图像恢复的背景下引入了 Gibbs 抽样。在 Gelfand 和 Smith (1990) 证明其在贝叶斯计算中的广泛适用性以及 Gelman 和 Rubin (1992) 提供了 R̂ 收敛诊断后,该算法在 1990 年代初成为主流统计工具。随后 Duane 等人 (1987) 开发的哈密顿蒙特卡洛及其 Hoffman 和 Gelman (2014) 的自动变体 NUTS 将 MCMC 扩展到高维问题。Gelman 等人的《贝叶斯数据分析》(2013) 和《马尔可夫链蒙特卡洛手册》(Brooks 等人,2011) 是标准的综合参考资料。

何时使用

当贝叶斯模型已指定且后验分布无法进行分析计算时,MCMC 是合适的工具——这对于具有少量以上参数或非共轭先验的模型来说是常见情况。它也是潜在变量模型、分层模型以及任何需要将不确定性完全传播通过复杂管道的设置的标准方法。除了似然规范之外,不需要对数据进行任何分布假设。主要的实际要求是链收敛所需的足够迭代次数:少于大约 1 000 个预热后样本通常无法可靠地表征后验,在高维设置中需要更多。当参数空间维度非常高时,哈密顿蒙特卡洛 (HMC) 或无 U 型转弯采样器 (NUTS)——MCMC 思想的自动扩展——比基本的 Metropolis-Hastings 算法效率高得多。

局限与注意事项

  • 收敛不能保证在有限时间内发生;一个看似已收敛的链可能仍然停留在后验的局部区域。
  • 连续样本之间的自相关意味着有效样本量小于原始迭代次数,需要比等效独立样本更长的运行时间。
  • 在高维参数空间中,随机游走 Metropolis-Hastings 混合不良;需要哈密顿蒙特卡洛或 NUTS 进行有效探索。
  • 模型规范要求分析师仔细选择先验,选择不当的先验或错误指定的似然可能会以难以检测的方式偏置后验。

来源中的条件不能替代独立的科学审查或分析引擎的验证。

优势

  • 对于后验没有封闭形式的模型,实现精确(渐近)贝叶斯推断,涵盖分层模型、缺失数据问题和复杂似然。
  • 生成完整的联合后验样本,因此任何派生量、预测或决策都可以通过正确传播的不确定性进行计算。
  • 适用于连续、二元和计数结果,并且除了建模者指定的似然之外,不对数据施加任何分布假设。
  • 运行多个并行链通过 Gelman-Rubin R̂ 诊断使收敛验证系统化。

应用

  • 在心理学、教育和医学中拟合分层贝叶斯模型,其中数据分组并需要部分池化。
  • 根据观测病例数估计流行病学隔室模型(SIR, SEIR)的参数,包括不确定性量化。
  • 社会科学研究中的贝叶斯结构方程建模和潜在变量模型。
  • 教育测量中项目反应理论 (IRT) 模型的后验推断。
  • 当似然可用但非共轭时,根据观测数据校准复杂的模拟模型。
  • 贝叶斯参数不确定性下的金融风险建模和期权定价。

使用方式

使用方式

1

分析师定义贝叶斯模型:一个将参数与观测数据联系起来的似然函数,以及在看到数据之前编码对每个参数的信念的先验分布。这些共同定义了 MCMC 将探索的未归一化后验。先验和似然族的选择决定了链的结构,并且必须以主题领域知识为基础。

2

为所有参数选择起始值,并设置链的数量、预热(burn-in)期的长度以及预热后迭代的总次数。从不同的起始点运行多个独立的链(通常是四个)是标准做法,因为它允许通过比较链来评估收敛性,而不是依赖于单一轨迹。

3

在每次迭代中,算法都会在参数空间中提出一个移动。在 Metropolis-Hastings 算法下,从提议分布中抽取一个候选,并以取决于候选位置和当前位置后验密度比的概率接受该候选,从而确保链的平稳分布是目标后验。在 Gibbs 抽样下,每个参数依次通过直接从其完全条件分布中抽取来更新,这避免了对显式接受步骤的需求。由于连续样本共享信息,链表现出自相关性;稀疏化(仅保留每 k 个样本)可以减少这种情况,但代价是存储的样本更少。

4

丢弃预热期后,评估收敛性。Gelman-Rubin R̂ 统计量比较多个链的链内方差与链间方差;低于 1.05 的值表示链已混合并收敛到相同的分布。还会检查迹线图(迭代过程中采样值的序列)和有效样本量。如果 R̂ 很大或迹线图显示混合不良,则必须在推断进行之前修改模型、先验或采样器设置。

5

预热后样本的集合形成了后验的经验近似。点估计(后验均值或中位数)、可信区间和后验预测分布直接从样本中计算。由于样本是从联合后验中抽取的,因此任何派生量(比率、差异、参数的非线性函数)都可以通过将相同的函数应用于每个样本并总结所得分布来估计。

常见陷阱

  • 跳过或缩短预热期意味着链的早期非平稳部分会污染后验估计——始终丢弃一个充足的预热期。
  • 仅运行单个链无法检测采样器是否已收敛或被困在一个区域;始终运行至少四个独立的链。
  • 将大量原始迭代计数视为收敛的证据而不计算 R̂ 或检查迹线图可能会产生虚假信心——需要 R̂ < 1.05,而不仅仅是许多迭代。
  • 忽略自相关并将有效样本量报告为原始计数会夸大精度;报告有效样本量以及原始计数。
  • 将 MCMC 应用于少于大约 1 000 次预热后迭代的模型通常不会产生可靠的后验;如果计算预算如此紧张,请考虑分析贝叶斯方法或共轭模型。

常见问题

我如何知道我的 MCMC 链是否已收敛?

主要的诊断是 Gelman-Rubin R̂ 统计量,通过从不同起始点运行至少四个独立链并比较链内方差与链间方差来计算。所有参数的 R̂ 值低于 1.05 是传统阈值。迹线图应显示链重叠并探索同一区域;漏斗形或漂移的迹线表示混合不良。还应检查有效样本量——相对于原始计数而言非常小的有效样本量表明自相关性高,需要更多迭代或更好的采样器。

Metropolis-Hastings 算法和 Gibbs 抽样有什么区别?

Metropolis-Hastings 算法从用户指定的提议分布中同时(或分块)为所有参数提出一个移动,并以保留目标后验作为平稳分布的概率接受或拒绝该提议。Gibbs 抽样则通过直接从其完全条件分布中抽取来一次更新一个参数——该参数在给定所有其他参数和数据时的分布。Gibbs 抽样要求这些完全条件以封闭形式可用,这对于许多共轭模型来说是如此;当它们可用时,Gibbs 效率很高,因为每个提议都被接受。Metropolis-Hastings 算法适用范围更广,但需要调整提议以实现可接受的接受率。

我什么时候应该使用哈密顿蒙特卡洛而不是 Metropolis-Hastings 算法?

哈密顿蒙特卡洛 (HMC) 及其自动变体 NUTS 使用对数后验的梯度信息来提出大的、有根据的移动,这些移动仍然以高概率被接受。这使得它们在高维参数空间中比随机游走 Metropolis-Hastings 算法效率高得多,因为随机提议几乎总是被拒绝。作为一条实用规则,如果您的模型有十个以上参数,或者 Metropolis-Hastings 链显示混合不良且有效样本量非常低,建议切换到 HMC 或 NUTS。

我需要多少次迭代?

没有普遍的答案,但一个常见的起点是每个链 1 000 次预热(burn-in)迭代加上 2 000 次采样迭代,共四个链,得到 8 000 个预热后样本。这是否足够取决于链的自相关性和后验的复杂性。当所有参数的 R̂ < 1.05 且有效样本量足以表征感兴趣的后验特征时,链是足够的——通常对于均值至少需要几百个有效样本,对于尾部分位数需要几千个。

相关方法

参考文献

  1. Gelman, A., Carlin, J.B., Stern, H.S., Dunson, D.B., Vehtari, A. & Rubin, D.B. (2013). Bayesian Data Analysis (3rd ed.). Chapman & Hall/CRC.

    打开 DOI 文献
    已复制。
  2. Brooks, S., Gelman, A., Jones, G.L. & Meng, X.-L. (Eds.) (2011). Handbook of Markov Chain Monte Carlo. Chapman & Hall/CRC.

    打开 DOI 文献
    已复制。