它有什么作用?
近似贝叶斯计算(Approximate Bayesian Computation, ABC)是一类基于模拟的推断方法,它能在不需要解析可处理的似然函数的情况下估计后验分布。ABC由Beaumont、Zhang和Balding(2002)在群体遗传学背景下提出,用重复的模型模拟和对模拟数据与观测数据之间汇总统计量的比较来替代难以处理的似然函数。
方法背后的直觉
经典的贝叶斯推断提出:给定观测数据,模型参数有多大可能?回答这个问题通常需要计算似然函数——即在每个参数设定下观测到数据的概率。对于生物学、生态学和经济学中的许多实际模型,该计算要么在解析上不可能,要么在计算上过于昂贵。ABC完全绕过了它:它不计算似然函数,而是从模型中模拟数据,将其压缩为少数汇总统计量,并且仅当模拟的汇总统计量足够接近观测到的汇总统计量时才接受参数提议。接受的提议累积起来形成一个近似后验。当容差阈值趋近于零时,近似是精确的,并且随着该阈值的收紧,近似会稳步改善——但代价是接受的提议更少。
历史学
无似然推断的基础可以追溯到群体遗传学中非正式使用的拒绝采样思想,但该方法由Beaumont、Zhang和Balding在其2002年关于推断人口历史的里程碑式《Genetics》论文中正式化并命名。Marjoram等人(2003)引入了ABC-MCMC变体以提高效率,Sisson、Fan和Beaumont(2007)开发了顺序蒙特卡洛(SMC-ABC)框架,该框架在群体之间自适应地减小容差。Sisson、Fan和Beaumont编辑的《近似贝叶斯计算手册》(2018年)整合了二十年的方法学发展。最近,神经密度估计器和摊销推断被提出作为直接从模拟中学习后验的方法,将ABC扩展到机器学习时代。
何时使用
当模型可以向前模拟但其似然函数无法解析评估时,ABC是正确的选择——这种情况在群体遗传学、流行病学、生态学和基于代理的经济建模中经常出现。它处理连续、二元和计数结果变量,并且对数据没有正态性要求。没有硬性最低样本量要求,但汇总统计量必须携带关于参数的足够信息。当模拟预算很大且容差可以设置得很低时,ABC可以精确地近似真实后验;当模拟成本高昂时,SMC-ABC或神经后验估计变体更可取。如果似然函数是可处理的,则标准MCMC更有效。
局限与注意事项
- 朴素拒绝ABC需要大量的模拟才能达到较低的容差阈值和有意义的接受率,这使得它在处理高维参数空间时计算成本高昂。
- 后验近似的质量关键取决于汇总统计量的选择;选择不当的汇总统计量可能产生有偏或高方差的后验。
- 没有解析保证所选的汇总统计量是充分的,因此相对于完整的似然函数通常会丢失信息。
- 少于大约1000个总接受的提议通常会产生不可靠的后验近似;当模拟预算有限时,应考虑标准MCMC。
来源中的条件不能替代独立的科学审查或分析引擎的验证。
优势
- 在没有闭式似然函数的情况下运行,将贝叶斯推断应用于复杂的生成模型,这些模型易于模拟但难以解析评估。
- 足够灵活,可以处理分析者能够编码为模拟器的任何结构模型下的连续、二元和计数结果。
- 如SMC-ABC和ABC-MCMC等变体,与朴素拒绝采样相比,大大减少了所需的模拟次数。
- 当容差阈值趋近于零时,后验近似收敛于真实后验。
应用
- 从等位基因频率数据中推断群体遗传学中的群体大小、迁移和分化历史。
- 在个体层面似然函数难以处理的流行病模型中,估计传播率和接触参数。
- 在没有闭式均衡似然函数的情况下,校准基于代理的经济模型与宏观统计数据。
- 将随机生态模型——捕食者-猎物动力学、物种扩散——拟合到野外观测汇总数据。
- 在系统生物学模型中进行参数估计,其中机械ODE被随机模拟取代。
使用方式
使用方式
分析者指定模型参数上的先验分布,编码在看到数据之前已知或假设的信息。这个先验是算法中将要从中抽取候选参数值的来源,因此它应该覆盖参数的合理范围。
从先验(或在自适应变体中,从重要性分布)中抽取一个参数提议。然后使用该提议运行完整的随机模型,生成合成数据集。这个模拟步骤是ABC的计算核心,可能需要运行数千或数百万次。
合成数据集和观测数据集都被压缩为汇总统计量向量——选择这些量是为了尽可能多地携带关于参数的信息。理想情况下,汇总统计量是充分统计量,但实际上它们是基于领域知识和诊断检查来选择的。
在选定的度量下计算合成汇总统计量与观测汇总统计量之间的距离。如果该距离在预设的容差阈值 epsilon 内,则接受参数提议;否则拒绝。较小的 epsilon 值会产生更精确的后验近似,但接受率较低。
接受的参数提议集合构成了近似后验分布的样本。该样本可以用来计算后验均值、可信区间和预测分布,其方式与标准的贝叶斯后验样本完全相同。在SMC-ABC中,容差在连续的群体中减小,以提高效率。
常见陷阱
- 将容差epsilon设置得太宽松会导致近似值与真实后验有显著差异——务必验证收紧epsilon是否能稳定后验。
- 未能充分携带关于感兴趣参数信息的汇总统计量会将后验偏向先验;通过检查当真实参数改变时统计量是否会改变来验证统计量。
- 运行少于1000次模拟会产生一个太稀疏而不可靠的后验样本;如果模拟成本阻止达到此阈值,请切换到MCMC或SMC-ABC。
- 先验必须充分覆盖合理的参数空间;过窄的先验会排除后验的某些区域,而过宽的先验则会在不合理的区域浪费模拟预算。
常见问题
ABC与标准MCMC有何不同?
两种方法都从后验分布中产生样本,但MCMC在每个提议的参数值处评估似然函数,而ABC则用前向模拟和汇总统计量比较来替代该评估。当似然函数难以处理时使用ABC;当它可以计算时使用MCMC。
如何选择汇总统计量?
汇总统计量应尽可能多地捕获关于感兴趣参数的信息。常用做法是利用领域知识(例如,均值、方差、等位基因频率),并通过检查当真实参数改变时统计量是否会改变来验证选择。充分统计量仅存在于指数族模型中;对于其他模型,信息丢失是不可避免的。
容差epsilon需要多小?
没有普遍规则。一种实用的方法是逐步收紧epsilon并检查后验形状是否稳定。后验近似随着epsilon的减小而改善,但接受率也相应下降,需要更多的模拟。SMC-ABC通过在群体之间自适应地减小epsilon来自动化这种权衡。
何时应使用SMC-ABC而不是拒绝ABC?
当模拟成本高昂时,朴素拒绝ABC会浪费大部分模拟,因为在严格的容差下接受率可能非常低。SMC-ABC使用一系列中间容差阈值和重要性加权群体来将模拟集中在后验附近,从而在相同的最终epsilon下效率更高。