Skip to content
返回搜索结果

蒙特卡洛模拟的方差缩减技术

提出者
Hammersley & Morton (antithetic variates, 1956); Lavenberg & Welch (control variates, 1981); importance sampling roots in Kahn & Marshall (1953)
年份
1950s–1980s (technique family)
类型
Simulation variance-reduction technique family

本文为机器翻译,尚未经过审校。 阅读英文原文

字号

它有什么作用?

方差缩减技术是一系列方法,通过用更少的随机抽样来实现相同的估计精度,从而提高蒙特卡洛模拟的效率。这些技术从20世纪50年代开始逐步发展——其中反拟合变量(antithetic variates)归功于Hammersley和Morton,控制变量(control variates)由Lavenberg和Welch正式化,重要性采样(importance sampling)根植于Kahn和Marshall的研究——该系列包括反拟合变量(AV)、控制变量(CV)、重要性采样(IS)和分层抽样(stratification),每种技术都利用目标量的一个不同结构属性来降低估计量的方差而不引入偏差。

方法背后的直觉

标准的蒙特卡洛方法通过对大量独立的随机抽样进行平均来工作。其弱点在于纯粹的随机抽样可能存在冗余——许多抽样落入贡献信息很少的区域,并且正负误差不能有效地相互抵消。方差缩减技术通过工程化随机性来解决这个问题。反拟合变量将每次抽样与其镜像配对,使得误差倾向于相互抵消;控制变量使用一个相关的、真实均值已知的量来调整估计;重要性采样将抽样集中在最重要的地方;分层抽样确保抽样均匀覆盖输入空间。其回报是以更少的函数评估获得相同的精度。

历史学

蒙特卡洛模拟方差缩减的基础奠定于20世纪50年代。Kahn和Marshall(1953)在核粒子输运的背景下引入了重要性采样。Hammersley和Morton(1956)将反拟合变量形式化,作为利用随机输入对称性的一种方式。控制变量由Lavenberg和Welch在20世纪80年代系统化,用于随机模拟。Paul Glasserman的2003年专著统一了这些技术在金融工程中的理论和实践,而Sheldon Ross的模拟教科书也使其成为研究生模拟教育的标准组成部分。如今,这些技术在计算金融、可靠性工程以及任何模拟运行成本高昂的领域都至关重要。

何时使用

当标准蒙特卡洛方法在不切实际的大量运行次数下才能获得可接受的精度时,使用方差缩减技术。AV适用于平滑、单调的被积函数;CV适用于存在具有已知均值的相关辅助量的问题;IS适用于稀有事件估计或重尾积分;分层抽样适用于低维输入空间。所有技术都需要至少数百次——理想情况下数千次——迭代,才能显现出方差缩减的好处。它们适用于连续随机量以及任何模拟成本是约束条件的领域。

局限与注意事项

  • 每种技术都需要对问题结构有了解:AV需要单调的被积函数,CV需要解析上已知的辅助均值,IS需要精心设计的建议分布。
  • 对重要性采样选择不当的建议分布可能会增加方差而不是减少它。
  • 组合多种技术会增加实现的复杂性,并可能以意想不到的方式相互作用。
  • 在非常低的迭代次数(低于约1000次运行)下,方差缩减的好处可以忽略不计。

来源中的条件不能替代独立的科学审查或分析引擎的验证。

优势

  • 大大减少了达到目标精度所需的模拟运行次数,降低了计算成本。
  • 技术可以组合使用(例如,AV与CV结合),以获得复合方差缩减。
  • 不引入偏差:所有标准技术都能产生无偏估计量。
  • 广泛适用于各个领域——金融、工程、医疗保健、运筹学——只要使用蒙特卡洛积分。

应用

  • 计算金融中的期权定价,其中重要性采样将抽样集中在价内路径上。
  • 可靠性和风险分析,使用IS以更少的模拟运行次数估计稀有故障概率。
  • 使用AV和CV来缩短运行时间的排队和服从系统性能分析。
  • 医疗保健成本效益模拟,其中CV利用成本模型的已知解析近似。
  • 不确定性下的工程设计,其中分层抽样确保输入参数空间的覆盖。

使用方式

使用方式

1

首先将感兴趣的量表示为期望值——例如,应用于随机输入的函数的均值。这种表述方式清楚地表明了样本来自哪个概率分布,以及在应用任何方差缩减之前,原始蒙特卡洛估计量是什么样子的。

2

选择与问题结构匹配的技术。当被积函数在输入上是单调的时,反拟合变量有效,通过将每个均匀抽样u与其补数1-u配对,可以保证负相关和误差的抵消。当存在一个相关的、具有已知解析期望的量时,控制变量有效;通过控制变量的模拟均值与其已知均值之间的差值来调整估计量。当需要提高稀有事件或高权重事件的概率时,重要性采样有效;使用一个尾部更重的建议分布(proposal distribution)替换原始分布,并通过似然比对每个样本进行重加权。分层抽样将输入空间划分为若干层,并按比例分配抽样,确保没有区域被过度或不足抽样。这些技术可以组合使用——例如,CV和AV一起使用——以获得额外的节省。

3

根据所选技术进行抽样。对于AV,生成配对抽样(u,1-u);对于IS,从建议分布中抽样并记录重要性权重;对于分层抽样,在每个层内进行抽样。迭代次数应至少为数千次,才能使方差缩减的好处可衡量。

4

将样本汇总为点估计和方差估计。对于AV,估计量是配对函数值的平均值。对于CV,原始平均值通过最优系数乘以控制变量样本均值与其已知期望值之间偏差来校正。对于IS,在平均之前,每个函数评估值都乘以其重要性权重。

5

将方差缩减估计量的方差与相同抽样次数的普通蒙特卡洛估计量的方差进行比较。两个方差的比率——方差缩减因子——量化了收益。如果该因子接近1,则表明该技术未能利用问题结构,可能需要采用不同的方法或更多的迭代。

常见陷阱

  • 在被积函数在输入上非单调时使用反拟合变量:负相关假设失效,该方法实际上可能增加方差。
  • 使用比目标分布尾部更轻的建议分布进行重要性采样:稀有事件被低估,估计量方差可能爆炸。
  • 从用于估计量的相同样本中估计CV系数,而未考虑小样本量下的诱导偏差。
  • 运行的迭代次数太少(低于约1000次):方差缩减因子无法可靠测量,并且与普通蒙特卡洛相比的好处不可见。
  • 组合AV和CV而不验证组合是否保持负相关:联合估计量可能无法实现预期的节省。

常见问题

我应该选择哪种技术——AV、CV、IS还是分层抽样?

根据您问题的结构来选择。如果被积函数在输入上是单调的,AV简单有效。如果您有一个相关的量,其期望值可以通过解析计算,那么CV通常是最强大的选择。如果您需要估计稀有事件概率或在重尾上进行积分,IS是正确的工具。分层抽样在低到中等维度下,当您希望输入空间均匀覆盖时效果很好。技术也可以组合使用以获得额外的好处。

我需要多少次模拟运行?

只有当您至少有数百次运行,最好是数千次运行时,方差缩减的好处才能衡量;在非常少的迭代次数下,方差缩减因子无法稳定估计,并且普通蒙特卡洛估计量可能表现相当。作为一项实际规则,不要使用少于1000次迭代的技术。

方差缩减技术会引入偏差吗?

不会——所有四种标准技术(AV、CV、IS、分层抽样)在正确实现时都能产生无偏估计量。CV估计量确实需要对最优系数进行准确估计;从小的先导样本估计它并使用相同的样本进行主要估计可能会引入小的有限样本偏差,因此最好使用单独的先导样本或渐近有效的系数公式。

如果我的重要性采样建议分布选择不当会怎样?

相对于目标分布,尾部过轻的建议分布可能导致方差灾难性增加,使IS比普通蒙特卡洛更差。务必验证建议分布在相关区域的尾部比目标分布更重,并检查重要性权重的方差作为诊断——极大的权重值表明建议分布不佳。

相关方法

参考文献

  1. Ross, S.M. (2012). Simulation (5th ed.). Academic Press.

    ISBN:978-0124158252
    已复制。
  2. Glasserman, P. (2003). Monte Carlo Methods in Financial Engineering. Springer.

    打开 DOI 文献
    已复制。