主动学习高斯过程
- 提出者
- MacKay, D. J. C.
- 年份
- 1992
- 类型
- Bayesian active learning
- 类别
- Machine learning
本文为机器翻译,尚未经过审校。 阅读英文原文
它有什么作用?
主动学习高斯过程(GP-AL)将高斯过程概率模型与主动学习查询策略相结合,利用高斯过程的后验不确定性来选择信息量最大的未标记样本进行标记。这种迭代方法最大限度地减少了标记工作量,同时最大限度地提高了预测准确性,使其在标记数据稀缺或获取成本高昂时成为理想选择。
方法背后的直觉
高斯过程不仅预测一个值,还预测其置信度。主动学习利用了这一点:算法不是随机标记数据,而是检查所有未标记点,并要求人类(或预言机)仅标记高斯过程最不确定的点。标记后,高斯过程更新其信念,并重复该循环。这种有针对性的方法比随机或被动采样更有效地获取信息丰富的标签,通常以一小部分标记数据实现强大的模型性能。
历史学
MacKay (1992) 正式提出了使用信息论准则选择概率模型训练点的思想,他表明最大化从预言机获得的信息增益等同于在贝叶斯模型下选择高方差点。高斯过程成为自然的选择,因为它们产生精确的后验分布。该领域在21世纪00年代通过 Lawrence、Settles (2012) 和贝叶斯优化社区的工作而成熟,后者将相同的高斯过程加采集函数框架重新用于超参数搜索。
何时使用
当标记数据稀缺或获取成本高昂时(在科学实验、医学研究或工业测试中),以及当您需要校准的不确定性估计以及预测时,请使用GP-AL。它在具有平滑或适度非线性函数的低到中等维度的连续输入空间中表现出色,并且适用于小型到中等数据集(最多几千个点)。当输入空间维度非常高(高斯过程核的扩展性差)、数据集已经很大(高斯过程推理的复杂度为O(n^3)),或者预言机标记成本可以忽略不计且随机采样足以满足需求时,请勿使用它。
局限与注意事项
- 标记点数量的立方计算复杂度O(n^3)使得扩展到数千个观测值成本高昂,除非采用稀疏或诱导点近似。
- 在高维输入空间中性能下降,因为高斯过程核难以有效捕获结构。
- 假设预言机始终可用,并且可以无错误或无延迟地标记任何查询点。
- 核选择并非易事;核指定不当可能导致不确定性校准不佳和次优查询。
来源中的条件不能替代独立的科学审查或分析引擎的验证。
优势
- 原则性的不确定性量化:高斯过程后验直接驱动查询策略,无需启发式方法。
- 显著的标签效率——以远少于被动训练模型的标记样本实现可比的准确性。
- 灵活的核选择允许实践者编码关于函数平滑度的领域知识。
- 提供校准的置信区间以及预测,支持下游决策。
- 很好地处理小型到中型数据集,而深度学习方法通常表现不佳。
- 主动学习循环是可解释的:每次查询都由可测量的U不确定性分数证明。
应用
- 药物发现和材料科学,其中每个实验成本高昂且输入-输出表面未知。
- 医学图像标注,选择最模糊的扫描进行放射科医生审查。
- 机器人和自主系统,用于从稀疏传感器反馈中高效学习控制策略。
- 环境监测,将传感器引导到空间不确定性最大的位置。
- 超参数优化(贝叶斯优化),其中高斯过程对损失表面进行建模,主动查询选择下一个要评估的配置。
使用方式
使用方式
从一个小的初始标记数据集开始,并指定一个高斯过程核(例如,平方指数核、Matern核)和噪声模型。核编码了关于所学习函数的平滑度和长度尺度的先验假设。
将高斯过程拟合到当前的标记集。高斯过程返回输出空间上的后验预测分布——每个点(包括所有未标记的候选点)的平均预测和方差(不确定性)。
公式
p(f^* | X, y, x^*) = \mathcal{N}(\mu^*, \sigma^{*2})应用采集函数——最常见的是最大预测方差,但也包括熵或预期改进——对未标记点进行排序。选择得分最高的点进行标记,因为它携带的信息量最大,可以减少模型不确定性。
公式
x^* = \arg\max_{x \in \mathcal{U}} \sigma^2(x)将选定的点呈现给预言机(人工标注者、实验或自动化传感器)进行标记。获取真实标签并将其附加到不断增长的标记数据集中。
用新标记的点重新拟合高斯过程。由于高斯过程支持精确的贝叶斯更新,后验分布会发生变化以反映新的观测结果,从而减少该点附近的不确定性并可能重塑其他地方的不确定性。
重复采集-查询-更新循环,直到达到预算(标签数量、计算时间或目标准确度阈值)。终止时,最终的高斯过程用于对新的测试数据进行预测。
常见陷阱
- 在不验证函数是否实际平滑的情况下使用默认RBF核——指定错误的平滑度假设会扭曲不确定性估计和查询选择。
- 忽略初始化策略:初始标记集不佳(例如,全部来自狭窄区域)会使模型产生偏差并延迟探索。
- 忘记归一化输入和输出;高斯过程对尺度敏感,未归一化数据可能导致协方差矩阵的数值不稳定。
- 将采集分数视为重要性的绝对度量,而不是当前未标记池中的相对排名。
- 在没有稀疏高斯过程近似的情况下,将GP-AL应用于数千个样本的数据集,导致运行时间过长。
常见问题
GP-AL与标准高斯过程回归有何不同?
标准高斯过程回归被动地拟合所提供的任何标记数据。GP-AL增加了一个外部循环,主动选择接下来要标记哪些未标记点,在高斯过程不确定性的指导下,因此模型在每次获取标签后学习得更多。
我应该使用哪种采集函数?
最大预测方差是最简单和最常见的选择,非常适合纯粹的探索。当有特定的目标值或分类边界需要定位时,预期改进或基于熵的准则可能更可取。
我需要多少初始标记点才能开始?
少量——通常是5到20个——选择覆盖输入空间(例如,通过拉丁超立方体或空间填充设计)足以初始化高斯过程并为第一轮查询生成有意义的不确定性估计。
该方法适用于分类任务吗?
是的,使用高斯过程分类(带有概率或逻辑链接函数)。不确定性量化需要近似推理(例如,拉普拉斯近似或期望传播),这使得它比回归情况稍微复杂。
我什么时候应该优先选择随机森林或神经网络而不是GP-AL?
当数据集很大(数千个或更多标记样本)或高维(许多输入特征)时,因为高斯过程的计算成本和核表达能力变得有限。带有蒙特卡洛 dropout 的神经网络可以作为这些情况下主动学习的可扩展替代方案。