Skip to content
返回搜索结果

主动学习梯度提升

提出者
Settles, B. (active learning); Friedman, J. H. (gradient boosting); combined framework developed by the research community
年份
2000s–2010s
类型
Active learning framework with gradient boosting base learner
类别
Machine learning

本文为机器翻译,尚未经过审校。 阅读英文原文

字号

它有什么作用?

主动学习梯度提升(Active Learning Gradient Boosting)将梯度提升树强大的预测准确性与主动学习循环相结合,该循环选择最具信息量的未标记示例供人工标注。通过仅查询模型最不确定的实例,该方法可以用远少于被动监督学习的标记示例实现高准确率。

方法背后的直觉

标记数据成本高昂。主动学习通过让模型决定接下来哪些示例值得标注来解决此问题——通常是模型最不确定的那些。梯度提升以其在表格数据上的强大准确性而闻名,在此循环中充当核心学习器。每轮标注后,提升模型都会在不断增长的标记集上重新训练,并再次识别出最不确定的未标记点。其结果是,仅用被动训练所需一小部分标记数据就能构建一个高性能模型。

历史学

主动学习作为一个领域由 Burr Settles 在其有影响力的 2010 年调查中系统化。梯度提升由 Jerome Friedman 于 2001 年正式提出。随着梯度提升树库(XGBoost 2016,LightGBM 2017)成为标准工具,使得在迭代标注流程中重新训练强大模型变得可行,它们在 2010 年代获得了关注。这种组合现在在自然语言处理标注、医学影像分诊和工业质量控制中很常见。

何时使用

当您拥有大量未标记表格数据但标注成本高昂或耗时,并且梯度提升本应是首选模型时,请使用主动学习梯度提升。它对于类别不平衡的数据集尤其有效,因为稀有类别的被动采样很难进行。当标注成本低廉(使用所有标签的被动学习更简单)、未标记池太小以至于查询不值得、您需要完全透明的模型(系数或规则)或每次查询后的实时重新训练不可行时,请避免使用。

局限与注意事项

  • 每轮查询后从头开始重新训练梯度提升模型,对于大型数据集来说计算成本高昂。
  • 查询策略可能遭受采样偏差,如果初始种子不具代表性,则可能收敛到一个不具代表性的标记集。
  • 梯度提升概率的校准可能需要额外的步骤(例如 Platt 缩放)才能确保可靠的不确定性估计。
  • 性能对查询策略的选择敏感;没有单一策略能在所有任务中占主导地位。
  • 需要用于人工干预标注工作流的基础设施,这会增加工程开销。

来源中的条件不能替代独立的科学审查或分析引擎的验证。

优势

  • 与被动监督学习相比,用更少的标记示例即可获得有竞争力的准确率。
  • 继承了梯度提升在表格数据上的强大性能,能够处理非线性交互和混合特征类型。
  • 灵活:兼容任何查询策略(不确定性、边际、熵、查询委员会)。
  • 系统地降低标注成本,使其在医学或法律等专家标注密集型领域具有实用性。
  • 支持迭代部署:模型随着更多标签的收集而持续改进。

应用

  • 医学图像或文本分类,其中专家标注稀缺且成本高昂。
  • 大型交易数据集上的欺诈检测,其中已确认的欺诈标签需要人工审查。
  • 自然语言处理流程中的情感或意图标注,其中众包标注预算有限。
  • 具有有限检查能力的工业缺陷检测。
  • 生物学、化学或材料科学中的科学数据标注,其中领域专家成本高昂。
  • 客户流失或信用风险建模,其中已确认结果的样本有限。

使用方式

使用方式

1

训练始于一小组标记示例。其余可用数据保留在池中未标记。种子集必须足够大,以便梯度提升模型能够产生有意义的概率估计;通常每类至少需要一个示例。

2

在当前标记集上训练一个梯度提升模型(例如 XGBoost、LightGBM 或 scikit-learn 的 GradientBoostingClassifier)。模型通过迭代拟合残差来学习决策树的加性集成,生成用于下一步查询的校准类概率。

3

不确定性或信息量标准用于选择模型最不确信的未标记实例。常用策略包括最小置信度采样、边际采样和熵采样。熵准则选择最大化未标记池 U 上 H(p(y|x)) 的 x*。

公式
x^* = \arg\max_{x \in U}\, H(p(y \mid x))
4

所选实例被呈现给人类标注员(神谕),后者提供真实标签。实际上,此步骤是花费标注成本的地方,因此查询策略的效率直接控制着标注预算。

5

新标记的示例被添加到训练集中,并从头开始重新训练或更新梯度提升模型。该循环重复进行,直到标注预算耗尽或在验证集上达到性能阈值。

常见陷阱

  • 以过小或不平衡的种子集开始,导致模型仅查询特征空间的某个区域。
  • 忽略概率校准:原始梯度提升分数不总是良好校准的概率,由此得出的不确定性估计可能具有误导性。
  • 仅在主动选择的标记集上评估模型性能,该集合倾向于不确定或困难的示例。
  • 在主动学习循环开始之前,始终保留一个独立的测试集——在主动选择之后使用整个未标记池进行最终评估。
  • 未能与在相同数量的随机抽样标签上训练的被动基线进行比较。

常见问题

哪种查询策略与梯度提升一起效果最好?

熵采样和边际采样是最常见的选择,并且在实践中效果很好。使用梯度提升模型集成进行委员会查询可能更稳健,但会增加训练成本。最佳策略取决于数据集;在试点样本上比较两种或三种策略是值得的。

我需要校准梯度提升的概率吗?

是的,尤其是在使用熵或基于置信度的查询策略时。梯度提升可能产生过于自信的概率。在每轮训练后应用 Platt 缩放或等渗回归,以在查询之前获得更好的校准不确定性估计。

每轮应标记多少个示例?

批次大小通常为 1 到几十个。较大的批次计算效率更高,但样本效率可能不如单点查询。从与初始标记集大约 1-5% 成比例的批次大小开始,并根据标注吞吐量进行调整。

何时应停止主动学习循环?

当验证性能在连续几轮中停滞不前时、标注预算耗尽时,或当模型对剩余未标记池的不确定性降至某个阈值以下(表明该池大部分无信息量)时。

我可以使用 XGBoost 或 LightGBM 代替 scikit-learn 的梯度提升吗?

是的——XGBoost 和 LightGBM 更快,通常也更准确;它们是实践中的首选实现。确保使用 predict_proba(或等效项)进行校准,而不是使用原始的对数几率分数进行查询策略。

相关方法

参考文献

  1. Settles, B. (2010). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    打开出版物文献
    已复制。
  2. Friedman, J. H. (2001). Greedy Function Approximation: A Gradient Boosting Machine. Annals of Statistics, 29(5), 1189–1232.

    打开 DOI 文献
    已复制。