主动学习提升(Active Learning Boosting)
- 提出者
- Abe, N. & Mamitsuka, H.
- 年份
- 1998
- 类型
- Hybrid active-learning ensemble
- 类别
- Machine learning
本文为机器翻译,尚未经过审校。 阅读英文原文
它有什么作用?
主动学习提升将主动学习的查询驱动标签获取与AdaBoost等提升算法的加权集成逻辑相结合。该模型迭代地选择信息量最大的未标记样本进行标注——由提升集成内部的分歧或不确定性指导——并在每次获得新标签后重新训练,从而以远少于被动学习所需的标记样本数量实现高准确率。
方法背后的直觉
数据标注成本高昂。提升算法通过自适应地重新加权,将重点放在最难的样本上,从而从弱学习器构建出强大的分类器。主动学习在数据收集阶段利用了类似的思想:不是标注所有数据,而是请求预言机仅标注当前提升集成最不确定或分歧最大的样本。这两个原则相互强化——提升算法识别出哪些区域是困难的,而主动学习则将标注工作集中在这些区域,因此模型可以利用有限的标注预算高效学习。
历史学
Abe和Mamitsuka在ICML 1998上提出了结合提升和装袋的查询学习策略,确立了集成裕度为主动查询提供了有原则的不确定性信号。Settles在2009年的调查巩固了该领域,并列举了基于提升的策略以及支持向量机和高斯过程方法。此后,梯度提升变体(XGBoost、LightGBM)已被用作医学、自然语言处理和遥感领域应用主动学习流程的集成骨干。
何时使用
当标注成本高昂(临床标注、专家评审、法律编码)但有大量未标记数据可用,并且您需要强大的集成准确性而非简单模型时,请使用主动学习提升。它非常适合具有中等类别不平衡的表格分类任务,因为提升算法的重新加权自然会关注困难实例。当标注成本低廉(对整个数据集进行被动学习可能更简单)、未标记池很小(没有有意义的查询增益)、任务需要实时或流式决策(标准提升算法是批处理导向的),或者需要完全解释系数时,它不太适用。
局限与注意事项
- 在每个查询周期都需要一个预言机(人工或自动化),使得全自动化流程变得复杂。
- 初始的已标记种子集必须具有代表性;有偏的种子会导致早期查询有偏和收敛缓慢。
- 查询最不确定的实例可能会引入分布偏移——已标记集不再反映自然数据分布。
- 计算成本随每次再训练循环而增加,特别是对于大型池上的深度提升集成。
- 当标注预算变得很大时,相对于被动学习的性能增益会缩小。
来源中的条件不能替代独立的科学审查或分析引擎的验证。
优势
- 与随机采样相比,显著降低了达到给定准确率目标所需的标注成本。
- 通过自适应样本加权,继承了提升算法强大的泛化能力和对类别不平衡的鲁棒性。
- 查询策略直接基于模型自身的不确定性,使其具有原则性和适应性。
- 适用于包含混合特征类型的表格数据,无需分布假设。
- 可与任何提升变体(AdaBoost、梯度提升、XGBoost)作为底层学习器兼容。
应用
- 专家标注稀缺且昂贵的医疗记录标注。
- 有限标注语料库的文档和文本分类。
- 地面实况收集需要大量实地劳动的遥感土地覆盖测绘。
- 确认欺诈标签需要人工审查的欺诈检测模型构建。
- 缺陷标注需要专家检查的工业质量控制。
使用方式
使用方式
准备一个大型未标记实例池和一个小型已标记种子集。种子集应具有足够的代表性,以训练初始的弱提升集成;通常几十个已标记样本就足以开始循环。
使用提升算法(例如AdaBoost或梯度提升)在当前已标记数据集上进行训练。这将生成一个弱学习器集成及其权重,以及最重要的,每个实例的预测裕度或置信度分数,查询策略将利用这些信息。
针对每个未标记实例,计算一个源自提升集成的信息量准则。常见的策略包括查询集成裕度最低(即裕度采样)、集成不确定性最高或使用提升权重来识别难以分类区域的实例。选择固定批次排名靠前的实例进行标注。
将选定的实例呈现给人工标注者或预言机进行标注。这是唯一需要外部工作的步骤;其成本与查询批次大小成正比。新标注的实例被添加到已标记训练集中。
在扩展的已标记数据集上,从头开始重新训练——或增量更新——提升模型。从步骤3开始的循环重复进行,直到标注预算耗尽或达到性能阈值。最终预测由完全训练好的提升集成生成。
常见陷阱
- 使用过小或不具代表性的种子集,导致第一个查询周期集中在噪声边界区域。
- 忘记在查询循环中从未使用的保留测试集上进行评估,导致乐观的准确率估计。
- 忽略分布偏移:在已标记集是主动选择的情况下,报告自然分布上的测试准确率。
- 当标注成本可以忽略不计时应用主动学习提升——增加的复杂性是不必要的。
- 将基于裕度的查询与异常值选择混淆;检查查询的实例是否真正具有信息量,而不仅仅是噪声。
常见问题
哪种提升算法作为基础学习器效果最好?
任何提供每个实例置信度或裕度分数的提升变体都可以。AdaBoost在最初的主动学习文献中研究最多;梯度提升(XGBoost、LightGBM)在实践中往往能提供更高的准确率,并且在现代流程中越来越常见。
初始标记种子集应该有多大?
一个常见的指导原则是总池的1-5%或每个类别至少几个样本,取两者中较大者。过小的种子会产生不稳定的初始模型,其早期查询可能会产生误导。
主动学习提升总是优于随机采样吗?
不总是。当标注预算相对于池很大时,随机采样会接近相同的准确率。最大的增益出现在标注成本高昂且未标记池很大的低预算情况下。
我如何公平地评估模型?
在主动学习循环开始之前保留一个测试集,并且绝不将其包含在查询决策或训练中。在未触及的测试集上评估最终的提升集成;在主动选择的已标记集上的准确率是乐观偏高的。
我可以使用批量查询而不是一次查询一个示例吗?
可以。批量模式主动学习在每个周期选择一组多样化的、高不确定性的实例,以减少与预言机的交互。大多数实际实现使用10-100个批次,平衡信息量和多样性,以避免查询非常相似的实例。
相关方法
参考文献
Abe, N. & Mamitsuka, H. (1998). Query Learning Strategies Using Boosting and Bagging. Proceedings of the 15th International Conference on Machine Learning (ICML 1998), pp. 1–9. Morgan Kaufmann.
打开出版物文献已复制。Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
打开出版物文献已复制。