Skip to content
返回搜索结果

主动学习与自监督学习

提出者
Multiple authors (active learning + SSL integration, 2020s)
年份
2020-2022
类型
Hybrid learning paradigm
类别
Machine learning

本文为机器翻译,尚未经过审校。 阅读英文原文

字号

它有什么作用?

主动学习结合自监督学习,通过自监督预训练利用未标记数据来构建丰富的表征,然后使用主动查询策略选择信息量最大的样本进行人工标注,从而在严格的标注预算下最大限度地提高模型性能。当标记数据稀缺但存在大量未标记数据池时,这种混合方法尤其强大。

方法背后的直觉

自监督学习可以通过解决诸如预测被遮蔽的补丁或对比增强视图等前置任务,从原始、未标记的数据中提取有用的表征。一旦以这种方式预训练了一个强大的编码器,主动学习便接管:不再标注所有数据,而是只向预言机询问最不确定或最具代表性的未标记样本。编码器丰富的嵌入空间使得不确定性和多样性查询比随机初始化的模型准确得多,因此每个标记样本都能带来更大的改进。然后,这个循环会重复,并用每批新标签对编码器进行微调。

历史学

主动学习起源于20世纪90年代(Cohn et al., 1996),自监督学习在2010年代随着对比方法而显著兴起。随着大型未标记数据集和强大的SSL编码器(SimCLR、MoCo、MAE)的广泛可用,它们的整合在2020-2022年加速。研究人员发现,SSL预训练显著提高了主动查询策略所依赖的嵌入质量,从而产生了一系列在计算机视觉和自然语言处理中研究的AL-SSL组合框架。这种组合现在是一个活跃的研究前沿,特别是在资源匮乏和标注受限的环境中。

何时使用

当您拥有大量未标记数据集和严格的人工标注预算,并且原始特征足够复杂(图像、文本、音频、高维信号),自监督预训练能带来显著的表征价值时,请使用此组合。它在医学影像、文档分类和遥感等专家标注成本高昂的领域表现出色。当您的标记数据集已经很大且具有代表性时,请勿使用;当数据域是简单的表格数据,SSL预训练几乎没有益处时,请勿使用;或者当计算预算严重受限时——大型编码器的SSL预训练计算密集。此外,当未标记数据池相对于标记数据较小时,也应避免使用。

局限与注意事项

  • 自监督预训练可能计算成本高昂,特别是对于Vision Transformers等大型编码器架构。
  • 主动学习引入了顺序数据采集,使得并行化更加困难,并延长了整体标注工作流程。
  • 如果自监督预训练领域与目标任务领域存在显著差异,编码器表征可能对查询选择产生误导。
  • 需要仔细设计:采集函数必须与编码器架构和嵌入空间兼容。

来源中的条件不能替代独立的科学审查或分析引擎的验证。

优势

  • 与仅监督或仅主动学习方法相比,显著减少了达到目标准确性所需的标签数量。
  • 自监督表征通过从一开始就提供有意义的嵌入距离和不确定性估计,提高了主动查询的质量。
  • 跨领域迁移性好:在一个领域未标记数据上预训练的自监督编码器可以为相关目标领域的主动学习提供基础。
  • 处理高维非结构化数据(图像、文本、音频),在这些数据上,传统主动学习采集函数在原始特征上的表现不佳。
  • 两种范式相互强化:更好的表征改进查询选择;更好的标记数据改进表征。

应用

  • 放射科医生时间稀缺且存在大量未标记扫描档案的医学图像标注。
  • 标记语料库有限但原始文本丰富的文档和文本分类。
  • 标注预算限制下的遥感和卫星图像分类。
  • 标记缺陷样本稀少但正常生产图像充足的工业缺陷检测。
  • 拥有大量未标记音频档案和昂贵转录的语音和音频分类。
  • 药物发现:选择信息量最大的分子结构进行湿实验室检测。

使用方式

使用方式

1

自监督编码器在完整未标记数据池上使用前置任务进行预训练——例如对比学习(SimCLR、MoCo)、掩码自编码器(MAE)或旋转预测。在此阶段无需人工标注;目标是创建一个语义相似样本聚类的特征空间。

2

主动学习采集函数——例如最小置信度、熵采样、BADGE或核心集选择——使用当前编码器的预测或嵌入来评估每个未标记样本。信息量最大(不确定或最具代表性)的样本被排序,并选择一个预算大小的批次进行标注。

3

选定的批次被提交给人工标注者(预言机),由其提供真实标签。这是唯一产生标注成本的步骤,因此查询策略的质量直接决定了标注效率。

4

编码器在迄今为止积累的所有标记样本上进行微调(或训练一个新的分类头)。线性评估后进行完全微调等正则化技术有助于防止在小型标记集上过拟合,同时保留预训练的表征。

5

查询-标注-微调循环重复进行,直到标注预算耗尽或达到性能目标。如果数据池是动态的,编码器可以在轮次之间选择性地用新的未标记数据进行更新。

常见陷阱

  • 在SSL预训练后使用通用采集函数(例如,随机采样)并称之为主动学习——查询策略才是提供额外增益的关键。
  • 仅在所有标注轮次结束后评估最终模型,这掩盖了早期查询是否真正具有信息量。
  • 忽视未标记数据池与标注预言机之间的分布偏移,这可能引入选择偏差。
  • 忘记将标注成本作为主要比较轴心——增益应以准确性与标注预算的关系来衡量,而不仅仅是最终准确性。
  • 在微调期间应用与预训练期间相同的学习率调度,这可能会破坏预训练的表征。

常见问题

我是否需要在每次主动学习轮次后重新运行自监督预训练?

不一定。最常见的做法是在完整的未标记数据池上预训练一次,然后用每个新的标记批次逐步微调编码器。每轮重新运行完整的SSL预训练计算成本过高;一些工作使用轻量级SSL更新(例如,在线对比学习)以在AL循环中调整表征。

哪种主动学习采集函数与SSL配合最佳?

基于嵌入的策略,例如核心集选择、BADGE(通过多样化梯度嵌入进行批次主动学习)和基于聚类的多样性采样,往往效果最好,因为它们利用了SSL嵌入空间有意义的几何结构。softmax输出上的普通熵采样也受益于SSL,但相对于随机采样的增益较小。

这与半监督学习有何不同?

半监督学习在训练期间被动地使用所有未标记数据。结合SSL的主动学习是交互式的:它策略性地选择哪些未标记样本呈现给预言机进行标注,并且只用这些选定的标签更新模型。关键区别在于顺序的、预算感知的标注循环。

表格数据适合这种方法吗?

通常不适合。与图像或文本相比,表格数据上的自监督预训练带来的益处不大,因为没有自然的增强或补丁掩码策略。对于表格数据,使用传统监督模型(例如,逻辑回归或随机森林)的普通主动学习通常更高效且更具可解释性。

我应该报告哪些指标?

报告准确性(或F1、AUC)作为标注预算(预言机查询次数)的函数,而不仅仅是最终准确性。包括一个随机采样基线,如果可能,还包括一个完全监督的上限。这条标注效率曲线是任何主动学习评估的主要贡献。

相关方法

参考文献

  1. Bengar, J. Z., van de Weijer, J., Fuentes, L. L., & Raducanu, B. (2022). Class-Balanced Active Learning for Image Classification. Proceedings of the IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), 3082–3091.

    打开出版物文献
    已复制。
  2. Wang, K., Zhang, D., Li, Y., Zhang, R., & Lin, L. (2016). Cost-Effective Active Learning for Deep Image Classification. IEEE Transactions on Circuits and Systems for Video Technology, 27(12), 2591–2600.

    打开 DOI 文献
    已复制。