迁移学习
- 提出者
- Pan, S. J. & Yang, Q. (survey); Bengio, Y. (deep learning framing)
- 年份
- 2010 (formalized); 1990s (early roots)
- 类型
- Learning paradigm
- 类别
- Machine learning
本文为机器翻译,尚未经过审校。 阅读英文原文
它有什么作用?
迁移学习是一种机器学习范式,它将从源任务或领域模型训练中获得的知识重用于改进不同但相关的目标任务或领域的学习。当目标任务的标注数据稀缺时,它尤其强大,并且是计算机视觉、自然语言处理及其他领域大多数现代深度学习应用的基础。
方法背后的直觉
想象一下学习骑自行车,然后将平衡和协调的知识应用于学习骑摩托车——你不是从头开始。迁移学习的工作方式相同:在大型、丰富数据集(源领域)上训练的模型已经学习了有用的表示,例如边缘、纹理或语法模式。当应用于新的、较小的目标数据集时,模型需要少得多的标注数据就能达到良好的性能,因为艰巨的表示学习工作已经完成。
历史学
任务之间知识迁移的概念出现在20世纪90年代(Pratt 1993; Thrun 1996)。Pan和Yang在他们2010年的IEEE TKDE论文中正式调查并系统化了该领域,该论文仍然是规范性参考文献。深度学习的成功推动了这一范式:Bengio及其同事表明深度网络学习可迁移的表示,而ImageNet预训练(Krizhevsky et al., 2012)使迁移成为计算机视觉中的默认实践。BERT(2018)和GPT(2018-)等大型语言模型的引入将迁移学习扩展到自然语言处理(NLP),并将其转变为几乎所有深度学习应用中的主导范式。
何时使用
当目标任务的标注数据有限,但存在具有丰富标签的相关源领域或大型预训练模型时,迁移学习是正确的选择——例如,为特定领域文本分类器微调BERT,或将ImageNet预训练的CNNs应用于医学影像。它显著减少了达到强大性能所需的数据和计算。当源领域和目标领域根本不相关时,应避免使用它,因为负迁移可能使性能比从头开始训练更差。当目标数据集足够大,可以独立训练一个有能力的模型时,它的必要性也较低。
局限与注意事项
- 当源领域和目标领域过于不相似时,可能会发生负迁移,这可能会相对于从头开始训练损害性能。
- 微调大型预训练模型需要大量的内存,对于非常大的模型,还需要大量的GPU资源。
- 模型中需要冻结或微调的适当部分取决于任务,需要进行实验。
- 源领域和目标领域之间的领域漂移可能不明显,并可能悄无声息地降低性能。
- 预训练模型的法律和道德限制(许可、训练数据偏差)可能会限制在某些应用中的使用。
来源中的条件不能替代独立的科学审查或分析引擎的验证。
优势
- 通过重用源表示,显著减少了目标任务的标注数据需求。
- 与从头开始训练大型模型相比,缩短了训练时间和计算成本。
- 通常在小型和中型目标数据集上实现最先进的性能。
- 通用预训练模型(例如ResNet、BERT、GPT)在许多领域提供了强大的起点。
- 特征提取模式即使在没有GPU密集型微调的情况下也能使用深度表示。
应用
- 微调预训练语言模型(BERT、GPT)用于特定领域的文本分类、命名实体识别(NER)或问答。
- 将ImageNet预训练的卷积神经网络(CNNs)(ResNet、VGG)应用于标注扫描稀缺的医学图像分析。
- 从大型多语言模型适应到低资源语言的语音识别系统。
- 通过将产品评论中学到的表示迁移到社交媒体文本,进行跨领域情感分析。
- 表格数据:使用在相关数据集上预训练的神经网络特征来改进对小型目标表的预测。
- 科学领域(药物发现、材料科学),其中标注实验数据昂贵,而来自化学文献的源模型提供了强大的先验。
使用方式
使用方式
模型在具有大量可用标注数据的源数据集上进行训练。在此阶段,模型学习通用特征表示——例如,卷积网络从数百万张图像中学习视觉层次结构,或者语言模型从数十亿个标记中学习句法和语义模式。
评估源领域和目标领域之间的关系。如果领域接近(例如,都涉及自然图像),则学习到的表示会更直接地迁移。如果领域漂移较大,则在适应开始之前,应用领域对抗训练或实例重加权等技术来减少分布不匹配。
预训练模型应用于目标任务。在特征提取中,较早的层被冻结,只有较晚的特定任务层被替换和训练。在完全微调中,所有层都在目标数据上更新,通常使用较低的学习率以保留先前学习的表示并避免灾难性遗忘。
适应后的模型在(通常较小的)标注目标数据集上进行训练。正则化策略——例如L2-SP(对源权重的惩罚)、dropout或提前停止——可以防止对有限目标标签的过拟合。分层学习率调度在深度网络中很常见。
使用适合任务的指标(准确率、F1、RMSE等)在保留的目标测试集上测量性能。与从头开始训练和仅源基线的比较量化了迁移增益,并揭示了是否发生了负迁移。
常见陷阱
- 假设任何预训练模型都能很好地迁移而不检查领域相似性——始终与从头开始训练的基线进行比较。
- 在微调过程中使用过高的学习率,导致源表示的灾难性遗忘。
- 仅在目标训练集上进行评估或忽略适当的保留测试集。
- 忽视从源领域继承的数据集偏差,这可能会传播到目标预测中。
- 在极小的目标集上进行微调而没有正则化,导致严重的过拟合。
常见问题
迁移学习中特征提取和微调有什么区别?
在特征提取中,预训练模型的权重被冻结,只训练一个新的特定任务头部。在微调中,部分或全部预训练权重也在目标数据上更新——通常使用较小的学习率以避免灾难性遗忘。特征提取更快,更不容易在微小数据集上过拟合;当有足够的目标数据时,微调通常会产生更好的性能。
我如何知道迁移学习会有帮助还是有害?
关键问题是领域相似性。如果源分布和目标分布共享有意义的结构(相同的模态、相似的词汇、相关的视觉概念),迁移几乎总是有帮助的。训练一个从头开始的基线并进行比较:如果迁移模型没有更好,则领域可能过于不相似,或者您可能需要领域对抗对齐技术。
什么是负迁移?
负迁移是指源领域的知识主动损害目标任务的性能——预训练的表示与目标结构不匹配并误导优化。当源和目标在语义或统计上不相似时,这种情况最常见。对源权重进行正则化(例如,L2-SP)或仅使用较浅的层可以缓解它。
微调需要多少目标数据?
没有通用的阈值,但当目标标注示例数量在几十到几千个时,迁移学习最有价值。在示例非常少(少于约100个)的情况下,冻结大部分层并仅训练头部(特征提取)更安全。在数千个示例的情况下,更深层次的微调是可行且通常有益的。
迁移学习是否适用于表格数据,而不仅仅是图像和文本?
是的,尽管它不那么即插即用。方法包括在相关领域的大型表格语料库上预训练神经网络,或使用基础模型的嵌入作为附加特征。SAINT和TabPFN等库正在探索这个方向。对于经典的表格任务,即使没有迁移,梯度提升通常仍然是一个强大的竞争者。
相关方法
参考文献
Pan, S. J., & Yang, Q. (2010). A Survey on Transfer Learning. IEEE Transactions on Knowledge and Data Engineering, 22(10), 1345–1359.
打开 DOI 文献已复制。Bengio, Y. (2012). Deep Learning of Representations for Unsupervised and Transfer Learning. In Proceedings of ICML Workshop on Unsupervised and Transfer Learning, PMLR 27, 17–36.
打开出版物文献已复制。