在线梯度提升
- 提出者
- Grubb, A. & Bagnell, J. A.; Beygelzimer, A. et al.
- 年份
- 2011–2015
- 类型
- Online ensemble (sequential boosting on streaming data)
- 类别
- Machine learning
本文为机器翻译,尚未经过审校。 阅读英文原文
它有什么作用?
在线梯度提升将梯度提升框架适配于流式设置,其中数据是逐个样本而非固定批次到达的。在每一步,模型都会为传入的观测计算伪残差,并原地更新一个弱学习器,从而构建一个加性集成模型,而无需存储或重新访问历史数据。这使其适用于实时预测和大规模流式管道,在这些场景下从头开始重新训练是不可行的。
方法背后的直觉
标准的梯度提升会迭代整个训练集来拟合后续的树,这需要所有数据都预先可用。在线梯度提升用单样本更新取代了这种批次处理:当新观测到达时,当前集成模型会对其进行预测,计算误差信号(伪残差),然后链中的下一个弱学习器会被微调以纠正该误差。由于更新是渐进式的,模型可以跟踪随时间的概念漂移——如果底层数据分布发生变化,最近的样本会自动比旧样本获得更大的影响。
历史学
Oza 和 Russell (2001) 最早探索了在线设置下的提升,用于具有泊松采样权重的 bagging 和 boosting。Grubb 和 Bagnell (2011) 通过凸损失函数的函数梯度下降形式化了在线梯度提升。Beygelzimer、Hazan、Langford 和 Zheng (2015) 提供了严格的在线到批次转换界限,将在线设置中的遗憾保证与批次设置中的泛化误差联系起来,为在线梯度提升奠定了坚实的理论基础。
何时使用
当数据作为连续流到达,并且每次新批次后从头开始重新训练过于缓慢或不切实际时;当由于数据量或隐私限制而无法存储历史数据时;或者当数据生成过程可能随时间变化(概念漂移)且模型必须渐进式适应时,请使用在线梯度提升。它也适用于单个批次处理成本过高的非常大的数据集。当完整数据集可以轻松放入内存且计算资源允许标准批次梯度提升时,请勿使用它——在这些条件下,XGBoost 或 LightGBM 等批次方法通常会获得更高的准确性。当提升轮次数量无法预先确定时,或者当单个树的可解释性是硬性要求时,请避免使用它。
局限与注意事项
- 当所有数据都可用时,通常准确性低于批次梯度提升(XGBoost、LightGBM),因为每个样本只被查看一次。
- 提升轮次数量必须在流式处理开始前固定,这限制了结构灵活性。
- 对传入样本的顺序敏感:数据流中的洗牌或分布变化可能导致训练不稳定。
- 收敛保证比批次设置弱,并且在很大程度上取决于所选的学习率。
来源中的条件不能替代独立的科学审查或分析引擎的验证。
优势
- 以单次遍历处理数据,无需存储完整数据集,使其对大型或无限数据流具有内存效率。
- 由于最近的样本持续更新弱学习器,因此能够适应概念漂移。
- 在批次训练不可行的场景下,保留了梯度提升的强大预测能力。
- 可以在每一步实时提供预测——模型始终准备好进行预测。
- 与任何可微分损失函数兼容,支持回归、二元和多类分类。
应用
- 在线广告系统中实时点击率预测。
- 需要即时模型更新的金融交易流欺诈检测。
- 物联网管道中的传感器数据分类,其中无法保留历史数据。
- 用户偏好随时间演变的系统中的自适应排名和推荐。
- 具有连续模型适应能力的大规模时间序列异常检测。
使用方式
使用方式
初始化固定数量的弱学习器(通常是浅层树或线性模型),每个学习器对应一个提升轮次。在在线设置中,必须在流式处理开始前确定轮次数量,因为集成模型的结构在测试时不能任意增长。
来自数据流的一个标记样本 (x_t, y_t) 到达。当前集成模型 F_t 对 x_t 产生预测,随后立即揭示真实标签 y_t,从而无需前瞻即可计算误差信号。
伪残差 r_t 是损失函数相对于当前集成模型预测值的负梯度。对于平方误差,它简化为 r_t = y_t - F_t(x_t);对于对数损失,残差编码了概率误差。这个目标值引导下一个弱学习器纠正当前的错误。
公式
r_t = -\nabla_{F} L(y_t, F(x_t))使用伪残差作为目标,通过在线学习规则(例如,线性模型的随机梯度下降或 Hoeffding 树风格的分割更新)来更新活动的弱学习器 h_t。因此,每个弱学习器都会在不存储历史数据的情况下,通过数据流累积校正。
集成模型以加性方式更新:更新后的弱学习器 h_t 的输出,经过学习率 eta 的缩放后,被加到当前预测函数 F_t 上。结果 F_{t+1} 可立即用于预测下一个传入样本。
公式
F_{t+1}(x) = F_t(x) + \eta \, h_t(x)常见陷阱
- 选择过大的学习率会导致集成模型振荡并无法收敛到稳定解。
- 将在线验证指标视为等同于交叉验证结果——必须改用预取(先测试后训练)评估。
- 忽略概念漂移:如果数据流分布突然变化,旧的弱学习器可能会占据主导地位并降低性能,除非有漂移检测机制或遗忘策略。
- 在流式处理前固定过少的提升轮次,导致集成模型缺乏对复杂模式建模的能力。
常见问题
在线梯度提升与标准 XGBoost 或 LightGBM 有何不同?
XGBoost 和 LightGBM 是批次方法,它们多次迭代完整训练集来贪婪地拟合树。在线梯度提升在每个单个观测后更新其弱学习器,并且从不重新访问过去的数据。当数据能放入内存时,批次方法更准确;在线变体为了可扩展性和实时适应性而牺牲了准确性。
我应该如何公平地评估一个在线模型?
使用预取(先测试后训练)评估:对于每个传入样本,在用该样本的标签更新模型之前,记录模型的预测。这可以产生无偏的、时间上诚实的误差估计,而无需保留的测试集。
我该如何处理概念漂移?
将在线梯度提升与漂移检测算法(例如 ADWIN 或 DDM)配对,该算法在错误率显著上升时发出信号。检测到漂移后,重置或重新初始化受影响的弱学习器,以便集成模型能够重新适应新的分布。
在线梯度提升是否适用于多类问题?
是的。通过多类可微分损失(例如,softmax 交叉熵),伪残差成为一个类别的特定误差向量,每个弱学习器都会被更新以同时纠正所有类别的输出,这与批次多类梯度提升的公式完全相同。
实践中哪些弱学习器效果最好?
浅层 Hoeffding 树(它们本身支持在线分割)或在线线性模型是最常见的选择。它们可以有效地更新每个新样本,并避免在每个提升步骤中存储数据以进行批次重新拟合。
相关方法
参考文献
Grubb, A. & Bagnell, J. A. (2011). Generalized Boosting Algorithms for Convex Optimization. Proceedings of the 28th International Conference on Machine Learning (ICML 2011), 1209–1216.
打开出版物文献已复制。Beygelzimer, A., Hazan, E., Langford, J. & Zheng, T. (2015). Online-to-Batch Conversions and Applications. Advances in Neural Information Processing Systems (NeurIPS), 28.
打开出版物文献已复制。