オンライン勾配ブースティング
- 提唱者
- Grubb, A. & Bagnell, J. A.; Beygelzimer, A. et al.
- 年
- 2011–2015
- 種類
- Online ensemble (sequential boosting on streaming data)
- 系統
- Machine learning
この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む
何をする手法か?
オンライン勾配ブースティングは、固定されたバッチではなくデータが1サンプルずつ到着するストリーミング設定に合わせて勾配ブースティングフレームワークを適応させたものです。各ステップで、モデルは到着した観測値に対して疑似残差を計算し、弱学習器をインプレースで更新し、過去のデータを保存したり再訪したりすることなく加法アンサンブルを成長させます。これにより、リアルタイム予測や、スクラッチからの再学習が不可能であるような大規模ストリーミングパイプラインに適しています。
手法の背後にある直感
標準的な勾配ブースティングは、 successive trees を適合させるために訓練セット全体を反復処理しますが、これはすべてのデータが事前に利用可能であることを必要とします。オンライン勾配ブースティングは、そのバッチパスを単一サンプル更新に置き換えます。新しい観測値が到着すると、現在のアンサンブルがそれを予測し、誤差信号(疑似残差)が計算され、連鎖内の次の弱学習器がその誤差を修正するように微調整されます。更新は段階的に行われるため、モデルはコンセプトドリフトを時間とともに追跡できます。つまり、基盤となるデータ分布がシフトした場合、最近のサンプルは古いサンプルよりも自動的に大きな影響を受けます。
歴史学
ブースティングのオンライン設定は、OzaとRussell(2001)によるポアソンサンプリングされた重みを持つバギングとブースティングの研究で最初に探求されました。GrubbとBagnell(2011)は、凸損失に対する関数勾配降下法を通じてオンライン勾配ブースティングを形式化しました。Beygelzimer、Hazan、Langford、Zheng(2015)は、オンライン設定での後悔保証とバッチ設定での汎化誤差を結びつけるタイトなオンライン・ツー・バッチ変換バウンドを提供し、オンライン勾配ブースティングを確固たる理論的基盤に置きました。
使うべき場面
データが連続ストリームとして到着し、各新しいバッチ後にスクラッチから再学習するのが遅すぎるか非現実的である場合、または大量またはプライバシー上の制約により履歴データの保存が不可能である場合、またはデータ生成プロセスが時間とともに変化する可能性があり(コンセプトドリフト)、モデルが段階的に適応する必要がある場合に、オンライン勾配ブースティングを使用してください。また、単一のバッチパスが法外に高価である非常に大規模なデータセットにも適しています。データ全体がメモリに快適に収まり、計算リソースで標準のバッチ勾配ブースティングが可能である場合は、それを使用しないでください。そのような条件では、XGBoostやLightGBMのようなバッチ手法が一般により高い精度を達成します。ブースティングラウンド数を事前に固定できない場合や、個々のツリーの解釈可能性が必須の要件である場合は、避けてください。
限界と注意点
- すべてのデータが利用可能な場合、バッチ勾配ブースティング(XGBoost、LightGBM)よりも一般的に精度が低くなります。これは、各サンプルが1回しか見られないためです。
- ブースティングラウンド数はストリーミング開始前に固定する必要があり、構造的な柔軟性が制限されます。
- 到着サンプルの順序に敏感です。ストリームでのシャッフルや分布シフトは、トレーニングを不安定にする可能性があります。
- 収束保証はバッチ設定よりも弱く、選択された学習率に大きく依存します。
出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。
強み
- 完全なデータセットを保存せずに単一パスでデータを処理するため、大規模または無限ストリームに対してメモリ効率が良いです。
- 最近のサンプルが弱学習器を継続的に更新するため、コンセプトドリフトに適応します。
- バッチトレーニングが不可能な設定で、勾配ブースティングの強力な予測力を維持します。
- 各ステップでリアルタイムで予測を提供できます。モデルは常に予測の準備ができています。
- 回帰、二項分類、多項分類をサポートする、任意の微分可能な損失関数と互換性があります。
応用
- オンライン広告システムにおけるリアルタイムクリック率予測。
- 即時のモデル更新が必要な金融取引ストリームでの不正検出。
- 履歴データを保持できないIoTパイプラインでのセンサーデータ分類。
- ユーザーの好みが時間とともに進化するシステムでの適応ランキングとレコメンデーション。
- 継続的なモデル適応を伴う大規模時系列異常検出。
使い方
使い方
ブースティングラウンドごとに1つずつ、固定数の弱学習器(通常は浅いツリーまたは線形モデル)が初期化されます。オンライン設定では、アンサンブル構造はテスト時に任意に成長できないため、ストリーミングが開始される前にラウンド数を決定する必要があります。
ストリームから1つのラベル付き例(x_t, y_t)が到着します。現在のアンサンブルF_tはx_tの予測を生成し、真のラベルy_tが直後に明らかにされるため、ルックアヘッドなしで誤差信号を計算できます。
疑似残差r_tは、現在のアンサンブルの予測に対する損失関数の勾配の負の値です。二乗誤差の場合、これはr_t = y_t - F_t(x_t)に還元されます。対数損失の場合、残差は確率誤差をエンコードします。このターゲットは、次の弱学習器が現在の間違いを修正するように導きます。
数式
r_t = -\nabla_{F} L(y_t, F(x_t))アクティブな弱学習器h_tは、疑似残差をターゲットとしてオンライン学習ルール(例:線形モデルの確率的勾配降下法またはHoeffdingツリースタイルの分割更新)を使用して更新されます。したがって、各弱学習器は、過去のデータを保存することなく、ストリーム全体にわたる修正を蓄積します。
アンサンブルは加法的に更新されます。更新された弱学習器h_tの出力が学習率ηでスケーリングされ、現在の予測関数F_tに追加されます。結果のF_{t+1}は、次の到着サンプルを予測するためにすぐに利用可能になります。
数式
F_{t+1}(x) = F_t(x) + \eta \, h_t(x)よくある落とし穴
- 学習率が大きすぎると、アンサンブルが振動し、安定した解に収束できなくなります。
- オンライン検証メトリクスをクロスバリデーション結果と同等に扱うこと。代わりに逐次評価(テスト・ザン・トレイン)を使用する必要があります。
- コンセプトドリフトを無視すること。ストリーム分布が急激にシフトした場合、ドリフト検出メカニズムや忘却戦略がない限り、古い弱学習器が支配的になり、パフォーマンスが低下する可能性があります。
- ストリーミング前にブースティングラウンド数が少なすぎると、アンサンブルが複雑なパターンをモデル化する能力が不足します。
よくある質問
オンライン勾配ブースティングは、標準的なXGBoostやLightGBMとどのように異なりますか?
XGBoostとLightGBMは、ツリーを貪欲に適合させるために完全なトレーニングセットを複数回反復処理するバッチ手法です。オンライン勾配ブースティングは、各単一観測後に弱学習器を更新し、過去のデータを再訪することはありません。データがメモリに収まる場合、バッチ手法の方が正確です。オンラインバリアントは、精度とスケーラビリティおよびリアルタイム適応性をトレードオフします。
オンラインモデルを公平に評価するにはどうすればよいですか?
逐次評価(テスト・ザン・トレイン)を使用してください。各到着サンプルについて、そのサンプルのラベルでモデルを更新する前に、モデルの予測を記録します。これにより、保持されたテストセットを必要とせずに、偏りのない、時間的に正直な誤差推定値が得られます。
コンセプトドリフトをどのように処理しますか?
オンライン勾配ブースティングをドリフト検出アルゴリズム(例:ADWINまたはDDM)とペアリングしてください。これは、エラー率が大幅に上昇したときに信号を発します。検出時に、アンサンブルが新しい分布に再適応できるように、影響を受けた弱学習器をリセットまたは再初期化します。
オンライン勾配ブースティングは多クラス問題に適していますか?
はい。多クラスの微分可能な損失(例:ソフトマックスクロスエントロピー)を使用すると、疑似残差はクラス固有のエラーのベクトルになり、各弱学習器は、バッチ多クラス勾配ブースティングの定式化と同様に、すべてのクラス出力を同時に修正するように更新されます。
実際にはどの弱学習器が最適ですか?
浅いHoeffdingツリー(それ自体がオンライン分割をサポートする)またはオンライン線形モデルが最も一般的な選択肢です。これらは各新しいサンプルで効率的に更新され、各ブースティングステップでバッチ再適合のためにデータを保存する必要がなくなります。
関連する手法
参考文献
Grubb, A. & Bagnell, J. A. (2011). Generalized Boosting Algorithms for Convex Optimization. Proceedings of the 28th International Conference on Machine Learning (ICML 2011), 1209–1216.
出版物の文献を開くコピーしました。Beygelzimer, A., Hazan, E., Langford, J. & Zheng, T. (2015). Online-to-Batch Conversions and Applications. Advances in Neural Information Processing Systems (NeurIPS), 28.
出版物の文献を開くコピーしました。