オンラインロジスティック回帰
- 提唱者
- Rosenblatt, F. / Widrow, B. (perceptron era); modern SGD form: Bottou, L.
- 年
- 1960s (perceptron); formalized for logistic loss ~2000s
- 種類
- Incremental supervised classifier
- 系統
- Machine learning
この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む
何をする手法か?
オンラインロジスティック回帰は、確率的勾配降下法を用いて、1サンプル(またはミニバッチ)ずつロジスティック分類器を適合させ、データセット全体を待たずに各観測値が到着するたびにモデルの重みを更新します。これにより、バッチ学習が実行不可能な、高ボリューム、ストリーミング、またはメモリ制約のある二項分類問題の標準的な選択肢となります。
手法の背後にある直感
従来のロジスティック回帰では、すべてのデータをメモリにロードし、データセット全体で最適化を行う必要があります。オンラインロジスティック回帰は、代わりに、受信した各例を読み込み、確率予測を行い、予測誤差を計算し、次の例に進む前に重みを修正するために小さな勾配ステップを実行します。多数の例にわたって、重みはバッチソルバーが見つける値に近い値に収束しますが、データセット全体を格納することなくモデルを継続的に更新できます。学習率の縮小は、モデルが成熟するにつれて更新がより微細になることを保証し、安定性と適応速度のトレードオフを行います。
歴史学
オンライン勾配ベース学習のルーツは、Rosenblattのパーセプトロン(1958)とWidrowおよびHoffのLMSルール(1960)に遡ります。ロジスティック損失のバリアントは、特にBottouによる機械学習のための確率的勾配降下法に関する研究や、Shalev-Shwartzによるオンライン凸最適化の理論的枠組みを通じて、2000年代の大規模学習の文献で注目を集めました。これは、データセットが継続的にストリーミングされ、モデルをリアルタイムで更新する必要がある、Webスケールのクリック率予測およびスパムフィルタリングのプロダクション標準となりました。
使うべき場面
データがストリームとして到着する場合、またはデータセット全体をメモリに保持するには大きすぎる場合、クラス境界が時間とともに徐々にシフトすると予想される場合(概念ドリフト)、または低遅延のモデル更新が必要な場合、オンラインロジスティック回帰を使用します。また、SGDの1パスで十分な非常に大きな静的データセットの高速ベースラインとしても使用できます。データセットがバッチ学習するのに十分小さい場合(バッチロジスティック回帰は、チューニングが少なくてもより良い解に収束します)、決定境界が非常に非線形である場合(ツリーベースまたはカーネル法がより適合します)、または係数の標準誤差とp値の解釈可能性が報告に必要である場合は避けてください。
限界と注意点
- 学習率の選択に敏感です。大きすぎると発散し、小さすぎると収束が遅くなったり、学習不足になったりします。
- 係数に対する閉形式の信頼区間またはp値を提供しません。
- 同じデータを与えられた場合、バッチ勾配降下法よりもノイズの多い解に収束します。ギャップを埋めるには、複数パスまたは平均化(Polyak-Ruppert)が必要です。
- 標準化またはAdaGradが適用されない限り、特徴量が非常に異なるスケールである場合にパフォーマンスが低下します。
- 線形決定境界を想定しています。特徴量エンジニアリングなしでは非線形構造を捉えることができません。
出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。
強み
- 一定のメモリフットプリント:データセット全体を格納せずに、一度に1つの例を処理します。
- 新しいラベル付きデータが到着するにつれて重みを更新し続けることで、概念ドリフトに適応します。
- バッチ最適化では不可能であった数十億の例にスケールします。
- リスクスコアリングに適したシグモイドリンクを介した、キャリブレーションされた確率出力を生成します。
- L1およびL2正則化、およびフルバッチソリューションを模倣する学習率スケジュールと互換性があります。
応用
- 継続的なデータストリームを伴うオンライン広告におけるクリック率予測。
- パターンが進化し、モデルを毎日適応させる必要があるスパムおよび不正検出。
- 到着するソーシャルメディア投稿のリアルタイム感情分類。
- データセット全体がRAMに収まらない場合の、大規模二項リスクスコアリング。
- 金融取引監視における概念ドリフトシナリオ。
- より複雑なオンラインアンサンブルを評価する前の、ベースラインストリーミング分類器。
使い方
使い方
重みベクトルとバイアスはゼロ(または小さなランダム値)に初期化されます。この段階ではデータパスは必要ありません。モデルは直ちに最初の観測値の処理準備が整います。
数式
\mathbf{w}_0 = \mathbf{0},\; b_0 = 0受信した各観測値に対して、モデルは現在の重みと特徴量の線形結合を計算し、それをシグモイド関数に通して、ラベルが1である確率を取得します。この確率は、予測と勾配計算の要素の両方として使用されます。
数式
\hat{p}_t = \sigma(\mathbf{w}_t^\top \mathbf{x}_t + b_t),\quad \sigma(z)=\frac{1}{1+e^{-z}}予測確率と真のラベルとの間の二項クロスエントロピー(対数損失)は、現在の予測がどれだけ間違っているかを測定します。クロスエントロピーは重みに関して凸であるため、勾配ステップはデータストリーム全体で平均して確実に誤差を減少させることが保証されます。
数式
\ell_t = -[y_t \log \hat{p}_t + (1-y_t)\log(1-\hat{p}_t)]重みに関する損失の勾配は、単純な残差(予測確率マイナス真のラベル)に特徴量ベクトルを掛けたものに還元されます。過学習を防ぐために、大きな重みを罰する正則化項(L2またはL1)が追加されます。重みは、例ごとに1回のパスでスケールされた勾配を差し引くことによって更新されます。
数式
\mathbf{w}_{t+1} = \mathbf{w}_t - \eta_t (\hat{p}_t - y_t)\mathbf{x}_t - \eta_t \lambda \mathbf{w}_t学習率は時間とともに減衰します。初期段階では速く移動するために大きく開始し、後期の更新が振動することなく微細な修正を行うように縮小します。一般的なスケジュールは、逆時間減衰またはAdaGradスタイルの特徴量ごとの適応であり、スケールが大きく異なる特徴量を自動的に処理します。
数式
\eta_t = \eta_0 / (1 + \alpha t)
よくある落とし穴
- 特徴量の標準化を忘れる:オンラインSGDは、同じ学習率がすべての次元に適用されるため、スケール差に特に敏感です。
- トレーニング全体で固定学習率を使用する:重みは最適値の近くで振動し、決して落ち着きません。
- データストリーム内のクラス不均衡を無視する:表現の少ないクラスはほとんど勾配信号を受け取らず、モデルは多数派クラスに偏ります。
- 初期段階の重み推定値を最終値として混同する:モデルの重みが安定するには十分な例が必要であり、早期に評価しないでください。
- オンライン更新機能と自動概念ドリフト検出を混同する:重みはデータとともにドリフトしますが、明示的なドリフト監視(例:ADWIN)は、急激なシフトを検出するために依然として必要です。
よくある質問
オンラインロジスティック回帰は、標準的なロジスティック回帰とどのように異なりますか?
標準的なロジスティック回帰は、すべてのデータを一度に使用し(バッチ最適化)、標準誤差を伴う正確な最尤係数を返します。オンラインロジスティック回帰は、各例の後に重みを更新し、定数メモリのみを使用し、無限に長いストリームを許容しますが、その推定値はノイズが多く、推論統計を生成しません。
学習率をどのように選択しますか?
一般的な開始点は、逆時間減衰と組み合わせた小さな固定レート(例:0.01)を使用するか、特徴量ごとにレートを自動的に調整するAdaGradを使用することです。常に特徴量を標準化してから、保持された検証フォールドで初期レートを調整するか、ストリームの最近のウィンドウで実行中の対数損失を監視します。
オンラインロジスティック回帰は多クラス問題を処理できますか?
はい。並列にトレーニングされた1対すべて(one-vs-rest)の二項分類器に拡張するか、ソフトマックス(多項)一般化を使用してカテゴリカルクロスエントロピー損失とクラスごとの重みベクトルを使用し、各クラスに同じSGD更新ルールを適用します。
どのような正則化を使用すべきですか?
L2(リッジ)正則化はデフォルトです。すべての重みをスムーズに縮小し、SGDと良好に機能します。L1(lasso)はスパースな重みを生成し、非常に高次元空間での自動特徴量選択が必要な場合に役立ちますが、オンラインで正確にスパース性を維持するには慎重な切り捨てまたはFOBOS更新が必要です。
継続的に更新されるモデルをどのように評価しますか?
Prequential(テスト後トレーニング)評価を使用します。各例を重み更新に使用する前に予測し、スライディングウィンドウで実行中の対数損失またはAUCを報告します。これにより、固定の保持セットなしで現在のモデル品質のバイアスなし推定値が得られます。
関連する手法
参考文献
Bottou, L. (2010). Large-Scale Machine Learning with Stochastic Gradient Descent. In Proceedings of COMPSTAT 2010, 177–186. Physica-Verlag.
出版物の文献を開くコピーしました。Shalev-Shwartz, S. (2012). Online Learning and Online Convex Optimization. Foundations and Trends in Machine Learning, 4(2), 107–194.
DOI 文献を開くコピーしました。