Skip to content
検索結果に戻る

オートエンコーダ異常検知

提唱者
Hinton, G. E. & Salakhutdinov, R. R. (autoencoders); applied to anomaly detection through multiple authors in the 2010s
年
2006–2014
種類
Unsupervised deep learning (reconstruction-based)
系統
Machine learning

この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む

文字サイズ

何をする手法か?

オートエンコーダ異常検知は、ニューラルネットワークを訓練して、通常のデータを圧縮してから再構築します。モデルは通常のデータしか学習していないため、異常な入力は著しく高い再構築誤差を生じ、その誤差が異常スコアとなります。この手法はラベル付き異常データを必要とせず、センサーデータストリーム、画像、ログ記録などの高次元データにも自然にスケールします。

手法の背後にある直感

オートエンコーダは、入力データよりも少ない数の数値でデータを表現し、元のデータを再構築することを強制されます。通常の例のみで訓練されると、通常のパターンを再構築することに非常に長け、異常なものを再構築することに長けなくなります。したがって、再構築誤差は自然なアラームとして機能します。誤差が小さい場合は入力が馴染みのあるものであり、誤差が大きい場合はモデルがこれまで見たことがなく、したがって忠実に再現できないものを信号します。この誤差に閾値を設定することで、連続的なスコアを二値の異常フラグに変換します。

歴史学

次元削減ツールとしてのオートエンコーダは、HintonとSalakhutdinovによるディープビリーフネットワークに関する2006年のScience論文で普及しました。異常検知への応用は、ディープラーニングが成熟するにつれて2010年代に成長しました。Vincentら(2010)はデノイジングオートエンコーダを導入し、2010年代半ばまでにオートエンコーダは産業およびサイバーセキュリティ分野における教師なし異常検知の標準的なベースラインとなりました。ChalapathyとChawlaによる2019年のサーベイは、この分野のベストプラクティスを統合しました。

使うべき場面

ラベル付き異常例が希少または存在しない場合、通常のクラスがよく表現されており、データ次元がワンクラスSVMなどの古典的な手法には高すぎる場合に、オートエンコーダ異常検知を使用します。センサー時系列、ネットワークトラフィックログ、医療画像、製造品質管理に優れています。通常のデータ分布が極端に多様または多峰性である場合(オートエンコーダはコンパクトな表現を見つけられない可能性があります)、データセットが非常に小さい場合(ディープネットワークは一般化するために十分なデータが必要です)、または単純で解釈可能なルールベースの閾値で十分な場合は避けてください。ラベル付き異常データが実際に利用可能な場合は適用しないでください。その設定では、教師ありまたは半教師あり分類器がほぼ常にそれを上回ります。

限界と注意点

  • 十分に大きく代表的な通常のデータサンプルが必要です。まれな通常のサブパターンは、異常でなくても貧弱に再構築される可能性があります。
  • 閾値選択は経験的であり、敏感です。不適切に選択された tau は、過度の偽陽性または見逃された異常につながります。
  • 解釈可能性は低いです。再構築誤差は異常が存在することを示しますが、追加分析(例:特徴ごとの誤差分解)なしでは、どの特徴がそれを引き起こしたかはわかりません。
  • ディープネットワークの訓練には、アーキテクチャ、学習率、正則化のチューニングが必要です。この手法は、アイソレーションフォレストやワンクラスSVMほどすぐに使えるものではありません。
  • 異常が訓練セットを汚染すると、モデルはそれらを部分的に再構築することを学習し、検出感度を低下させます。

出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。

強み

  • ラベル付き異常例を必要としない — 訓練には通常のデータのみが必要です。
  • 画像、時系列、マルチセンサーデータストリームなどの高次元入力に自然にスケールします。
  • 二値フラグではなく、ランク付けされたアラートを可能にする連続的な異常スコアを生成します。
  • PCAのような線形手法では表現できない、複雑で非線形な通常のパターンを捉えることができます。
  • アーキテクチャは柔軟です。画像には畳み込み層、シーケンスにはLSTM層、表形式データにはフィードフォワード層を使用します。

応用

  • 産業用予知保全:振動および温度センサーデータストリームからの機械故障の検出。
  • サイバーセキュリティ:パケットレベルのログからの異常なネットワークトラフィックまたは侵入試行の特定。
  • 医療画像:注釈付き病変データが不足している場合のMRIまたはCTスキャン内の病理領域のフラグ付け。
  • 金融不正検出:クレジットカードまたは銀行データの異常なトランザクションパターンの検出。
  • 製造品質管理:組み立てライン上のカメラ画像からの欠陥製品の検出。
  • IT運用:AIOpsパイプラインにおける異常なサーバーまたはアプリケーションメトリックの検出。

使い方

使い方

1

オートエンコーダネットワークは、通常の動作条件を表すデータのみで排他的に訓練されます。目的は、この通常のデータのみの訓練セットでの再構築損失(通常は平均二乗誤差)を最小化することであり、ネットワークは通常のデータのコンパクトな内部表現を学習します。異常ラベルは必要ありません。

2

推論時、各入力 x は、それを低次元の潜在ベクトルに圧縮するエンコーダを通過し、次に元の空間に再構築するデコーダを通過します。エンコーダ・デコーダペアは学習された重みによってパラメータ化され、通常のデータ多様体の幾何学的構造を捉えます。

数式
\hat{x} = f_{\theta}(g_{\phi}(x))
3

各観測について、再構築誤差 e(x) — 入力とその再構築との間の二乗(または絶対)差 — が計算されます。オートエンコーダは通常の多様体のみを学習しているため、異常な入力はその多様体から遠く離れた位置にあり、高い誤差を生じます。

数式
e(x) = \|x - \hat{x}\|^2
4

決定閾値 tau が選択されます。通常、正規のデータを使用した保持された検証セットでの再構築誤差の分布から選択されます(例:95パーセンタイルまたは99パーセンタイル)。この閾値は、連続的な誤差スコアを二値の決定境界に変換します。tau の選択は、偽陽性と見逃された異常との間でトレードオフを行います。

5

tau を超える再構築誤差を持つ観測は、異常としてフラグが立てられます。超過の大きさは信頼度スコアとしても機能し、ハードな二値決定ではなく、アラートのランク付けによる優先順位付けを可能にします。

数式
\text{anomaly if } e(x) > \tau

よくある落とし穴

  • 異常をクリーンアップせずに訓練セットに含めて訓練すること。これにより、モデルはフラグを立てるべきパターンを再構築することを学習します。
  • 保持された通常の検証セットではなく、訓練セット自体で閾値を設定すること。これにより、展開時に失敗する楽観的な閾値が生成されます。
  • 入力の正規化なしに異なる特徴スケール間での再構築誤差を比較すること。これにより、誤差は高分散特徴によって支配されます。
  • ボトルネックが大きすぎること。これにより、オートエンコーダはほぼ恒等写像を学習し、異常を含むすべてを忠実に再構築できるようになります。
  • 不均衡な異常検知タスクにはるかに情報量の多い精度・再現率曲線やAUROCではなく、二値分類メトリック(精度)のみを報告すること。

よくある質問

ボトルネックサイズはどのように選択しますか?

ボトルネックは、通常のパターンを強制的に圧縮するのに十分小さく、かつ本質的な構造を失わないように十分大きい必要があります。一般的な実践としては、入力次元の約10〜30%から始め、保持された通常のデータでの再構築品質を検査して調整します。

通常のデータに複数のモード(例:異なる機械動作状態)がある場合はどうなりますか?

単一のオートエンコーダは、すべてのモードを等しくうまく学習できない可能性があり、表現が少ないが通常の状態での誤検出を引き起こす可能性があります。オプションとしては、モードごとに個別のオートエンコーダを訓練する、オートエンコーダの混合アプローチを使用する、または利用可能な場合は既知のモードラベルを条件付けることが考えられます。

異常閾値はどのように設定すべきですか?

クリーンな保持された通常のデータ検証セットで再構築誤差を計算し、tau を高いパーセンタイル(許容される偽陽性率に応じて95%または99%)に設定します。ラベル付き異常がいくつか存在する場合は、F1スコアまたは望ましい精度・再現率トレードオフを最大化するように tau を調整します。

アイソレーションフォレストやワンクラスSVMと比較してどうですか?

アイソレーションフォレストとワンクラスSVMは、一般的にチューニングが容易で、低〜中程度の次元の表形式データではより解釈可能です。オートエンコーダは、次元が非常に高い場合、時間的または空間的構造が重要な場合、または生のピクセルや波形が入力である場合に有利になります。

変分オートエンコーダ(VAE)を使用できますか?

はい。VAEは確率的な潜在空間を学習し、生のMSEではなく再構築確率による異常スコアリングを可能にします。これにより、キャリブレーションが改善されることがよくあります。通常の分布が複雑な場合や、適切にキャリブレーションされた不確実性推定値が必要な場合に、自然な拡張となります。

関連する手法

参考文献

  1. Chalapathy, R. & Chawla, S. (2019). Deep learning for anomaly detection: A survey. arXiv preprint arXiv:1901.03407.

    出版物の文献を開く
    コピーしました。
  2. Hinton, G. E. & Salakhutdinov, R. R. (2006). Reducing the dimensionality of data with neural networks. Science, 313(5786), 504–507.

    DOI 文献を開く
    コピーしました。