半教師ありIsolation Forest(半教師ありIsolation Forest)
- 提唱者
- Extended from Liu, F.T., Ting, K.M., and Zhou, Z-H. (iForest, 2008); semi-supervised variants developed by multiple authors ca. 2013–2020
- 年
- 2013–2020
- 種類
- Ensemble anomaly detection (semi-supervised extension)
- 系統
- Machine learning
この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む
何をする手法か?
半教師ありIsolation Forestは、少数のラベル付き異常(および可能性のある正常)例を、多数のラベルなしデータセットとともに組み込むことにより、従来のIsolation Forest異常検出器を拡張したものです。このラベルガイダンスは、既知の異常がより確実に分離されるようにモデルの異常スコアを調整し、完全に教師なし検出と完全に教師あり検出の間のギャップを埋めます。
手法の背後にある直感
標準的なIsolation Forestは、ランダムツリーがポイントをどのくらいの速さで分離するかによって異常をスコアリングします — 異常はより少ない分割で分離されます。しかし、ラベルがない場合、モデルは領域で実際に異常と見なされるものについてフィードバックを持ちません。半教師ありIsolation Forestは、少数の確認済み例(既知の異常、または既知の正常、またはその両方)を導入し、それらを使用してスコアリングプロセスを調整または再重み付けします。その結果、フォレスト固有の分離能力は実際に重要な異常パターンに向かって誘導され、完全にラベル付けされたトレーニングセットを必要とせずに、誤警報と検出漏れを大幅に削減します。
歴史学
Isolation Forestは、ランダムな再帰的分割に基づく純粋に教師なしの異常検出器として、2008年にLiu、Ting、Zhouによって導入されました。少数のラベルでさえ検出を劇的に改善できることを認識し、研究者たちは2013年頃から、スコアリングまたはツリー重み付けプロセスにラベルガイダンスを組み込む半教師あり拡張を開発しました。教師あり異常検出に関する関連する理論的基盤はGörnitzら(2013)によって築かれ、実用的なSSIFの派生版は2010年代後半にかけて不正検出とネットワーク侵入に対処する応用分野に登場しました。
使うべき場面
大量のラベルなしデータがあり、完全なラベリングのコストが高額であるが、少なくとも少数の確認済み異常(およびオプションでいくつかの確認済み正常)のラベルを取得できる場合に、半教師ありIsolation Forestを使用してください。これは、サイバーセキュリティ、不正行為、予知保全、および医療モニタリングにおけるまれなイベント検出に特に価値があり、領域の専門家が少数の既知のインシデントにラベルを付けることができます。全くラベル付き異常がない場合(標準Isolation ForestまたはOne-Class SVMを優先)、データが高次元で前処理なしでスパースな場合、または大規模な完全にラベル付けされたセットが既に利用可能な場合(完全に教師あり分類器がそれを上回るでしょう)は使用しないでください。
限界と注意点
- ラベル付き異常が異常分布を代表していない場合、パフォーマンスが低下します。
- 最適なラベル統合メカニズムは実装によって異なり、まだ普遍的に支配的な派生版は存在しません。
- 標準的なiForestと同様に、データ中心部に近い異常や特定の多峰性分布を持つ異常には苦労する可能性があります。
- 評価時にラベルリークを回避するために注意が必要です。ラベル付きセットはテストセットと重複してはなりません。
出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。
強み
- ラベル付き異常を実際のラベルに固定することにより、完全に教師なしのiForestよりも高い精度と再現率を達成します。
- 少数のラベルのみを必要とするため、注釈が高価な場合に実用的です。
- iForestのサブ線形トレーニング時間と低メモリフットプリントを継承し、大規模データセットにスケールします。
- 距離または密度仮定なしで高次元の表形式データを処理します。
- 任意の閾値選択を削減します。ラベル付きサブセットは、原理的な較正の基盤を提供します。
応用
- 確認済みの攻撃サンプルを少数と通常のトラフィックを組み合わせて使用したネットワーク侵入検出。
- 確認済みの不正トランザクションのセットのみがラベリングに利用可能な場合の金融不正検出。
- 予知保全:確認済みの障害イベントを使用して、センサー ストリームの異常スコアを調整します。
- 医療モニタリング:電子健康記録からの確認済みの病理学的症例による異常スコアリングのガイド。
- 独立して検証された欠陥ユニットのサブセットのみがある場合の製造における品質管理。
使い方
使い方
利用可能なデータは、確認済みの異常、確認済みの正常、またはその両方を含む少数のラベル付きサブセットと、多数のラベルなしプールに分割されます。ラベル付きサブセットは意図的に少量です。完全なラベルを取得することは通常コストがかかるか非現実的であり、まさにこの手法が想定するシナリオです。
異常検出器のアンサンブルであるアイソレーションツリーは、ラベル付きおよびラベルなしの全データセットのランダムサブサンプル上で成長します。これは標準的なiForest手順に従います。各内部ノードでは、ランダムな特徴と、その特徴の範囲内でのランダムな分割値が選択され、各ポイントが分離されるまでデータを再帰的に分割します。
各観測値は、すべてのツリーにわたる平均パス長から導出された異常スコアを受け取ります。平均パスが短い — すなわち、分離が容易 — ほど、異常スコアは高くなります。正規化されたスコア s(x, n) は (0, 1] にマッピングされ、1に近い値は強い異常候補を示します。
数式
s(x, n) = 2^{-E[h(x)] / c(n)}ラベル付き例はモデルを調整するために使用されます。派生版によっては、既知の異常と正常を正しく分離するツリーまたは分割の重み付けを変更したり、スコア集計に教師あり損失項を追加したり、ラベル付きセットを使用して教師なしスコアの上に決定境界を学習したりすることが含まれる場合があります。このステップが、標準的なiForestとの決定的な違いです。
調整された異常スコアに閾値を適用して、二値の異常/正常の決定を生成します。ラベル付きサブセットにより、データ駆動型の閾値選択が可能になります — 例えば、ラベル付き例でF1を最大化するカットオフを選択するなど — 任意パーセンタイルに依存するのではなく。
よくある落とし穴
- 両方が利用可能な場合に、ラベル付き正常例を無視して異常ラベルのみを使用すること — 確認済みの正常を含めることで決定境界をさらにシャープにすることができます。
- ラベル付きトレーニング例を含むテストセットで評価すること。これにより、性能指標が誇張されます。
- ラベル付きセットで較正する代わりに、固定パーセンタイルで異常スコアの閾値を選択すること。
- ラベル付き異常が単一のサブタイプのみをカバーし、ラベルなしプールが多様な異常パターンを含む場合に、手法が頑健であると仮定すること。
- 当てはめの前に高次元または混合型の特徴を前処理しないこと。これはランダム分割の選択を歪める可能性があります。
よくある質問
どのくらいのラベル付き異常が必要ですか?
少数の — 時には確認済みの異常が10〜50個 — でも意味のある較正を提供できます。重要な要件は、それらがラベルなしプールに存在する異常タイプの代表であることです。異常サブタイプ全体にわたるより多様なラベルカバレッジは、一般的に大きな利益をもたらします。
標準的なIsolation Forestとどう違うのですか?
標準的なIsolation Forestは完全に教師なしであり、領域からのフィードバックなしでパス長のみに基づいて異常をスコアリングします。半教師ありIsolation Forestは、少数のラベル付きセットを組み込んでスコアまたはツリーの重みを調整し、モデルを実際に領域に関連する異常パターンに向け、原理的な閾値の較正を可能にします。
ラベル付き正常例も異常例と同様に含めることはできますか?
はい、そしてそれは一般的に有益です。ラベル付き正常例は、モデルが境界ケースをよりシャープに区別するのに役立ちます。一部の派生版では、ラベル付きセットをスコアリング関数の較正のためのバランスの取れた参照として扱います。そのため、両方のクラスが利用可能な場合はそれらを含めることで、決定境界が改善されます。
モデルの評価にクロスバリデーションを使用すべきですか?
はい、ただし注意が必要です。ラベルリークを避けるために、ラベル付きサブセットはテストセットから除外されるか、適切に層化される必要があります。ラベル付き部分の層化された訓練/テスト分割と、訓練のための完全なラベルなしプールを組み合わせることが、標準的な評価セットアップです。
ラベル付き異常が代表的でない場合はどうなりますか?
ラベル付き異常が真の異常分布の狭い範囲しかカバーしていない場合、ラベルガイダンスによる調整は逆効果になる可能性があります。その場合、モデルは表示されたことのない新しい異常タイプを見逃す可能性があります。半教師あり検出を教師なし異常スコアリングで補完し、本番環境での分布ドリフトを監視することをお勧めします。