Skip to content
検索結果に戻る

アクティブラーニングアイソレーションフォレスト

提唱者
Das, S. et al. (active anomaly discovery framework); Liu, F. T. et al. (Isolation Forest base)
年
2008–2019
種類
Active learning wrapper over isolation forest anomaly detector
系統
Machine learning

この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む

文字サイズ

何をする手法か?

アクティブラーニングアイソレーションフォレストは、教師なし異常スコアリングのアイソレーションフォレストの能力と、最も情報量の多いインスタンスにラベル付けするよう人間の専門家に尋ねる反復的なクエリ戦略を組み合わせたものです。その結果、最小限のラベリング予算で異常境界を洗練する検出器が得られ、純粋に教師なしのベースラインと比較して、まれで微妙な異常に対する精度が劇的に向上します。

手法の背後にある直感

アイソレーションフォレストは、ランダムツリーで異常がどれだけ速く分離されるかに基づいて異常をスコアリングしますが、ドメイン知識なしでは真に危険な異常と無害な外れ値を区別できません。アクティブラーニングは人間をループに加えます。フォレストがすべてのインスタンスをスコアリングした後、最も曖昧またはスコアの高いインスタンスを選択し、専門家に各異常ラベルを確認または拒否するように求めます。確認された各ラベルにより、モデルは将来のスコアの重み付けまたはランク付けを変更できます。数回のフィードバックラウンドで、たとえわずかなラベル付き例であっても、検出器を誤警報から関心のある実際の異常へと誘導します。

歴史学

アイソレーションフォレストは、2008年のICDMでLiu、Ting、Zhouによって、異常をモデル化するのではなく異常を分離する、高速でスケーラブルで仮定の少ない異常検出器として導入されました。アクティブラーニングは、2010年代半ば以降、異常検出に体系的に適用されました。Dasらは(ICDM 2019)、アイソレーションフォレストを含むアンサンブルベースのスコアラーと反復的な専門家フィードバックを明示的に組み合わせたアクティブ異常発見フレームワークを形式化し、少数のラベルでも数百の例でトレーニングされた完全に教師ありの検出器に匹敵することを示しました。このアプローチはその後、不正、侵入検出、センサー分析に応用されています。

使うべき場面

ラベルなしまたはほとんどラベルなしの表形式データに対する異常検出タスクに直面しており、少数の専門家ラベル(通常は数回のラウンドで10〜100クエリ)を許容できる場合に、アクティブラーニングアイソレーションフォレストを使用してください。特にサイバーセキュリティ、不正検出、予知保全、臨床外れ値の特定など、誤検知が高コストであり、ドメイン専門家が提示されたインスタンスを確実に判断できる場合に適しています。信頼できるオラクルが利用できない場合、異常の概念が時間とともに不安定である場合、またはインスタンスあたりのラベリングコストが高すぎて10クエリでさえ実行不可能な場合は使用しないでください。数百のラベル付き例のラベル付きデータセットが存在する場合は、純粋に教師ありの分類器を優先すべきです。

限界と注意点

  • 信頼性が高く利用可能なオラクルが必要です。専門家のラベルがノイズが多いか一貫性がない場合、フィードバックはモデルを劣化させる可能性があります。
  • クエリ戦略は、各ラウンドでプール全体をスコアリングすることが可能であることを前提としていますが、非常に大規模なデータセットではコストがかかる可能性があります。
  • このアプローチは、単純なアイソレーションフォレストよりも再現および監査が困難です。最終的なモデルは、選択された特定のクエリと提供されたラベルに依存するためです。
  • 概念ドリフト(異常の性質が時間とともに変化する場合)は自動的に処理されず、アクティブループの再初期化が必要になる場合があります。

出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。

強み

  • アイソレーションフォレストのスケーラビリティと解釈可能性を活用しながら、最小限のラベリング労力で専門知識を注入します。
  • 完全に教師なしのベースラインを大幅に上回る精度を向上させ、高リスクドメインでのコストのかかる誤検知を削減します。
  • モデルに依存しないクエリ戦略(不確実性、上位k、多様性)は、アイソレーションフォレストだけでなく、あらゆる異常スコアラーに適応できます。
  • 異常が非常にまれで、教師あり学習に大規模なラベル付きデータセットが必要となるクラス不均衡設定でうまく機能します。
  • 各クエリラウンドは、異常ランキングの即時かつ測定可能な改善を提供し、ステークホルダーへの進捗を透明にします。

応用

  • アナリストがシフトごとに少数の疑わしい接続にラベル付けするネットワーク侵入およびサイバーセキュリティアラートトリアージ。
  • フラグ付けされたトランザクションの定期的なアナリストレビューによるクレジットカード不正検出。
  • 限られた障害記録を持つセンサーストリームからまれな機械障害を特定する、製造業における予知保全。
  • 臨床医が異常な患者プロファイルを承認する電子健康記録における臨床外れ値検出。
  • ドメイン科学者によってレビューされる実験データセットの機器エラーをフラグ付けする科学データ品質管理。

使い方

使い方

1

まず、利用可能なすべてのラベルなしデータでアイソレーションフォレストをトレーニングします。各インスタンスは、ランダムな再帰的パーティショニングがそれをどれだけ速く分離するかに基づいて異常スコアを受け取ります。疎で分離しやすい領域のインスタンスは高いスコアを受け取ります。この教師なしパスは、意味のある初期ランキングでアクティブラーニングループを開始します。

2

すべてのラベルなしプールインスタンスは、異常スコアによってランク付けされます。クエリ戦略(たとえば、スコアが最も高い上位k個のインスタンス、またはスコアが不確かな境界領域にあるインスタンスを選択するなど)は、どのインスタンスからのオラクルラベルが最も情報量が多いかを特定します。

3

選択されたインスタンスは、ドメイン専門家(または実験ではシミュレートされたオラクル)に提示され、各インスタンスは異常または正常としてラベル付けされます。1ラウンドあたりのクエリ数は少量で済むため、ラベリングが高価であるか、専門家の判断が必要な場合に、このアプローチは実用的です。

4

新しいラベル付きインスタンスがモデルに組み込まれます。これには、確認された異常と一致するパスを持つアンサンブルメンバーの重み付け、パス長しきい値の微調整、またはラベル付きセットを教師あり制約として追加しての再トレーニングが含まれる場合があります。スコアランキングは、残りのプールに対して再計算されます。

5

クエリ-ラベル-更新サイクルは、固定ラウンド数繰り返されるか、ラベリング予算が使い果たされるまで繰り返されます。最終的な検出器は、元の教師なしフォレストによってキャプチャされた広範な構造と、ラベル付きフィードバックを通じてエンコードされた専門知識の両方を反映し、ドメインに合わせて調整された高精度の異常ランカーをもたらします。

よくある落とし穴

  • 最も高い異常スコアを持つインスタンスのみをクエリすると、確認バイアスが生じ、モデルが最初に正常に見える新しい異常タイプを見逃す可能性があります。
  • クエリされたインスタンスのみでパフォーマンスを報告し、保持されたテストセットで報告しないため、精度推定値が誇張されます。
  • 特に医療またはセキュリティのコンテキストでの評価者間の不一致を考慮せずに、オラクルラベルを正解として扱うこと。
  • フィードバック後に完全な教師なしフォレストを再評価することを忘れること。古いスコアは、後続のクエリラウンドを非効率にする可能性があります。

よくある質問

意味のある改善のために通常、いくつのラベル付きインスタンスが必要ですか?

オラクルラベルが信頼できる場合、3〜5回のフィードバックラウンドにわたって分散された10〜50の専門家ラベルで、純粋に教師なしのアイソレーションフォレストの精度を大幅に上回るのに十分であることが多いと研究では示唆されています。

各ラウンド後にベースのアイソレーションフォレストを最初から再トレーニングする必要がありますか?

必ずしもそうではありません。多くの実装では、完全な再トレーニングなしで既存のツリーパスの重み付けまたはランク付けを変更するため、計算効率が高いです。ラベル制約付きの完全な再トレーニングは、ラベル付きセットが十分に大きくなった場合に選択肢となります。

異常検出に最適なクエリ戦略は何ですか?

上位kスコアリング(スコアが最も高いラベルなしインスタンスを選択)は、異常がまれな場合にシンプルで効果的です。異常境界が曖昧な場合は、不確実性またはマージンベースの戦略が役立ちます。多様性を意識した戦略は、クエリ間の冗長性を減らします。

このアプローチはストリーミングまたはオンラインデータを処理できますか?

標準のアイソレーションフォレストはバッチ処理方法であるため、アクティブラーニング拡張機能もバッチ指向になる傾向があります。ストリーミング設定では、アクティブフィードバックを適用する前に、アイソレーションフォレストのオンラインまたはスライディングウィンドウバリアントが必要です。

少数のインスタンスのみがラベル付けされていることを考慮して、モデルを公平に評価するにはどうすればよいですか?

クエリに使用されない個別のラベル付きテストセットを保持します。クエリされたラベルへの過学習ではなく、真の改善を追跡するために、各ラウンドでこのセットの精度、リコール、およびAUCROCを評価します。

関連する手法

参考文献

  1. Das, S., Wong, W. K., Fern, A., Dietterich, T. G., & Amran Siddiqui, M. (2019). Incorporating Expert Feedback into Active Anomaly Discovery. In Proceedings of the 2019 IEEE International Conference on Data Mining (ICDM), pp. 1009–1014.

    出版物の文献を開く
    コピーしました。
  2. Liu, F. T., Ting, K. M., & Zhou, Z. H. (2008). Isolation Forest. In Proceedings of the 8th IEEE International Conference on Data Mining (ICDM), pp. 413–422.

    DOI 文献を開く
    コピーしました。