半教師あり連想規則
- 提唱者
- Liu, B.; Hsu, W.; Ma, Y. (and subsequent researchers)
- 年
- 2003–2010s
- 種類
- Pattern mining with partial supervision
- 系統
- Machine learning
この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む
何をする手法か?
半教師あり連想規則マイニングは、少量のラベル付きデータと、より大きなラベルなしデータセットを組み込むことで、古典的な連想規則学習を拡張するものです。既知のクラス情報やユーザー提供の制約を利用して、統計的に頻繁であり、かつ意味的にも意味のある規則の発見を導き、教師なしパターンマイニングと軽量な教師あり学習を橋渡しします。
手法の背後にある直感
標準的な連想規則マイニングは、何が重要かという感覚なしに、すべての頻繁な共起パターンを見つけます。半教師あり連想規則は、少数のラベル付き例やドメイン制約に探索を導かせることでこれを変更します。統計的に頻繁であっても無意味な規則よりも、既知のクラス構造に沿った規則が優先されます。これは、アルゴリズムに分析者が何を気にしているかについてのヒントをいくつか与えるようなもので、自明なパターンや既知のパターンを表面化させるのをやめ、代わりに真に新規で実行可能な関係を強調します。結果として、教師なしパターン発見の広さと、結果を関連性の高いものに保つのに十分なガイダンスが組み合わされます。
歴史学
連想規則マイニングは、1993年にAgrawal、Imielinski、SwamiによってAprioriアルゴリズムの導入とともに形式化され、マーケットバスケットデータにおける頻繁なアイテムセットの教師なし発見をターゲットとしました。クラスラベルと制約の連想規則マイニングへの統合は、2000年代初頭に勢いを増しました。特にLiuらのCMARおよびCBAフレームワークを通じて、クラスラベルを規則の結果として扱いました。半教師あり拡張は、研究者が部分的な教師あり学習が候補規則の組み合わせ爆発を減らしつつ、ラベルなしデータの統計的貢献を維持できることを認識したときに現れました。このアプローチは現在、バイオインフォマティクス、教育データマイニング、およびレコメンデーションシステムにまたがって見られます。
使うべき場面
ラベル付きデータの一部しかクラスラベルやドメイン注釈を持たない大規模なトランザクションデータセットまたは表形式データセットがあり、単に頻繁なだけでなく、ターゲット概念に真に関連する共起パターンを発見する必要がある場合に、半教師あり連想規則マイニングを使用します。これは、一部の既知の購入結果を伴うマーケットバスケット分析、確認された診断を持つ症例のサブセットのみを持つ医療記録マイニング、およびラベル付きドキュメントが少ないテキスト分類に適しています。ラベル付き部分が無視できるほど小さい場合(ラベル付きインスタンスが数十未満)、完全な教師あり学習が可能である場合、または解釈可能性の要件がロジスティック回帰や決定木のようなより単純なモデルを要求する場合に避けてください。
限界と注意点
- 規則の品質は、ラベル付きシードセットの品質と代表性に大きく依存します。偏ったラベル付きサブセットは、発見された規則にバイアスを伝播させます。
- サポート、信頼度、および制約閾値の組み合わせは、ラベル付き検証データなしでは調整が難しい大きなハイパーパラメータ空間を作成します。
- 計算コストは候補アイテムセットの数とともに増加します。非常に高次元のアイテム空間を持つデータセットでは、積極的な枝刈り戦略が必要です。
- 自己学習ループは、初期の疑似ラベルがノイズが多い場合、初期のエラーを増幅させ、反復ごとに規則のドリフトにつながる可能性があります。
出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。
強み
- ラベル付きデータだけでは統計的に見えないパターンを見つけるために、豊富なラベルなしデータを活用します。
- ラベルから派生した制約は、無関係な規則を枝刈りし、完全に教師なしのマイニングよりも小さく、より実行可能な規則セットをもたらします。
- 規則は人間が読めるIF-THENステートメントのままで、古典的な連想規則学習の解釈可能性の利点を維持します。
- 自己学習の改良は、追加のラベリングコストなしに、規則の品質と疑似ラベルのカバレッジの両方を反復的に改善できます。
- 柔軟性:制約は、単純なクラスラベル(例:時間順序、アイテム階層)を超えるドメイン知識をエンコードできます。
応用
- 患者記録の一部のみが確認された診断を持っている場合の医療記録マイニング。
- 既知の高価値購入結果のサブセットによってガイドされるマーケットバスケット分析。
- ラベル付きの少数の学生パフォーマンス結果に関連する学習行動パターンを発見するための教育データマイニング。
- ラベル付きコーパスが少ないテキストマイニングおよびドキュメント分類。
- ネットワークイベントのごく一部のみが確認された攻撃である場合の侵入検知。
- アイテムの共起規則を制約するためにスパースなユーザー評価を使用するレコメンデーションシステム。
使い方
使い方
データセットは、少数のラベル付き部分(既知のクラスラベルまたはユーザー指定の制約付き)と、より大きなラベルなし部分に分割されます。ラベル付き例は、ターゲット概念空間を定義するシードまたはアンカーとして機能し、ラベルなしトランザクションは、信頼性の高いサポート数を計算するために必要な統計的質量を提供します。
頻繁なアイテムセットの列挙は、AprioriやFP-Growthなどの古典的なアルゴリズムを使用して、ラベル付きデータとラベルなしデータの両方で実行され、アイテムセットを含むトランザクションの割合としてサポートが計算されます。最小サポート閾値を超えるアイテムセットのみが、規則生成の候補として保持されます。
数式
\text{support}(X) = \frac{|\{t \in D : X \subseteq t\}|}{|D|} \geq \text{min\_sup}ラベル由来またはユーザー指定の制約が、候補空間を枝刈りするために適用されます。制約は、マストリンク(2つのアイテムはターゲットクラスとともに結果に共起すべき)、キャントリンク(特定の組み合わせは除外される)、またはターゲット結果に関与する規則を制限するクラスラベルフィルターの形式をとることができます。これにより、偽または冗長な規則の数が劇的に減少します。
生き残った頻繁なアイテムセットから、最小信頼度閾値でフィルタリングされた有効な規則XはYを意味するものが生成されます。信頼度は、Xが与えられた場合にYが出現する条件付き確率を測定します。半教師あり設定では、結果がラベル付きクラスまたは制約に一致する規則が優先されるか、より高く重み付けされます。
数式
\text{confidence}(X \Rightarrow Y) = \frac{\text{support}(X \cup Y)}{\text{support}(X)} \geq \text{min\_conf}発見された規則は、以前はラベルなしだったトランザクションに疑似ラベルを割り当てるために反復的に使用でき、それらは後続のマイニングラウンドにフィードバックされます。この自己学習ループは、ラベル付きプールを徐々に豊かにし、規則セットをシャープにし、新しい高信頼度規則が見つからなくなったとき、または事前に定義された反復回数の上限に達したときに収束します。
よくある落とし穴
- 最小サポートを制約なしで低すぎると、自明に頻繁だが情報が少ない規則で結果が氾濫します。
- ラベル付きシードセットのクラス不均衡を無視すると、制約フィルターが発見された規則で多数派クラスを過剰に表現します。
- 信頼度を唯一の興味深さの尺度とみなし、より実用的に有用な高いリフトまたは確信度を持つ規則を見逃す。
- 規則の予測品質の保留評価をスキップし、未知のデータでの検証なしにマイニングされた規則をそのまま受け入れる。
- 関連性(共起)と因果関係を結果の報告時に混同する。
よくある質問
標準的な連想規則マイニングとどう違うのですか?
標準的な連想規則マイニングは完全に教師なしです。サポートと信頼度の閾値を超える共起パターンを、ターゲットクラスの概念なしに見つけます。半教師あり連想規則は、部分的なラベル情報またはドメイン制約を組み込んで、特定の成果に関連する規則をフィルタリングおよび優先し、より小さく、より実行可能な結果セットを生成します。
どのくらいのラベル付きデータが必要ですか?
少量のラベル付きデータでも有用な制約を提供できますが、シードの品質は量よりも重要です。実際には、深刻なバイアスのかかった制約を避けるために、クラスごとに少なくとも数十個のラベル付き例があることが推奨されます。ラベルが非常にスパースな場合は、保留されたラベル付きサブセットで結果を慎重に検証する必要があります。
サポートと信頼度の閾値はどのように設定すればよいですか?
普遍的な答えはありません。閾値は、データセットのサイズ、ドメイン、および現実的に評価できる規則の数によって異なります。中程度の閾値(例:サポート0.05–0.10、信頼度0.60–0.80)から始めて、結果の規則数を確認し、調整します。制約がアクティブな場合、無関係な規則はラベル条件によってフィルタリングされるため、わずかに低いサポート閾値を利用できることがよくあります。
この方法は連続または数値特徴を扱えますか?
連想規則マイニングはネイティブに離散アイテムで動作します。連続特徴は、マイニングの前にビンに離散化する必要があります。ビニング戦略の選択は、どのアイテムセットが頻繁になるかに影響を与えるため、等幅、等頻度、およびドメイン駆動のビニングを試行し、結果が選択に対してどの程度敏感であるかを確認する価値があります。
発見された規則の品質をどのように評価しますか?
サポートと信頼度を超えて、リフト(1より大きい値は偶然を超えた真の共起を示す)、確信度、およびレバレッジを使用して規則を評価します。規則が予測に使用される場合、保留されたラベル付きセットで分類精度、F1、またはAUCを測定します。興味深さの尺度だけでは、実用的な有用性を評価するには十分ではありません。