アクティブラーニング投票アンサンブル
- 提唱者
- Seung, H. S., Opper, M., & Sompolinsky, H.
- 年
- 1992
- 種類
- Active learning with ensemble voting
- 系統
- Machine learning
この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む
何をする手法か?
アクティブラーニング投票アンサンブル(正式にはクエリ・バイ・コミッティとして知られる)は、多様なモデルの委員会を訓練し、委員会メンバー間の意見の不一致が最も大きい未ラベルの例を人間の注釈のために選択するアクティブラーニング戦略です。最も情報量の多い点に注釈付けの労力を集中させることで、パッシブラーニングが必要とするよりもはるかに少ないラベル付き例で高い精度を達成します。
手法の背後にある直感
5人の専門家に未ラベルのサンプルを分類するように依頼することを想像してください。4人が同意し、1人が反対した場合、答えは明らかでしょう。ラベルに費用を払う必要はありません。しかし、3対2に分かれた場合、そのサンプルは決定境界上にあり、それをラベル付けすることで全てのモデルが最も多くを学ぶことができます。アクティブラーニング投票アンサンブルは、この直感を正確にします。モデルの委員会を構築し、投票させ、投票が接戦の場合にのみラベルに費用を払います。結果として、少額の注釈予算を最大限に活用する、非常に効率的な学習ループが得られます。
歴史学
クエリ・バイ・コミッティ(QBC)フレームワークは、バージョン空間委員会のプリンシプルなアプローチとして、1992年にSeung、Opper、SompolinskyによってCOLTで導入されました。これは、アンサンブルの不一致を利用してデータ収集をガイドする最初の理論的説明の1つであり、委員会ベースのアクティブラーニングの標準的な参照であり続けています。より広範なアクティブラーニングの文献は、2009年にBurr Settlesによって広く引用された技術調査で統合され、プールベース、ストリームベース、およびメンバーシップクエリシナリオを体系化し、QBCを不確実性サンプリングとともに中心的な戦略として確立しました。
使うべき場面
注釈付けが高価または時間のかかる場合(臨床注釈、法的文書のタグ付け、専門的な画像レビューなど)で、少数のラベル付きシードセットとともに大量の未ラベルデータが利用可能な場合に、アクティブラーニング投票アンサンブルを使用してください。委員会間の不一致が意味のある信号となる分類タスクや、少なくとも3〜5個の多様なモデルを投入できる場合に有効です。ラベルが安価で豊富にある場合(その場合、データセット全体でのパッシブラーニングが同等またはそれ以上効率的)、未ラベルのプールが非常に小さい場合、リアルタイムのオンライン注釈が実行不可能である場合、またはアンサンブルではなく単一の解釈可能なモデルが必要な場合は避けてください。
限界と注意点
- 注釈ループが必要です。これは、プールマネージャー、オラクルインターフェース、および再トレーニングパイプラインを追加することで、インフラストラクチャの複雑さを増します。
- パフォーマンスは委員会の多様性に大きく依存します。均質な委員会は情報量の少ない不一致を生み出します。
- プールベースのアクティブラーニングは、未ラベルのプール全体がメモリに収まることを前提としています。非常に大きなプールには近似が必要です。
- オラクルが体系的なラベル付けエラーを行う場合、収束は保証されません。
出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。
強み
- ランダムサンプリングと比較して、目標精度に到達するために必要なラベル付き例の数を劇的に削減します。
- アンサンブル投票は、推論時の予測分散の低下という二重の利点を提供します。
- モデルに依存しない:多様な分類器の任意のセットが委員会を形成できます。
- 不一致スコアは、監視および視覚化が容易な組み込みの不確実性信号を提供します。
- 1992年に導入されたクエリ・バイ・コミッティフレームワークを通じて理論的に十分に確立されています。
応用
- 専門の放射線技師が不足しており、注釈付けが高価な医療画像注釈。
- 限られた注釈付きコーパスを使用した固有表現認識およびテキスト分類。
- 専門用語を必要とするドメイン固有の感情分析。
- 高価なウェットラボ検証による創薬および分子特性予測。
- タイルの一部しか手動でレビューできない衛星画像分類。
使い方
使い方
k個の多様なベースモデル(投票アンサンブル)の委員会が、少数のラベル付き例のシードセットで初期化されます。多様性が鍵となります。モデルは、アーキテクチャ、ハイパーパラメータ、またはトレーニングサブセットが異なる場合があり、それらの意見の不一致はランダムではなく情報量が多くなります。
未ラベルの候補xのプールUの各々について、委員会間の不一致D(C, x)が測定されます。一般的な指標には、投票エントロピー(投票の広がり方)や予測間のKLダイバージェンスが含まれます。最も高い不一致スコアを持つサンプルが選択されます:x* = argmax D(C, x)。
数式
x^* = \arg\max_{x \in U} D(C, x)選択された未ラベルの例は、人間のオラクル(専門家注釈者、クラウドソーシングプラットフォーム、または自動ラベル付けツール)に提出され、正解ラベルが得られます。これが注釈コストが発生する唯一のステップです。
新しくラベル付けされた例はトレーニングセットに追加され、全ての委員会メンバーが再トレーニング(または段階的に更新)されます。注釈予算が尽きるか、パフォーマンスのしきい値に達するまで、ループはクエリステップに戻ります。
推論時には、訓練された委員会はk個の全メンバーの多数決を行います。予測クラスは、個々の予測h_1(x)からh_k(x)までのモードであり、アクティブラーニングの効率向上とアンサンブルの分散削減の両方を組み合わせます。
数式
\hat{y} = \text{mode}(h_1(x), h_2(x), \ldots, h_k(x))よくある落とし穴
- 同一またはほぼ同一の委員会メンバーを使用すること。多様性は手法の原動力であり、それがなければ不一致は崩壊します。
- 各クエリ後に最初から再トレーニングすること。バッチモードクエリ(ラウンドごとにb個の例を選択)は、はるかに実用的です。
- ループ全体で固定された保持テストセットで評価することを忘れること。成長中のトレーニングセットでのみ測定すると、過学習が隠されます。
- 不一致スコアを、適切なキャリブレーションなしに推論時の信頼度測定値として扱うこと。
- 情報性と代表性のトレードオフを無視すること。境界付近の非常に不確かなサンプルは、典型的な例ではなく外れ値である可能性があります。
よくある質問
委員会のメンバーは何人使用すべきですか?
3〜10個の多様なモデルが一般的な実用範囲です。メンバーが少ないと不一致の推定値がノイズが多くなり、メンバーが多いと計算コストが増加します。経験的には、5つの多様な分類器が安定性と効率のバランスを良く提供することがよくあります。
委員会での不一致をどのように測定しますか?
投票エントロピーが最も一般的な測定方法です:H = -sum_c p(c) log p(c) ここでp(c)はクラスcを予測する委員会メンバーの割合です。確率的モデルの場合、平均予測からの平均KLダイバージェンスが代替手段です。スコアが高いほど情報量の多いサンプルを示します。
ディープラーニングモデルで使用できますか?
はい。ディープアンサンブルまたはMCドロップアウト近似を委員会として使用できます。主な課題は再トレーニングコストです。共有バックボーンを多様なヘッドでファインチューニングするなどの戦略は、これを大幅に削減します。
注釈予算が非常にタイトな場合(例えば、20ラベル未満)はどうなりますか?
ラベルが非常に少ない場合、ランダムサンプリングまたは層化シード選択は、QBCと同等のパフォーマンスを示すことがよくあります。なぜなら、全てのメソッドがほぼ同じ情報量の少ないベースラインから開始するからです。QBCの利点は、シードセットにクラスあたり少なくとも20〜50個の例がある場合に、より明確に現れます。
アクティブラーニング投票アンサンブルは回帰に有効ですか?
はい。不一致は、投票エントロピーではなく、委員会予測の分散または標準偏差として測定されます。同じクエリ・再トレーニングループが適用され、最終出力は委員会予測の平均です。
関連する手法
参考文献
Seung, H. S., Opper, M., & Sompolinsky, H. (1992). Query by committee. In Proceedings of the Fifth Annual Workshop on Computational Learning Theory (COLT '92), pp. 287–294. ACM.
DOI 文献を開くコピーしました。Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
出版物の文献を開くコピーしました。