Skip to content
検索結果に戻る

ゼロショット分類 — 学習データなしでのテキスト分類

提唱者
Yin, Hay & Roth
年
2019
種類
NLP text-classification task

この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む

文字サイズ

何をする手法か?

ゼロショット分類とは、ラベル付けされた学習データを一切必要とせずに、平易な言葉で記述されたカテゴリにテキストを割り当てる自然言語処理タスクである。Yin, Hay, and Roth (2019) によって含意問題として形式化されたこの手法により、大規模事前学習済み言語モデルは、カテゴリ名を指定するだけで新たなカテゴリをオンザフライで認識できるようになり、新しいラベルセットへの迅速な適応が可能になる。

手法の背後にある直感

通常、分類器は、各カテゴリのラベル付き例を多数見て初めてそれを認識できるようになる。ゼロショット分類はこのステップを省略する。例えば、政治、スポーツ、科学といったカテゴリ名を通常の単語として与えると、言語を既に理解している大規模事前学習済み言語モデルが、各候補ラベルがテキストにどれだけ適合するかを判断する。モデルは言語に関する広範な知識を持っているため、新しい学習データを収集・ラベル付けすることなく、カテゴリを即座に追加または変更できる。

歴史学

ゼロショットテキスト分類は、Yin, Hay, and Roth (2019) によって体系的にベンチマークされ、テキスト含意問題として定式化された。彼らは、自然言語推論で学習されたモデルが、各ラベルを仮説として扱うことで、未知のカテゴリにテキストを分類できることを示した。大規模言語モデルが、明示的に学習したことのないタスクを実行できるというより広範な能力は、Brown et al. (2020) によるGPT-3の少数ショット学習に関する研究で普及した。

使うべき場面

ゼロショット分類は、分類すべきテキストはあるもののラベル付き学習データがなく、カテゴリが変更または増加する可能性がある場合に適している。大規模事前学習済み言語モデル(BARTやRoBERTaベースの含意モデルなど)と、明確かつ排他的に定義された候補ラベルが必要である。迅速なプロトタイピングや、各クラスのラベル付き例を収集することが非現実的な設定に適している。

限界と注意点

  • 大規模事前学習済み言語モデル(BART、RoBERTa)に依存しており、計算コストがかかる。
  • 精度は、候補ラベルがどれだけ明確かつ排他的に記述されているかに依存する。
  • タスク固有の学習なしでは、十分なラベル付きデータが存在する場合、教師あり分類器に劣る可能性がある。

出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。

強み

  • ラベル付き学習データを必要としない — カテゴリは平易な言葉で記述される。
  • 新しいカテゴリに迅速に適応する:クラスを追加するには、その名前を候補ラベルリストに追加するだけである。
  • 大規模事前学習済みモデルに既に捉えられている広範な言語知識を活用する。

応用

  • 頻繁に変更されるラベルセットへの文書のカテゴリ分け(再学習なし)。
  • ラベル付きデータが収集される前に、分類タスクの迅速なプロトタイピング。
  • カテゴリ名のみを使用して、受信テキストのルーティングまたはタグ付け(トピック、インテント)。
  • 研究および運用上のテキストコーパスにおける新たなカテゴリの探索。

使い方

使い方

1

ターゲットカテゴリは、自然言語の候補ラベル、すなわちモデルが直接読み取れる短いフレーズとして記述する。これらのラベルは、モデルがテキストを記述されたとおりに各ラベルと比較するため、明確に記述され、互いに排他的でなければならない。曖昧または重複するラベルは、決定を曖昧にする。

2

テキストと候補ラベルは、BARTやRoBERTaのような大規模事前学習済み言語モデルに入力される。独自のデータでの学習は行われない。モデルは、事前学習中に獲得した言語知識を使用して、文書と各候補ラベルの両方を表現する。

3

モデルは、テキストによって各候補ラベルがどれだけ強く支持されているかをスコアリングし、タスクを自然言語推論として捉える。すなわち、テキストはそのラベルに属するという仮説を含意するかどうか、という問題である。各ラベルは、事前学習済みモデルから適合度スコアを受け取る。

4

最も高いスコアを持つラベルがテキストに割り当てられる(マルチラベル設定の場合は、ランク付けされたラベルのセット)。スコアリングは完全に事前学習済みモデルに依存するため、新しいカテゴリを追加することは、その名前を候補リストに追加するのと同じくらい簡単である。

よくある落とし穴

  • 曖昧または重複する候補ラベルは、モデルの決定を曖昧にする。各ラベルを明確に定義し、排他的に保つ。
  • 十分なラベル付きデータがある場合に、ゼロショットの精度が完全な教師あり分類器に匹敵することを期待する — その場合は代わりに教師ありモデルを学習させる。
  • 小規模または汎用的なモデルを、含意能力のある大規模モデルの代わりに使うと、結果が悪化する。
  • 事前学習済みモデルがうまく扱えない言語でラベルを記述すると、信頼性が低下する。

よくある質問

ゼロショット分類には学習データが必要ですか?

いいえ。それがその定義的な特徴です。カテゴリを自然言語の候補ラベルとして記述し、大規模事前学習済みモデルが適合度を判断するため、ラベル付き例は必要ありません。

どのモデルに依存しますか?

通常は、BARTやRoBERTaのような含意タスクで学習されたモデルである、大規模事前学習済み言語モデルに依存します。結果の品質は、小規模な汎用モデルではなく、能力のある事前学習済みモデルを使用することに大きく依存します。

候補ラベルはどのように記述すべきですか?

明確に定義し、排他的に保ってください。モデルはテキストを記述されたとおりに各ラベルと比較するため、曖昧または重複するラベルは決定を曖昧にし、精度を低下させます。

教師あり分類器と同等の精度ですか?

必ずしもそうではありません。十分なラベル付きデータがある場合、そのデータで学習された教師あり分類器はゼロショットを上回ることができます。ゼロショットは、ラベル付きデータが乏しい場合やカテゴリセットが頻繁に変更される場合に真価を発揮します。

関連する手法

参考文献

  1. Yin, W., Hay, J. & Roth, D. (2019). Benchmarking Zero-shot Text Classification: Datasets, Evaluation and Entailment Approach. EMNLP, 3914-3923.

    DOI 文献を開く
    コピーしました。
  2. Brown, T. et al. (2020). Language Models are Few-Shot Learners. NeurIPS.

    出版物の文献を開く
    コピーしました。