転移学習
- 提唱者
- Pan, S. J. & Yang, Q. (survey); Bengio, Y. (deep learning framing)
- 年
- 2010 (formalized); 1990s (early roots)
- 種類
- Learning paradigm
- 系統
- Machine learning
この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む
何をする手法か?
転移学習は、ソースタスクまたはソースドメインでモデルをトレーニングして得られた知識を、異なるが関連性のあるターゲットタスクまたはターゲットドメインでの学習を改善するために再利用する機械学習のパラダイムである。ターゲットタスクのラベル付きデータが乏しい場合に特に強力であり、コンピュータビジョン、自然言語処理、およびそれ以降のほとんどの最新のディープラーニングアプリケーションの基盤となっている。
手法の背後にある直感
自転車に乗ることを学び、そのバランスと協調の知識をオートバイに乗ることを学ぶことに応用すると想像してみてください。最初からやり直す必要はありません。転移学習も同様に機能します。大規模で豊富なデータセット(ソースドメイン)でトレーニングされたモデルは、エッジ、テクスチャ、または文法パターンなどの有用な表現をすでに学習しています。新しく、より小さなターゲットデータセットに適用すると、モデルは、表現の困難な作業がすでに完了しているため、良好なパフォーマンスを達成するために必要なラベル付きデータがはるかに少なくて済みます。
歴史学
タスク間の知識転移の概念は1990年代に登場しました(Pratt 1993; Thrun 1996)。このパラダイムは、PanとYangによる2010年のIEEE TKDE論文で正式に調査および体系化され、現在でも標準的な参照となっています。ディープラーニングの成功により、このパラダイムは飛躍的に発展しました。Bengioらは、ディープネットワークが転移可能な表現を学習することを示し、ImageNetの事前トレーニング(Krizhevskyら、2012)はコンピュータビジョンにおける転移を標準的な実践としました。BERT(2018)やGPT(2018-)などの大規模言語モデルの導入は、転移学習をNLPに拡張し、事実上すべてのディープラーニングアプリケーションにおける支配的なパラダイムに変えました。
使うべき場面
ターゲットタスクのラベル付きデータが限られているが、豊富なラベルを持つ関連ソースドメインまたは大規模な事前トレーニング済みモデルが存在する場合、転移学習は適切な選択です。たとえば、ドメイン固有のテキスト分類器のためにBERTをファインチューニングしたり、ImageNetで事前トレーニングされたCNNを医療画像に適合させたりする場合です。これにより、強力なパフォーマンスを達成するために必要なデータと計算量が劇的に削減されます。ソースドメインとターゲットドメインが根本的に無関係な場合は回避してください。負の転移は、ゼロからのトレーニングよりもパフォーマンスを悪化させる可能性があるためです。ターゲットデータセットが独立して有能なモデルをトレーニングするのに十分大きい場合も、あまり正当化されません。
限界と注意点
- ソースドメインとターゲットドメインが離れすぎている場合、負の転移が発生する可能性があり、ゼロからのトレーニングと比較してパフォーマンスを損なう可能性があります。
- 大規模な事前トレーニング済みモデルのファインチューニングには、かなりのメモリが必要であり、非常に大規模なモデルの場合は、かなりのGPUリソースが必要です。
- 凍結するモデルの量とファインチューニングする量の適切なバランスは、タスクに依存し、実験が必要です。
- ソースとターゲット間のドメインシフトは明白ではない場合があり、パフォーマンスを静かに低下させる可能性があります。
- 事前トレーニング済みモデルに関する法的および倫理的制約(ライセンス、トレーニングデータのバイアス)は、特定のアプリケーションでの使用を制限する可能性があります。
出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。
強み
- ソース表現を再利用することにより、ターゲットタスクのラベル付きデータ要件を劇的に削減します。
- 大規模モデルをゼロからトレーニングする場合と比較して、トレーニング時間と計算コストを短縮します。
- 多くの場合、小規模および中規模のターゲットデータセットで最先端のパフォーマンスを達成します。
- 汎用的な事前トレーニング済みモデル(例:ResNet、BERT、GPT)は、多くのドメインで強力な開始点を提供します。
- 特徴抽出モードにより、GPU負荷の高いファインチューニングなしでもディープ表現を使用できます。
応用
- ドメイン固有のテキスト分類、NER、または質問応答のために、事前トレーニングされた言語モデル(BERT、GPT)をファインチューニングする。
- ラベル付きスキャンが少ない医療画像分析に、ImageNetで事前トレーニングされたCNN(ResNet、VGG)を適合させる。
- 大規模な多言語モデルから、リソースの少ない言語に適合された音声認識システム。
- 製品レビューで学習された表現をソーシャルメディアテキストに転移させることによる、クロスドメイン感情分析。
- 関連データセットで事前トレーニングされたニューラルネットワークの特徴を使用して、小さなターゲットテーブルでの予測を改善する(表形式データ)。
- ラベル付き実験データが高価であり、化学文献からのソースモデルが強力な事前知識を提供する科学ドメイン(創薬、材料科学)。
使い方
使い方
大量のラベル付きデータが利用可能な大規模なソースデータセットでモデルがトレーニングされます。このフェーズ中に、モデルは汎用的な特徴表現を学習します。たとえば、畳み込みネットワークは数百万の画像から視覚的階層を学習し、言語モデルは数十億のトークンから構文的および意味的パターンを学習します。
ソースドメインとターゲットドメインの関係が評価されます。ドメインが近い場合(例:両方とも自然画像を扱う)、学習された表現はより直接的に転移します。ドメインシフトが大きい場合は、ドメイン敵対的トレーニングやインスタンス重み付けなどの技術が、適応が開始される前に分布の不一致を減らすために適用されます。
事前トレーニングされたモデルがターゲットタスクに適用されます。特徴抽出では、初期の層は凍結され、タスク固有の後の層のみが置き換えられてトレーニングされます。完全なファインチューニングでは、すべての層がターゲットデータで更新されます。通常、以前に学習された表現を維持し、破滅的な忘却を回避するために、より低い学習率が使用されます。
(通常は小さい)ラベル付きターゲットデータセットで適応されたモデルがトレーニングされます。正則化戦略(L2-SP(ソースの重みへのペナルティ)、ドロップアウト、早期停止など)は、限られたターゲットラベルへの過学習を防ぎます。層ごとの学習率スケジューリングは、ディープネットワークでは一般的です。
タスクに適したメトリクス(精度、F1、RMSEなど)を使用して、保持されたターゲットテストセットでパフォーマンスが測定されます。ゼロからのトレーニングおよびソースのみのベースラインとの比較は、転移ゲインを定量化し、負の転移が発生したかどうかを明らかにします。
よくある落とし穴
- ドメインの類似性を確認せずに、任意の事前トレーニング済みモデルがうまく転移すると仮定すること。常にゼロからのトレーニングをベースラインと比較してください。
- ファインチューニング中に学習率が高すぎると、ソース表現の破滅的な忘却を引き起こします。
- ターゲットトレーニングセットでのみ評価するか、適切な保持されたテスト分割を無視する。
- ソースドメインから継承されたデータセットのバイアスを見落とすこと。これはターゲット予測に伝播する可能性があります。
- 正則化なしで非常に小さいターゲットセットでファインチューニングを行うと、深刻な過学習につながります。
よくある質問
転移学習における特徴抽出とファインチューニングの違いは何ですか?
特徴抽出では、事前トレーニングされたモデルの重みは凍結され、新しいタスク固有のヘッドのみがトレーニングされます。ファインチューニングでは、事前トレーニングされた重みの一部またはすべてがターゲットデータで更新されます。通常、破滅的な忘却を避けるために小さな学習率が使用されます。特徴抽出は、非常に小さなデータセットでの過学習に対してより高速で、より少ないリスクがありますが、ファインチューニングは、十分なターゲットデータがある場合に一般的に優れたパフォーマンスをもたらします。
転移学習が役立つか害になるかをどのように判断しますか?
重要なのはドメインの類似性です。ソースとターゲットの分布が意味のある構造(同じモダリティ、類似の語彙、関連する視覚的概念)を共有している場合、転移はほぼ常に役立ちます。ゼロからベースラインをトレーニングして比較してください。転移されたモデルがそれより良くない場合、ドメインが離れすぎているか、ドメイン敵対的アライメント技術が必要になる可能性があります。
負の転移とは何ですか?
負の転移は、ソースドメインからの知識がターゲットタスクでのパフォーマンスを積極的に損なう場合に発生します。事前トレーニングされた表現がターゲット構造と一致せず、最適化を誤らせます。ソースとターゲットが意味的または統計的に異なるときに最も一般的です。ソースの重みへの正則化(例:L2-SP)または浅い層のみの使用は、それを軽減する可能性があります。
ファインチューニングにはどのくらいのターゲットデータが必要ですか?
普遍的なしきい値はありませんが、ターゲットのラベル付き例が数十から数千の場合に転移学習は最も価値があります。例が非常に少ない場合(約100未満)、ほとんどの層を凍結してヘッドのみをトレーニングする(特徴抽出)方が安全です。数千の例がある場合、より深いファインチューニングが可能であり、通常は有益です。
転移学習は、画像やテキストだけでなく、表形式データにも適用できますか?
はい、ただし、プラグアンドプレイではありません。アプローチには、関連ドメインの大きな表形式コーパスでニューラルネットワークを事前トレーニングすること、または基盤モデルからの埋め込みを追加の特徴として使用することが含まれます。SAINTやTabPFNなどのライブラリがこの方向を探求しています。古典的な表形式タスクでは、勾配ブースティングは、転移なしでも強力な競合相手であり続けます。
関連する手法
参考文献
Pan, S. J., & Yang, Q. (2010). A Survey on Transfer Learning. IEEE Transactions on Knowledge and Data Engineering, 22(10), 1345–1359.
DOI 文献を開くコピーしました。Bengio, Y. (2012). Deep Learning of Representations for Unsupervised and Transfer Learning. In Proceedings of ICML Workshop on Unsupervised and Transfer Learning, PMLR 27, 17–36.
出版物の文献を開くコピーしました。