CNN画像分類
- 提唱者
- He, K. et al. (ResNet); Tan, M. & Le, Q.V. (EfficientNet)
- 年
- 2016
- 種類
- Deep convolutional neural network (supervised)
この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む
何をする手法か?
CNN画像分類は、ResNet (He et al., 2016)、VGG、EfficientNet (Tan & Le, 2019) のようなディープ畳み込みアーキテクチャを用いて、画像をカテゴリに分類します。積み重ねられた畳み込み層は、ピクセルから直接視覚的特徴の階層を学習し、スキップ(残差)接続は非常に深いネットワークにおける勾配消失問題を防止します。
手法の背後にある直感
手作業で特徴量を設計する代わりに、畳み込みネットワークは小さな学習可能なフィルタを画像全体にスライドさせ、初期の層でエッジやテクスチャを検出し、より深い層でそれらを形状やオブジェクトに結合します。ネットワークが非常に深くなると、学習信号が薄れることがあります。残差接続はショートカットを追加し、各ブロックが入力を基準とした変化のみを学習できるようにするため、勾配はきれいに流れ、深さが悪影響を与えるのではなく役立ち続けます。
歴史学
ディープ畳み込みネットワークは2010年代にコンピュータビジョンを再形成しました。Heら(2016)はCVPRで残差接続を備えたResNetを導入し、数百層の深さのネットワークの学習を実用的なものにし、プレーンな非常に深いスタックで見られた劣化を克服しました。VGGは小さな畳み込みの均一なスタックを普及させ、Tan & Le(2019)はEfficientNetを提案し、ネットワークの深さ、幅、入力解像度を共同でスケーリングして、はるかに少ないパラメータで高い精度を達成しました。これらのバックボーンは、事前学習済みでよく使用され、画像分類の標準的な参照であり続けています。
使うべき場面
ラベル付き画像セットが少なくとも約500例あり、理想的にはGPUがある場合に、画像データからのカテゴリの分類または予測に使用します。正規分布を仮定しませんが、拡張は適用すべきです。約500枚未満の画像では、ディープCNNは過学習しやすいため、転移学習またはより単純なモデルが推奨されます。約100枚未満の画像では、フィルタは意味のある特徴を抽出できないため、SVMのような古典的な分類器の方が安全な選択肢です。
限界と注意点
- データ飢餓:約500枚以上のラベル付き画像が必要で、それより少ないセットではひどく過学習します。
- 実用的な学習時間にはGPUが実質的に必要です。
- 決定の解釈可能性が限られたブラックボックスモデルです。
- 非常に少ない画像(約100枚未満)では、フィルタは意味のある特徴を全く学習できません。
出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。
強み
- 手作業で設計された特徴量の必要性をなくし、ピクセルから直接視覚的特徴を学習します。
- 残差接続により、勾配消失なしに非常に深いネットワークを学習させることができます。
- 多くのドメインにおける画像分類で最先端の精度を達成します。
- 事前学習済みバックボーン(ResNet、VGG、EfficientNet)は、小規模なデータセットでの転移学習を可能にします。
- 仮定が少ない:入力データに正規性の要件はありません。
応用
- 自然、医療、リモートセンシングドメイン全体での画像分類。
- 転移学習:新しい画像タスクのために事前学習済みバックボーンをファインチューニングすること。
- エンジニアリング設定における品質管理と視覚検査。
- 入力が表形式の特徴量ではなく画像データである予測タスク。
使い方
使い方
各畳み込み層は、画像全体に小さな学習可能なフィルタのバンクを適用し、エッジ、コーナー、テクスチャなどの局所的なパターンを強調する特徴マップを生成します。このような層を多数積み重ねることで、手作業で設計されたものではなく、ピクセルから直接学習された視覚的特徴の抽象的な階層が構築されます。
非常に深いスタックは勾配消失に悩まされます。ResNetの中心的な残差(スキップ)接続は、ブロックの入力をその出力に加えるため、各ブロックは残差変化のみを学習すればよくなります。このショートカットにより、数十または数百の層にわたって勾配が流れ続け、これらのネットワークを深いレベルまで学習させることが可能になります。VGGのようなファミリーは均一な畳み込みスタックを好む一方、EfficientNetは効率のために深さ、幅、解像度を同時にスケーリングします。
数式
y = \mathcal{F}(x, \{W_i\}) + x最終的な特徴マップはプーリングされ、各カテゴリの確率を出力する分類ヘッドに渡されます。実際には、大規模データセットで事前学習されたモデルのこのヘッドをターゲットクラス用に置き換え、データ拡張を適用して実効的な学習セットを拡張し、過学習を軽減することでファインチューニングが行われます。
よくある落とし穴
- 転移学習を使用せずに、小規模なデータセットでディープCNNをスクラッチから学習させること。
- データ拡張をスキップし、学習画像に過学習すること。
- 画像カテゴリ間のクラス不均衡を無視すること。
- 不均衡データに対して、クラスごとのメトリクスなしに精度のみを報告すること。
- 古典的なモデルで十分な場合に、わずか数十枚の画像でディープラーニングを試みること。
よくある質問
必要な画像の枚数は?
実用的な最小値は約500枚のラベル付き画像であり、それ以上が望ましいです。約500枚未満ではディープCNNは過学習するため、事前学習済みバックボーンからの転移学習またはより単純なモデルが推奨されます。約100枚未満では、フィルタは意味のある特徴を学習できません。
GPUは必要ですか?
GPUを強く推奨します。ディープ畳み込みネットワークの学習は計算負荷が高く、CPUのみでは現実的なデータセットに対する学習時間が非現実的になります。
どのアーキテクチャを選択すべきか — ResNet、VGG、またはEfficientNet?
ResNetの残差接続は非常に深いネットワークの学習を可能にし、堅牢なデフォルトです。VGGは単純な均一な畳み込みスタックを使用し、EfficientNetは深さ、幅、解像度を共同でスケーリングして、より少ないパラメータで高い精度を達成します。いずれかの事前学習済みバージョンから始めるのが、通常最も信頼性の高い方法です。
データ拡張が重要なのはなぜですか?
拡張(反転、切り抜き、回転などの変換)は、実効的な学習セットを拡張し、ネットワークをより多くのバリエーションにさらすことで、過学習を軽減します。画像データが限られている場合、汎化のための最も重要なステップの1つです。