Классификация изображений с помощью свёрточных нейронных сетей (CNN)
- Автор метода
- He, K. et al. (ResNet); Tan, M. & Le, Q.V. (EfficientNet)
- Год
- 2016
- Тип
- Deep convolutional neural network (supervised)
Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском
Что он делает?
Классификация изображений с помощью CNN использует глубокие свёрточные архитектуры, такие как ResNet (He et al., 2016), VGG и EfficientNet (Tan & Le, 2019), для сортировки изображений по категориям.
Последовательные свёрточные слои обучают иерархию визуальных признаков непосредственно из пикселей, а остаточные (пропускающие) соединения предотвращают проблему затухания градиента в очень глубоких сетях.
Интуиция метода
Вместо ручного проектирования признаков свёрточная сеть скользит небольшими обучаемыми фильтрами по изображению, обнаруживая края и текстуры в ранних слоях и объединяя их в формы и объекты в более глубоких слоях. По мере того как сети становятся очень глубокими, обучающий сигнал может ослабевать; остаточные соединения добавляют короткий путь, который позволяет каждому блоку изучать только изменение относительно его входа, поэтому градиенты проходят чисто, и глубина продолжает помогать, а не мешать.
История
Глубокие свёрточные сети изменили компьютерное зрение в 2010-х годах. He et al. (2016) представили ResNet с остаточными соединениями на CVPR, сделав практичным обучение сетей глубиной в сотни слоев и преодолев деградацию, наблюдаемую в обычных очень глубоких стеках. VGG популяризировала однородные стеки небольших свёрток, а Tan & Le (2019) предложили EfficientNet, который совместно масштабирует глубину сети, ширину и разрешение входных данных для достижения высокой точности при гораздо меньшем количестве параметров. Эти «основы», часто используемые предварительно обученными, остаются стандартными эталонами для классификации изображений.
Когда применять
Используйте для классификации или предсказания категорий из данных изображений, когда у вас есть размеченный набор изображений как минимум из 500 примеров и, в идеале, GPU. Метод не предполагает нормально распределенных данных, но следует применять аугментацию. При менее чем 500 изображениях глубокая CNN, как правило, переобучается, поэтому предпочтительнее трансферное обучение или более простая модель; при менее чем 100 изображениях фильтры не могут извлечь значимые признаки, и классический классификатор, такой как SVM, является более безопасным выбором.
Ограничения и замечания
- Требовательна к данным: требуется минимум около 500 изображений, сильно переобучается на меньших наборах.
- GPU практически необходим для практического времени обучения.
- Черный ящик: ограниченная интерпретируемость решений.
- При очень малом количестве изображений (менее 100) фильтры вообще не могут изучить значимые признаки.
Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.
Сильные стороны
- Изучает визуальные признаки непосредственно из пикселей, устраняя необходимость в признаках, спроектированных вручную.
- Остаточные соединения позволяют очень глубоким сетям обучаться без затухания градиентов.
- Современная точность классификации изображений во многих областях.
- Предварительно обученные «основы» (ResNet, VGG, EfficientNet) позволяют осуществлять трансферное обучение на скромных наборах данных.
- Минимальные предположения: нет требования нормальности входных данных.
Применение
- Классификация изображений по категориям в естественных, медицинских и дистанционно-зондируемых областях.
- Трансферное обучение: дообучение предварительно обученной «основы» для новой задачи обработки изображений.
- Контроль качества и визуальный осмотр в инженерных приложениях.
- Задачи предсказания, где входными данными являются изображения, а не табличные признаки.
Как это работает
Как это работает
Каждый свёрточный слой применяет набор небольших обучаемых фильтров к изображению, создавая карты признаков, которые выделяют локальные закономерности, такие как края, углы и текстуры. Нагромождение множества таких слоев строит всё более абстрактную иерархию визуальных признаков, изучаемую непосредственно из пикселей, а не спроектированную вручную.
Очень глубокие стеки страдают от затухания градиентов. Остаточные (пропускающие) соединения, центральные для ResNet, добавляют вход блока к его выходу, так что каждый блок должен изучать только остаточное изменение. Этот короткий путь обеспечивает прохождение градиентов через десятки или сотни слоев, что позволяет обучать эти сети на большую глубину. Семейства, такие как VGG, предпочитают однородные стеки свёрток, в то время как EfficientNet масштабирует глубину, ширину и разрешение вместе для достижения эффективности.
Формула
y = \mathcal{F}(x, \{W_i\}) + xКонечные карты признаков объединяются (пулинг) и передаются в классификационную «голову», которая выдает вероятность для каждой категории. На практике модель, предварительно обученная на большом наборе данных, дообучается заменой этой головы для целевых классов, и применяется аугментация данных для расширения эффективного обучающего набора и уменьшения переобучения.
Частые ошибки
- Обучение глубокой CNN с нуля на небольшом наборе данных вместо использования трансферного обучения.
- Пропуск аугментации данных и переобучение на обучающих изображениях.
- Игнорирование дисбаланса классов между категориями изображений.
- Отчетность только по точности без метрик по классам на несбалансированных данных.
- Попытка глубокого обучения на нескольких десятках изображений, где классическая модель справилась бы лучше.
Часто задаваемые вопросы
Сколько изображений мне нужно?
Примерно 500 размеченных изображений — это практический минимум, и чем больше, тем лучше. При менее чем 500 изображениях глубокая CNN переобучается, поэтому предпочтительнее трансферное обучение с предварительно обученной «основой» или более простая модель; при менее чем 100 изображениях фильтры не могут изучить значимые признаки.
Нужен ли мне GPU?
GPU настоятельно рекомендуется. Обучение глубоких свёрточных сетей вычислительно затратно, и только на CPU время обучения становится непрактичным для реалистичных наборов данных.
Какую архитектуру выбрать — ResNet, VGG или EfficientNet?
Остаточные соединения ResNet делают очень глубокие сети обучаемыми, и это надежный выбор по умолчанию. VGG использует простые однородные стеки свёрток, в то время как EfficientNet масштабирует глубину, ширину и разрешение вместе для достижения высокой точности при меньшем количестве параметров. Начать с предварительно обученной версии любой из них — обычно самый надежный путь.
Почему важна аугментация данных?
Аугментация — отражения, обрезки, повороты и подобные преобразования — расширяет эффективный обучающий набор и подвергает сеть большему разнообразию, что уменьшает переобучение. При ограниченном количестве изображений это один из наиболее важных шагов для обобщения.
Похожие методы
Источники
He, K., Zhang, X., Ren, S. & Sun, J. (2016). Deep Residual Learning for Image Recognition. CVPR.
Открыть ссылку DOIСкопировано.Tan, M. & Le, Q.V. (2019). EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks. ICML, PMLR 97, 6105–6114. arXiv:1905.11946.
Открыть ссылку на публикациюСкопировано.