Klasyfikacja obrazów za pomocą CNN
- Autor metody
- He, K. et al. (ResNet); Tan, M. & Le, Q.V. (EfficientNet)
- Rok
- 2016
- Typ
- Deep convolutional neural network (supervised)
Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku
Do czego służy?
Klasyfikacja obrazów za pomocą CNN wykorzystuje głębokie architektury konwolucyjne, takie jak ResNet (He i in., 2016), VGG i EfficientNet (Tan & Le, 2019), do sortowania obrazów na kategorie.
Warstwy konwolucyjne uczą się hierarchii cech wizualnych bezpośrednio z pikseli, a połączenia skrótowe (resztkowe) zapobiegają problemowi zanikającego gradientu w bardzo głębokich sieciach.
Intuicja stojąca za metodą
Zamiast ręcznego inżynierowania cech, sieć konwolucyjna przesuwa małe, uczące się filtry po obrazie, wykrywając krawędzie i tekstury w początkowych warstwach, a następnie łącząc je w kształty i obiekty w głębszych warstwach. Gdy sieci stają się bardzo głębokie, sygnał treningowy może zanikać; połączenia resztkowe dodają skrót, który pozwala każdemu blokowi uczyć się tylko zmiany względem jego wejścia, dzięki czemu gradienty przepływają czysto, a głębokość pomaga, zamiast szkodzić.
Historia
Głębokie sieci konwolucyjne zrewolucjonizowały wizję komputerową w latach 2010. He i in. (2016) wprowadzili ResNet z połączeniami resztkowymi na konferencji CVPR, co umożliwiło praktyczne trenowanie sieci o głębokości setek warstw i przezwyciężenie degradacji obserwowanej w zwykłych, bardzo głębokich stosach. VGG spopularyzował jednorodne stosy małych konwolucji, a Tan & Le (2019) zaproponowali EfficientNet, który wspólnie skaluje głębokość, szerokość i rozdzielczość wejściową, aby osiągnąć wysoką dokładność przy znacznie mniejszej liczbie parametrów. Te rdzenie, często używane wstępnie wytrenowane, pozostają standardowymi punktami odniesienia dla klasyfikacji obrazów.
Kiedy stosować
Używaj do klasyfikacji lub przewidywania kategorii na podstawie danych obrazowych, gdy masz oznakowany zbiór obrazów zawierający co najmniej około 500 przykładów i najlepiej kartę GPU. Nie zakłada rozkładu danych zgodnego z rozkładem normalnym, ale należy stosować augmentację. Poniżej około 500 obrazów głębokie CNN ma tendencję do nadmiernego dopasowania, dlatego preferowane jest uczenie transferowe lub prostszy model; przy mniej niż około 100 obrazach filtry nie są w stanie wyekstrahować znaczących cech, a klasyczny klasyfikator, taki jak SVM, jest bezpieczniejszym wyborem.
Ograniczenia i uwagi
- Głodny danych: wymaga co najmniej około 500 obrazów i mocno nadmiernie dopasowuje się do mniejszych zbiorów.
- Karta GPU jest praktycznie wymagana do praktycznych czasów treningu.
- Model typu czarna skrzynka o ograniczonej interpretowalności decyzji.
- Przy bardzo niewielkiej liczbie obrazów (poniżej około 100) filtry nie są w stanie w ogóle nauczyć się znaczących cech.
Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.
Mocne strony
- Uczy cech wizualnych bezpośrednio z pikseli, eliminując potrzebę ręcznego inżynierowania cech.
- Połączenia resztkowe pozwalają trenować bardzo głębokie sieci bez zanikających gradientów.
- Najnowocześniejsza dokładność w klasyfikacji obrazów w wielu dziedzinach.
- Wstępnie wytrenowane rdzenie (ResNet, VGG, EfficientNet) umożliwiają uczenie transferowe na skromnych zbiorach danych.
- Niewielkie założenia: brak wymogu normalności danych wejściowych.
Zastosowania
- Klasyfikacja obrazów na kategorie w dziedzinach przyrodniczych, medycznych i teledetekcji.
- Uczenie transferowe: dostrajanie wstępnie wytrenowanego rdzenia do nowego zadania związanego z obrazami.
- Kontrola jakości i inspekcja wizualna w ustawieniach inżynieryjnych.
- Zadania predykcyjne, w których wejściem są dane obrazowe, a nie cechy tabelaryczne.
Jak to działa
Jak to działa
Każda warstwa konwolucyjna stosuje zestaw małych, uczących się filtrów do obrazu, generując mapy cech, które podkreślają lokalne wzorce, takie jak krawędzie, narożniki i tekstury. Układanie wielu takich warstw buduje coraz bardziej abstrakcyjną hierarchię cech wizualnych, uczoną bezpośrednio z pikseli, a nie projektowaną ręcznie.
Bardzo głębokie stosy cierpią z powodu zanikających gradientów. Połączenia resztkowe (skrótowe), kluczowe dla ResNet, dodają wejście bloku z powrotem do jego wyjścia, dzięki czemu każdy blok musi uczyć się tylko resztkowej zmiany. Ten skrót utrzymuje przepływ gradientów przez dziesiątki lub setki warstw, co pozwala na trenowanie tych sieci do dużej głębokości. Rodziny takie jak VGG preferują jednorodne stosy konwolucji, podczas gdy EfficientNet skaluje głębokość, szerokość i rozdzielczość razem dla efektywności.
Wzór
y = \mathcal{F}(x, \{W_i\}) + xKońcowe mapy cech są agregowane (pooled) i przekazywane do głowicy klasyfikacyjnej, która zwraca prawdopodobieństwo dla każdej kategorii. W praktyce model wstępnie wytrenowany na dużym zbiorze danych jest dostrajany poprzez zastąpienie tej głowicy dla docelowych klas, a augmentacja danych jest stosowana w celu rozszerzenia efektywnego zbioru treningowego i zmniejszenia nadmiernego dopasowania.
Częste pułapki
- Trenowanie głębokiego CNN od zera na małym zbiorze danych zamiast używania uczenia transferowego.
- Pomijanie augmentacji danych i nadmierne dopasowanie do obrazów treningowych.
- Ignorowanie niezbalansowania klas w kategoriach obrazów.
- Raportowanie tylko dokładności bez metryk dla poszczególnych klas na niezbalansowanych danych.
- Próba głębokiego uczenia na kilkudziesięciu obrazach, gdzie klasyczny model poradziłby sobie lepiej.
Najczęściej zadawane pytania
Ile obrazów potrzebuję?
Około 500 oznakowanych obrazów to praktyczne minimum, a więcej jest lepsze. Poniżej około 500 głębokie CNN nadmiernie dopasowuje się, dlatego preferowane jest uczenie transferowe z wstępnie wytrenowanego rdzenia lub prostszy model; poniżej około 100 obrazów filtry nie są w stanie nauczyć się znaczących cech.
Czy potrzebuję karty GPU?
Karta GPU jest zdecydowanie zalecana. Trenowanie głębokich sieci konwolucyjnych jest obliczeniowo kosztowne, a na samym CPU czasy treningu stają się niepraktyczne dla realistycznych zbiorów danych.
Którą architekturę wybrać — ResNet, VGG czy EfficientNet?
Połączenia resztkowe ResNet sprawiają, że bardzo głębokie sieci są możliwe do trenowania i jest to solidny wybór domyślny. VGG wykorzystuje proste, jednorodne stosy konwolucji, podczas gdy EfficientNet skaluje głębokość, szerokość i rozdzielczość razem, aby osiągnąć wysoką dokładność przy mniejszej liczbie parametrów. Rozpoczęcie od wstępnie wytrenowanej wersji którejkolwiek z nich jest zazwyczaj najbardziej niezawodną drogą.
Dlaczego augmentacja danych jest ważna?
Augmentacja — obroty, przycięcia, rotacje i podobne transformacje — rozszerza efektywny zbiór treningowy i wystawia sieć na większą zmienność, co zmniejsza nadmierne dopasowanie. Przy ograniczonej liczbie danych obrazowych jest to jeden z najważniejszych kroków dla generalizacji.
Pokrewne metody
Źródła
He, K., Zhang, X., Ren, S. & Sun, J. (2016). Deep Residual Learning for Image Recognition. CVPR.
Otwórz odnośnik DOISkopiowano.Tan, M. & Le, Q.V. (2019). EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks. ICML, PMLR 97, 6105–6114. arXiv:1905.11946.
Otwórz odnośnik do publikacjiSkopiowano.