Przejdź do treści
Wróć do wyników wyszukiwania

Sieć kapsułkowa

Autor metody
Sabour, S., Frosst, N. & Hinton, G. E.
Rok
2017
Typ
Deep learning architecture (vector capsules with dynamic routing)

Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku

Rozmiar czcionki

Do czego służy?

Sieć kapsułkowa (CapsNet) to architektura głębokiego uczenia wprowadzona przez Sarę Sabour, Nicholasa Frossta i Geoffreya Hintona w 2017 roku, która organizuje neurony jako wektory (kapsułki) zamiast skalarów aktywacji, tak aby hierarchia przestrzenna i informacja o pozie (orientacji) były kodowane bezpośrednio.

Zaproponowano ją w celu przezwyciężenia kruchości sieci konwolucyjnych w stosunku do zmian punktu widzenia.

Intuicja stojąca za metodą

Standardowa sieć konwolucyjna wykrywa obecność cechy, ale odrzuca większość jej precyzyjnych relacji przestrzennych z innymi cechami, co czyni ją wrażliwą, gdy obiekt jest obracany lub widziany pod nowym kątem. Kapsułka zastępuje pojedynczy neuron skalarny małym wektorem: jego długość sygnalizuje prawdopodobieństwo obecności bytu, a jego kierunek koduje właściwości tego bytu, takie jak poza i orientacja. Ponieważ kapsułki przenoszą te bogatsze informacje, sieć może rozumować o tym, jak części odnoszą się do całości, zamiast tylko o tym, czy części występują.

Historia

Sieci kapsułkowe zostały wprowadzone przez Sarę Sabour, Nicholasa Frossta i Geoffreya Hintona w artykule NeurIPS z 2017 roku Dynamic Routing Between Capsules, motywowane ograniczeniami sieci konwolucyjnych w obsłudze zmienności punktu widzenia. W 2018 roku Hinton, Sabour i Frosst rozszerzyli tę ideę w ICLR za pomocą Matrix Capsules with EM Routing, zastępując pierwotny schemat routingu procedurą oczekiwania-maksymalizacji na kapsułkach o wartościach macierzowych.

Kiedy stosować

Nadaje się do klasyfikacji i predykcji na danych obrazowych lub innych danych ciągłych o ustrukturyzowanych cechach, gdzie istotna jest odporność na zmiany punktu widzenia i pozy, przy rozsądnie dużej próbie (co najmniej około 500 obserwacji). Zalecana jest karta GPU, a algorytm dynamicznego routingu musi być dostrojony. Poniżej około 500 obserwacji routing nie może się niezawodnie uczyć, a model przeucza się; poniżej około 200 obserwacji lepszym wyborem jest klasyczny klasyfikator, taki jak las losowy lub SVM.

Ograniczenia i uwagi

  • Wymaga dość dużej próby (około 500+); na mniejszych danych dynamiczny routing przeucza się i uczy zawodnie.
  • Iteracyjny dynamiczny routing jest wymagający obliczeniowo i zalecana jest karta GPU.
  • Algorytm routingu wprowadza hiperparametry, które muszą być dostrojone, co zwiększa złożoność treningu.

Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.

Mocne strony

  • Koduje informacje o pozie i hierarchii przestrzennej, które pooling konwolucyjny odrzuca, poprawiając odporność na zmiany punktu widzenia.
  • Modeluje jawne relacje części-całości poprzez routing oparty na zgodności.
  • Wektorowe kapsułki zachowują właściwości bytu (orientację, pozycję) zamiast sprowadzać je do pojedynczej aktywacji.

Zastosowania

  • Klasyfikacja obrazów, która musi być odporna na zmiany punktu widzenia, rotacji lub pozy.
  • Zadania rozpoznawania, gdzie modelowanie przestrzennych relacji części-całości poprawia generalizację.
  • Klasyfikacja i predykcja na ustrukturyzowanych danych o cechach ciągłych z wystarczającą ilością danych treningowych.

Jak to działa

Jak to działa

1

Zamiast neuronów skalarnych, sieć grupuje jednostki w kapsułki – krótkie wektory, których długość reprezentuje prawdopodobieństwo istnienia danego bytu, a orientacja koduje jego parametry instancjacji, takie jak poza. Kapsułki niższego poziomu wykrywają części, podczas gdy kapsułki wyższego poziomu reprezentują całości, które te części tworzą.

2

Algorytm dynamicznego routingu oparty na zgodności łączy kapsułki niższego poziomu z kapsułkami wyższego poziomu. Każda kapsułka niższego poziomu dokonuje predykcji wyjścia każdej kapsułki wyższego poziomu za pomocą macierzy transformacji; współczynniki sprzężenia są następnie iteracyjnie udoskonalane, tak aby zgadzające się predykcje wzmacniały się nawzajem. Ten routing musi być dostrojony i zastępuje krok pooling w sieci konwolucyjnej jawnym konsensusem części-całości.

Wzór
\hat{u}_{j|i} = W_{ij}\,u_i,\quad s_j = \sum_i c_{ij}\,\hat{u}_{j|i}
3

Nieliniowa funkcja squashing zmniejsza krótkie wektory w kierunku zera, a długie wektory w kierunku długości jednostkowej, dzięki czemu wielkość kapsułki wyjściowej pozostaje prawidłowym prawdopodobieństwem, podczas gdy jej kierunek zachowuje właściwości bytu. Długości kapsułek warstwy końcowej dają predykcje klas używane do klasyfikacji.

Wzór
v_j = \frac{\lVert s_j\rVert^2}{1+\lVert s_j\rVert^2}\,\frac{s_j}{\lVert s_j\rVert}

Częste pułapki

  • Trening na zbyt małej liczbie obserwacji (poniżej ~500), gdzie routing nie może zbiec się do niezawodnych sprzężeń.
  • Pozostawienie iteracji dynamicznego routingu i sprzężenia na wartościach domyślnych zamiast ich dostrajania do zadania.
  • Próba treningu bez akceleracji GPU i akceptacja zaporowo wolnego lub niepełnego treningu.
  • Stosowanie CapsNet do nieobrazowych, niestrukturalnych danych wejściowych, do których nie został zaprojektowany, zamiast klasycznego modelu.

Najczęściej zadawane pytania

Czym kapsułka różni się od zwykłego neuronu?

Zwykły neuron generuje pojedynczą skalarną aktywację. Kapsułka generuje wektor, którego długość reprezentuje prawdopodobieństwo obecności bytu, a jego orientacja koduje właściwości tego bytu, takie jak poza i orientacja, dzięki czemu przenosi znacznie bogatsze informacje przestrzenne.

Czym jest dynamiczny routing?

Dynamiczny routing oparty na zgodności to algorytm łączący kapsułki niższego poziomu z kapsułkami wyższego poziomu. Każda kapsułka niższego poziomu przewiduje wyjście kapsułek wyższych, a współczynniki sprzężenia są iteracyjnie udoskonalane, tak aby zgadzające się predykcje wzmacniały się nawzajem, zastępując krok pooling w sieci konwolucyjnej.

Ile danych i mocy obliczeniowej potrzebuję?

CapsNet potrzebuje rozsądnie dużego zbioru danych – co najmniej około 500 obserwacji – i zalecana jest karta GPU, ponieważ iteracyjny routing jest wymagający obliczeniowo. Poniżej około 200 obserwacji bardziej odpowiedni jest klasyczny klasyfikator, taki jak las losowy lub SVM.

Dlaczego używać sieci kapsułkowej zamiast CNN?

CapsNet został zaproponowany specjalnie w celu rozwiązania problemu kruchości CNN w stosunku do zmian punktu widzenia. Zachowując pozycję i relacje części-całości zamiast je agregować, może lepiej generalizować, gdy obiekty pojawiają się w nowych orientacjach.

Pokrewne metody

Źródła

  1. Sabour, S., Frosst, N. & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems (NeurIPS).

    Otwórz odnośnik do publikacji
    Skopiowano.
  2. Hinton, G. E., Sabour, S. & Frosst, N. (2018). Matrix Capsules with EM Routing. International Conference on Learning Representations (ICLR).

    Otwórz odnośnik do publikacji
    Skopiowano.