Capsule Network
- Introdotto da
- Sabour, S., Frosst, N. & Hinton, G. E.
- Anno
- 2017
- Tipo
- Deep learning architecture (vector capsules with dynamic routing)
Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese
A cosa serve?
Una Capsule Network (CapsNet) è un'architettura di deep learning introdotta da Sara Sabour, Nicholas Frosst e Geoffrey Hinton nel 2017 che organizza i neuroni come vettori (capsule) anziché attivazioni scalari, in modo che la gerarchia spaziale e le informazioni sulla posa (orientamento) siano codificate direttamente.
È stata proposta per superare la fragilità delle reti convoluzionali ai cambiamenti di punto di vista.
L’intuizione alla base del metodo
Una rete convoluzionale standard rileva la presenza di una caratteristica ma scarta gran parte della sua precisa relazione spaziale con altre caratteristiche, il che la rende fragile quando un oggetto viene ruotato o visto da una nuova angolazione. Una capsula sostituisce un singolo neurone scalare con un piccolo vettore: la sua lunghezza segnala la probabilità che un'entità sia presente e la sua direzione codifica le proprietà di tale entità, come la posa e l'orientamento. Poiché le capsule trasportano queste informazioni più ricche, la rete può ragionare su come le parti si relazionano ai tutto anziché semplicemente sulla loro presenza.
Storia
Le Capsule Networks sono state introdotte da Sara Sabour, Nicholas Frosst e Geoffrey Hinton nel paper NeurIPS del 2017 Dynamic Routing Between Capsules, motivate dai limiti delle reti convoluzionali nella gestione della variazione del punto di vista. Nel 2018 Hinton, Sabour e Frosst hanno esteso l'idea all'ICLR con Matrix Capsules with EM Routing, sostituendo lo schema di routing originale con una procedura di expectation-maximisation su capsule a valori matriciali.
Quando usarlo
Adatto per la classificazione e la predizione su dati di immagini o altrimenti strutturati con caratteristiche continue, dove la robustezza ai cambiamenti di punto di vista e posa è importante, con un campione ragionevolmente ampio (almeno circa 500 osservazioni). Si raccomanda una GPU e l'algoritmo di routing dinamico deve essere ottimizzato. Sotto le 500 osservazioni, il routing non può apprendere in modo affidabile e il modello va in overfitting; sotto le 200 circa, un classificatore classico come random forest o un SVM è la scelta migliore.
Limiti e considerazioni
- Richiede un campione abbastanza ampio (circa 500+); su dati più piccoli il routing dinamico va in overfitting e apprende in modo inaffidabile.
- Il routing dinamico iterativo è computazionalmente oneroso e si raccomanda una GPU.
- L'algoritmo di routing introduce iperparametri che devono essere ottimizzati, aumentando la complessità dell'addestramento.
Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.
Punti di forza
- Codifica informazioni sulla posa e sulla gerarchia spaziale che il pooling convoluzionale scarta, migliorando la robustezza ai cambiamenti di punto di vista.
- Modella esplicite relazioni parte-tutto attraverso il routing basato sull'accordo.
- Le capsule vettoriali preservano le proprietà dell'entità (orientamento, posizione) anziché collassarle in una singola attivazione.
Applicazioni
- Classificazione di immagini che deve essere robusta ai cambiamenti di punto di vista, rotazione o posa.
- Compiti di riconoscimento in cui la modellazione delle relazioni spaziali parte-tutto migliora la generalizzazione.
- Classificazione e predizione su input con caratteristiche continue strutturate con dati di addestramento sufficienti.
Come funziona
Come funziona
Invece di neuroni scalari, la rete raggruppa le unità in capsule — brevi vettori la cui lunghezza rappresenta la probabilità che una particolare entità esista e il cui orientamento codifica i suoi parametri di istanziazione come la posa. Le capsule di livello inferiore rilevano le parti, mentre le capsule di livello superiore rappresentano i tutto che tali parti compongono.
Un algoritmo di routing dinamico basato sull'accordo collega le capsule di livello inferiore a quelle di livello superiore. Ogni capsula di livello inferiore effettua una previsione per l'output di ogni capsula di livello superiore tramite una matrice di trasformazione; i coefficienti di accoppiamento vengono quindi raffinati iterativamente in modo che le previsioni che concordano si rafforzino a vicenda. Questo routing deve essere ottimizzato e sostituisce il passaggio di pooling di una rete convoluzionale con un esplicito consenso parte-tutto.
Formula
\hat{u}_{j|i} = W_{ij}\,u_i,\quad s_j = \sum_i c_{ij}\,\hat{u}_{j|i}Una funzione di squashing non lineare riduce i vettori corti verso zero e i vettori lunghi verso la lunghezza unitaria, in modo che la magnitudine di una capsula di output rimanga una probabilità valida mentre la sua direzione preserva le proprietà dell'entità. Le lunghezze delle capsule dello strato finale forniscono le previsioni di classe utilizzate per la classificazione.
Formula
v_j = \frac{\lVert s_j\rVert^2}{1+\lVert s_j\rVert^2}\,\frac{s_j}{\lVert s_j\rVert}Errori comuni
- Addestramento su un numero insufficiente di osservazioni (sotto ~500), dove il routing non può convergere a accoppiamenti affidabili.
- Lasciare le iterazioni di routing dinamico e l'accoppiamento ai valori predefiniti invece di ottimizzarli per il compito.
- Tentare di addestrare senza accelerazione GPU e accettare un addestramento proibitivamente lento o incompleto.
- Applicare CapsNet a input non di immagine, non strutturati per i quali non è stata progettata, invece di un modello classico.
Domande frequenti
In che modo una capsula è diversa da un normale neurone?
Un normale neurone produce una singola attivazione scalare. Una capsula produce un vettore la cui lunghezza rappresenta la probabilità che un'entità sia presente e il cui orientamento codifica le proprietà di tale entità, come la posa e l'orientamento, quindi trasporta informazioni spaziali molto più ricche.
Cos'è il routing dinamico?
Il routing dinamico basato sull'accordo è l'algoritmo che collega le capsule di livello inferiore a quelle di livello superiore. Ogni capsula di livello inferiore prevede l'output delle capsule di livello superiore e i coefficienti di accoppiamento vengono raffinati iterativamente in modo che le previsioni che concordano si rafforzino a vicenda, sostituendo il passaggio di pooling di una rete convoluzionale.
Quanti dati e quanto calcolo sono necessari?
CapsNet necessita di un set di dati ragionevolmente ampio - almeno circa 500 osservazioni - e si raccomanda una GPU poiché il routing iterativo è computazionalmente oneroso. Sotto le 200 osservazioni circa, un classificatore classico come random forest o un SVM è più appropriato.
Perché usare una capsule network invece di una CNN?
CapsNet è stata proposta specificamente per affrontare la fragilità di una CNN ai cambiamenti di punto di vista. Preservando la posa e le relazioni parte-tutto anziché eliminarle con il pooling, può generalizzare meglio quando gli oggetti appaiono in nuove orientazioni.
Metodi correlati
Fonti
Sabour, S., Frosst, N. & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems (NeurIPS).
Apri il riferimento della pubblicazioneCopiato.Hinton, G. E., Sabour, S. & Frosst, N. (2018). Matrix Capsules with EM Routing. International Conference on Learning Representations (ICLR).
Apri il riferimento della pubblicazioneCopiato.