Capsule Network
- Introduite par
- Sabour, S., Frosst, N. & Hinton, G. E.
- Année
- 2017
- Type
- Deep learning architecture (vector capsules with dynamic routing)
Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais
À quoi sert-elle ?
Un réseau à capsules (CapsNet) est une architecture d'apprentissage profond introduite par Sara Sabour, Nicholas Frosst et Geoffrey Hinton en 2017, qui organise les neurones en vecteurs (capsules) plutôt qu'en activations scalaires, de sorte que la hiérarchie spatiale et les informations de pose (orientation) soient directement encodées.
Il a été proposé pour surmonter la fragilité des réseaux convolutifs aux changements de point de vue.
L’intuition derrière la méthode
Un réseau convolutif standard détecte la présence d'une caractéristique mais ignore une grande partie de sa relation spatiale précise avec d'autres caractéristiques, ce qui le rend fragile lorsqu'un objet est tourné ou vu sous un nouvel angle. Une capsule remplace un neurone scalaire unique par un petit vecteur : sa longueur signale la probabilité qu'une entité soit présente et sa direction encode les propriétés de cette entité, telles que la pose et l'orientation. Parce que les capsules portent ces informations plus riches, le réseau peut raisonner sur la manière dont les parties se rapportent aux touts, au lieu de simplement vérifier si les parties apparaissent.
Histoire
Les réseaux à capsules ont été introduits par Sara Sabour, Nicholas Frosst et Geoffrey Hinton dans l'article de NeurIPS de 2017 Dynamic Routing Between Capsules, motivés par les limitations des réseaux convolutifs dans la gestion de la variation du point de vue. En 2018, Hinton, Sabour et Frosst ont étendu l'idée à l'ICLR avec Matrix Capsules with EM Routing, remplaçant le schéma de routage original par une procédure d'espérance-maximisation sur des capsules à valeurs matricielles.
Quand l’utiliser
Adapté à la classification et à la prédiction sur des données d'image ou d'autres données continues à caractéristiques structurées où la robustesse aux changements de point de vue et de pose est importante, avec un échantillon raisonnablement grand (au moins environ 500 observations). Un GPU est recommandé et l'algorithme de routage dynamique doit être ajusté. En dessous d'environ 500 observations, le routage ne peut pas apprendre de manière fiable et le modèle surajuste ; en dessous d'environ 200, un classifieur classique tel qu'une forêt aléatoire ou une SVM est un meilleur choix.
Limites et points d’attention
- Nécessite un échantillon assez grand (environ 500+ observations) ; sur des données plus petites, le routage dynamique surajuste et apprend de manière non fiable.
- Le routage dynamique itératif est coûteux en calcul et un GPU est recommandé.
- L'algorithme de routage introduit des hyperparamètres qui doivent être ajustés, ajoutant de la complexité à l'entraînement.
Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.
Points forts
- Encode les informations de pose et de hiérarchie spatiale que le pooling convolutif ignore, améliorant la robustesse aux changements de point de vue.
- Modélise les relations explicites partie-tout par routage par accord.
- Les capsules vectorielles préservent les propriétés de l'entité (orientation, position) au lieu de les réduire à une seule activation.
Applications
- Classification d'images qui doit être robuste aux changements de point de vue, de rotation ou de pose.
- Tâches de reconnaissance où la modélisation des relations spatiales partie-tout améliore la généralisation.
- Classification et prédiction sur des entrées continues structurées avec suffisamment de données d'entraînement.
Comment ça marche
Comment ça marche
Au lieu de neurones scalaires, le réseau regroupe des unités en capsules — de courts vecteurs dont la longueur représente la probabilité qu'une entité particulière existe et dont l'orientation encode ses paramètres d'instanciation tels que la pose. Les capsules de niveau inférieur détectent les parties, tandis que les capsules de niveau supérieur représentent les touts que ces parties composent.
Un algorithme de routage dynamique par accord relie les capsules de niveau inférieur à celles de niveau supérieur. Chaque capsule de niveau inférieur fait une prédiction pour la sortie de chaque capsule de niveau supérieur via une matrice de transformation ; les coefficients de couplage sont ensuite affinés itérativement de sorte que les prédictions qui concordent se renforcent mutuellement. Ce routage doit être ajusté et remplace l'étape de pooling d'un réseau convolutif par un consensus explicite partie-tout.
Formule
\hat{u}_{j|i} = W_{ij}\,u_i,\quad s_j = \sum_i c_{ij}\,\hat{u}_{j|i}Une fonction de non-linéarisation (squashing) réduit les vecteurs courts vers zéro et les vecteurs longs vers une longueur unitaire, de sorte que la magnitude d'une capsule de sortie reste une probabilité valide tandis que sa direction préserve les propriétés de l'entité. Les longueurs des capsules de la couche finale donnent les prédictions de classe utilisées pour la classification.
Formule
v_j = \frac{\lVert s_j\rVert^2}{1+\lVert s_j\rVert^2}\,\frac{s_j}{\lVert s_j\rVert}Pièges courants
- Entraînement sur trop peu d'observations (moins d'environ 500), où le routage ne parvient pas à converger vers des couplages fiables.
- Laisser les itérations de routage dynamique et le couplage à leurs valeurs par défaut au lieu de les ajuster pour la tâche.
- Tenter d'entraîner sans accélération GPU et accepter un entraînement prohibitivement lent ou incomplet.
- Appliquer CapsNet à des entrées non structurées, autres que des images, pour lesquelles il n'a pas été conçu, au lieu d'un modèle classique.
Questions fréquentes
Quelle est la différence entre une capsule et un neurone normal ?
Un neurone normal produit une seule activation scalaire. Une capsule produit un vecteur dont la longueur représente la probabilité qu'une entité soit présente et dont l'orientation encode les propriétés de cette entité, telles que la pose et l'orientation, de sorte qu'elle transporte des informations spatiales beaucoup plus riches.
Qu'est-ce que le routage dynamique ?
Le routage dynamique par accord est l'algorithme qui relie les capsules de niveau inférieur à celles de niveau supérieur. Chaque capsule de niveau inférieur prédit la sortie des capsules de niveau supérieur, et les coefficients de couplage sont affinés itérativement de sorte que les prédictions qui concordent se renforcent mutuellement, remplaçant l'étape de pooling d'un réseau convolutif.
Quelle quantité de données et de calcul est nécessaire ?
CapsNet nécessite un ensemble de données raisonnablement grand — au moins environ 500 observations — et un GPU est recommandé car le routage itératif est coûteux en calcul. En dessous d'environ 200 observations, un classifieur classique tel qu'une forêt aléatoire ou une SVM est plus approprié.
Pourquoi utiliser un réseau à capsules au lieu d'un CNN ?
CapsNet a été proposé spécifiquement pour aborder la fragilité d'un CNN aux changements de point de vue. En préservant les relations pose et partie-tout au lieu de les ignorer par pooling, il peut mieux généraliser lorsque les objets apparaissent dans de nouvelles orientations.
Méthodes associées
Sources
Sabour, S., Frosst, N. & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems (NeurIPS).
Ouvrir la référence de la publicationCopié.Hinton, G. E., Sabour, S. & Frosst, N. (2018). Matrix Capsules with EM Routing. International Conference on Learning Representations (ICLR).
Ouvrir la référence de la publicationCopié.