Capsule Network
- Proposto por
- Sabour, S., Frosst, N. & Hinton, G. E.
- Ano
- 2017
- Tipo
- Deep learning architecture (vector capsules with dynamic routing)
Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês
O que ele faz?
Uma Capsule Network (CapsNet) é uma arquitetura de aprendizado profundo introduzida por Sara Sabour, Nicholas Frosst e Geoffrey Hinton em 2017, que organiza neurônios como vetores (cápsulas) em vez de ativações escalares, de modo que a hierarquia espacial e a informação de pose (orientação) sejam codificadas diretamente.
Foi proposta para superar a fragilidade das redes convolucionais a mudanças de ponto de vista.
A intuição por trás do método
Uma rede convolucional padrão detecta se uma característica está presente, mas descarta grande parte de sua relação espacial precisa com outras características, o que a torna frágil quando um objeto é rotacionado ou visto de um novo ângulo. Uma cápsula substitui um único neurônio escalar por um pequeno vetor: seu comprimento sinaliza a probabilidade de uma entidade estar presente e sua direção codifica as propriedades dessa entidade, como pose e orientação. Como as cápsulas carregam essa informação mais rica, a rede pode raciocinar sobre como as partes se relacionam com o todo, em vez de apenas se as partes aparecem.
História
Capsule Networks foram introduzidas por Sara Sabour, Nicholas Frosst e Geoffrey Hinton no artigo da NeurIPS de 2017 Dynamic Routing Between Capsules, motivadas pelas limitações das redes convolucionais no manuseio da variação de ponto de vista. Em 2018, Hinton, Sabour e Frosst estenderam a ideia na ICLR com Matrix Capsules with EM Routing, substituindo o esquema de roteamento original por um procedimento de maximização de expectativa sobre cápsulas de valor matricial.
Quando usar
Adequada para classificação e previsão em dados de imagem ou outros dados contínuos estruturados onde a robustez a mudanças de ponto de vista e pose é importante, com uma amostra razoavelmente grande (pelo menos cerca de 500 observações). Uma GPU é recomendada e o algoritmo de roteamento dinâmico deve ser ajustado. Abaixo de cerca de 500 observações, o roteamento não consegue aprender de forma confiável e o modelo sofre overfitting; abaixo de aproximadamente 200, um classificador clássico como random forest ou SVM é a melhor escolha.
Limitações e considerações
- Requer uma amostra bastante grande (cerca de 500+); em dados menores, o roteamento dinâmico sofre overfitting e aprende de forma não confiável.
- O roteamento dinâmico iterativo é computacionalmente exigente e uma GPU é recomendada.
- O algoritmo de roteamento introduz hiperparâmetros que devem ser ajustados, adicionando complexidade ao treinamento.
As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.
Pontos fortes
- Codifica informações de pose e hierarquia espacial que o pooling convolucional descarta, melhorando a robustez a mudanças de ponto de vista.
- Modela relações explícitas de parte para todo através do roteamento por acordo.
- Cápsulas vetoriais preservam propriedades da entidade (orientação, posição) em vez de colapsá-las para uma única ativação.
Aplicações
- Classificação de imagens que deve ser robusta a mudanças de ponto de vista, rotação ou pose.
- Tarefas de reconhecimento onde a modelagem de relações espaciais de parte para todo melhora a generalização.
- Classificação e previsão em entradas contínuas estruturadas com dados de treinamento suficientes.
Como funciona
Como funciona
Em vez de neurônios escalares, a rede agrupa unidades em cápsulas — vetores curtos cujo comprimento representa a probabilidade de uma entidade particular existir e cuja orientação codifica seus parâmetros de instanciação, como pose. Cápsulas de nível inferior detectam partes, enquanto cápsulas de nível superior representam os todo que essas partes compõem.
Um algoritmo de roteamento dinâmico por acordo conecta cápsulas de nível inferior a cápsulas de nível superior. Cada cápsula de nível inferior faz uma previsão para a saída de cada cápsula de nível superior por meio de uma matriz de transformação; os coeficientes de acoplamento são então refinados iterativamente para que as previsões que concordam se reforcem mutuamente. Esse roteamento deve ser ajustado e substitui a etapa de pooling de uma rede convolucional por um consenso explícito de parte para todo.
Fórmula
\hat{u}_{j|i} = W_{ij}\,u_i,\quad s_j = \sum_i c_{ij}\,\hat{u}_{j|i}Uma função de achatamento (squashing) não linear encolhe vetores curtos em direção a zero e vetores longos em direção ao comprimento unitário, de modo que a magnitude de uma cápsula de saída permaneça uma probabilidade válida, enquanto sua direção preserva as propriedades da entidade. Os comprimentos das cápsulas da camada final fornecem as previsões de classe usadas para classificação.
Fórmula
v_j = \frac{\lVert s_j\rVert^2}{1+\lVert s_j\rVert^2}\,\frac{s_j}{\lVert s_j\rVert}Erros comuns
- Treinamento com poucas observações (abaixo de ~500), onde o roteamento não consegue convergir para acoplamentos confiáveis.
- Deixar as iterações de roteamento dinâmico e o acoplamento em seus padrões em vez de ajustá-los para a tarefa.
- Tentar treinar sem aceleração de GPU e aceitar um treinamento proibitivamente lento ou incompleto.
- Aplicar CapsNet a entradas não de imagem, não estruturadas para as quais não foi projetada, em vez de um modelo clássico.
Perguntas frequentes
Como uma cápsula difere de um neurônio normal?
Um neurônio normal produz uma única ativação escalar. Uma cápsula produz um vetor cujo comprimento representa a probabilidade de uma entidade estar presente e cuja direção codifica as propriedades dessa entidade, como pose e orientação, de modo que carrega informações espaciais muito mais ricas.
O que é roteamento dinâmico?
Roteamento dinâmico por acordo é o algoritmo que conecta cápsulas de nível inferior a cápsulas de nível superior. Cada cápsula de nível inferior prevê a saída das cápsulas de nível superior, e os coeficientes de acoplamento são refinados iterativamente para que as previsões que concordam se reforcem mutuamente, substituindo a etapa de pooling de uma rede convolucional.
Quanta quantidade de dados e computação eu preciso?
CapsNet necessita de um conjunto de dados razoavelmente grande — pelo menos cerca de 500 observações — e uma GPU é recomendada porque o roteamento iterativo é computacionalmente exigente. Abaixo de aproximadamente 200 observações, um classificador clássico como random forest ou SVM é mais apropriado.
Por que usar uma Capsule Network em vez de uma CNN?
CapsNet foi proposta especificamente para abordar a fragilidade de uma CNN a mudanças de ponto de vista. Ao preservar pose e relações de parte para todo em vez de agregá-las (pooling), ela pode generalizar melhor quando os objetos aparecem em novas orientações.
Métodos relacionados
Fontes
Sabour, S., Frosst, N. & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems (NeurIPS).
Abrir referência da publicaçãoCopiado.Hinton, G. E., Sabour, S. & Frosst, N. (2018). Matrix Capsules with EM Routing. International Conference on Learning Representations (ICLR).
Abrir referência da publicaçãoCopiado.