Skip to content
Назад к результатам поиска

Капсульная сеть

Автор метода
Sabour, S., Frosst, N. & Hinton, G. E.
Год
2017
Тип
Deep learning architecture (vector capsules with dynamic routing)

Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском

Размер шрифта

Что он делает?

Капсульная сеть (CapsNet) — это архитектура глубокого обучения, представленная Сарой Сабур, Николасом Фростом и Джеффри Хинтоном в 2017 году, которая организует нейроны как векторы (капсулы), а не скалярные активации, так что пространственная иерархия и информация о позе (ориентации) кодируются напрямую.

Она была предложена для преодоления хрупкости сверточных сетей к изменениям точки обзора.

Интуиция метода

Стандартная сверточная сеть определяет наличие признака, но отбрасывает большую часть его точных пространственных отношений с другими признаками, что делает ее хрупкой при повороте объекта или просмотре под новым углом. Капсула заменяет один скалярный нейрон небольшим вектором: его длина сигнализирует о вероятности присутствия сущности, а его направление кодирует свойства этой сущности, такие как поза и ориентация. Поскольку капсулы несут эту более богатую информацию, сеть может рассуждать о том, как части соотносятся с целым, а не просто о том, появляются ли части.

История

Капсульные сети были представлены Сарой Сабур, Николасом Фростом и Джеффри Хинтоном в статье NeurIPS 2017 года «Dynamic Routing Between Capsules», мотивированной ограничениями сверточных сетей в обработке вариаций точки обзора. В 2018 году Хинтон, Сабур и Фрост развили эту идею в ICLR с помощью «Matrix Capsules with EM Routing», заменив исходную схему маршрутизации процедурой ожидания-максимизации для матричнозначных капсул.

Когда применять

Подходит для классификации и прогнозирования на основе изображений или других структурированных данных с непрерывными признаками, где важна устойчивость к изменениям точки обзора и позы, при наличии достаточно большого объема данных (не менее примерно 500 наблюдений). Рекомендуется использовать GPU, и алгоритм динамической маршрутизации должен быть настроен. При объеме данных менее 500 наблюдений маршрутизация не может надежно обучаться, и модель переобучается; при объеме менее примерно 200 наблюдений лучшим выбором будет классический классификатор, такой как случайный лес или SVM.

Ограничения и замечания

  • Требует довольно большого объема данных (около 500+); на меньших данных динамическая маршрутизация приводит к переобучению и ненадежному обучению.
  • Итеративная динамическая маршрутизация вычислительно затратна, и рекомендуется использовать GPU.
  • Алгоритм маршрутизации вводит гиперпараметры, которые должны быть настроены, что увеличивает сложность обучения.

Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.

Сильные стороны

  • Кодирует информацию о позе и пространственной иерархии, которую теряет сверточный пулинг, улучшая устойчивость к изменениям точки обзора.
  • Моделирует явные отношения «часть-целое» посредством маршрутизации по согласованию.
  • Векторные капсулы сохраняют свойства сущности (ориентацию, положение), а не сводят их к одной активации.

Применение

  • Классификация изображений, которая должна быть устойчива к изменениям точки обзора, вращения или позы.
  • Задачи распознавания, где моделирование пространственных отношений «часть-целое» улучшает обобщение.
  • Классификация и прогнозирование на структурированных входных данных с непрерывными признаками при наличии достаточного объема обучающих данных.

Как это работает

Как это работает

1

Вместо скалярных нейронов сеть группирует единицы в капсулы — короткие векторы, длина которых представляет вероятность существования определенной сущности, а ориентация кодирует ее параметры инстанцирования, такие как поза. Капсулы нижнего уровня обнаруживают части, а капсулы более высокого уровня представляют целые, которые эти части составляют.

2

Алгоритм динамической маршрутизации по согласованию соединяет капсулы нижнего уровня с капсулами более высокого уровня. Каждая нижняя капсула делает предсказание для выхода каждой верхней капсулы через матрицу преобразования; затем коэффициенты связи итеративно уточняются так, чтобы совпадающие предсказания усиливали друг друга. Эта маршрутизация должна быть настроена и заменяет шаг пулинга сверточной сети явным консенсусом «часть-целое».

Формула
\hat{u}_{j|i} = W_{ij}\,u_i,\quad s_j = \sum_i c_{ij}\,\hat{u}_{j|i}
3

Нелинейная функция сжатия (squashing) сжимает короткие векторы к нулю, а длинные векторы — к единичной длине, так что величина выходной капсулы остается допустимой вероятностью, а ее направление сохраняет свойства сущности. Длины капсул финального слоя дают предсказания классов, используемые для классификации.

Формула
v_j = \frac{\lVert s_j\rVert^2}{1+\lVert s_j\rVert^2}\,\frac{s_j}{\lVert s_j\rVert}

Частые ошибки

  • Обучение на слишком малом количестве наблюдений (менее ~500), когда маршрутизация не может сойтись к надежным связям.
  • Оставление итераций динамической маршрутизации и связей по умолчанию вместо их настройки для конкретной задачи.
  • Попытка обучения без ускорения GPU и принятие непомерно медленного или неполного обучения.
  • Применение CapsNet к неизображенным, неструктурированным входным данным, для которых она не предназначена, вместо классической модели.

Часто задаваемые вопросы

Чем капсула отличается от обычного нейрона?

Обычный нейрон выдает одну скалярную активацию. Капсула выдает вектор, длина которого представляет вероятность присутствия сущности, а ориентация кодирует ее свойства, такие как поза и ориентация, поэтому он несет гораздо более богатую пространственную информацию.

Что такое динамическая маршрутизация?

Динамическая маршрутизация по согласованию — это алгоритм, который соединяет капсулы нижнего уровня с капсулами более высокого уровня. Каждая нижняя капсула предсказывает выход верхних капсул, а коэффициенты связи итеративно уточняются так, чтобы совпадающие предсказания усиливали друг друга, заменяя шаг пулинга сверточной сети.

Сколько данных и вычислительных ресурсов мне нужно?

CapsNet требует относительно большого набора данных — не менее 500 наблюдений — и рекомендуется использовать GPU, поскольку итеративная маршрутизация вычислительно затратна. При объеме данных менее примерно 200 наблюдений более подходящим будет классический классификатор, такой как случайный лес или SVM.

Зачем использовать капсульную сеть вместо CNN?

CapsNet была предложена специально для решения проблемы хрупкости CNN к изменениям точки обзора. Сохраняя информацию о позе и отношениях «часть-целое» вместо их потери при пулинге, она может лучше обобщаться, когда объекты появляются в новых ориентациях.

Похожие методы

Источники

  1. Sabour, S., Frosst, N. & Hinton, G. E. (2017). Dynamic Routing Between Capsules. Advances in Neural Information Processing Systems (NeurIPS).

    Открыть ссылку на публикацию
    Скопировано.
  2. Hinton, G. E., Sabour, S. & Frosst, N. (2018). Matrix Capsules with EM Routing. International Conference on Learning Representations (ICLR).

    Открыть ссылку на публикацию
    Скопировано.