Обучение на малом числе примеров (Few-shot Learning)
- Автор метода
- Lake, B. M.; Vinyals, O.; Finn, C. et al.
- Год
- 2011–2017
- Тип
- Meta-learning / low-data learning paradigm
- Семейство
- Machine learning
Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском
Что он делает?
Обучение на малом числе примеров — это парадигма машинного обучения, которая обучает модели распознавать новые классы или решать новые задачи всего по нескольким размеченным примерам — обычно от одного до пяти — за счет использования предварительных знаний, полученных из большого, связанного распределения обучающих данных.
Это особенно актуально в областях, где разметка данных является дорогостоящей, редкой или структурно ограниченной.
Интуиция метода
Люди могут надежно идентифицировать новый вид птицы по одной фотографии, поскольку они уже обладают богатыми визуальными знаниями, накопленными за годы опыта. Обучение на малом числе примеров пытается воспроизвести эту способность вычислительно: модель сначала подвергается воздействию множества разнообразных задач, чтобы научиться быстро учиться, а затем во время инференса адаптируется к совершенно новой задаче, используя лишь крошечный набор размеченных данных поддержки. Ключевая идея заключается в том, что правильная стратегия представления и адаптации может заменить большой набор размеченных данных, требуемый стандартным обучением с учителем.
История
Обучение на малом числе примеров получило формальное внимание примерно в 2011 году, когда Lake и др. продемонстрировали обучение на уровне человека с одним примером (one-shot learning) рукописных символов с использованием иерархической байесовской модели индукции программ. Область ускорилась после 2016 года с появлением подходов к глубокому обучению на основе метрик — Matching Networks от Vinyals и др. и Prototypical Networks от Snell и др. — за которыми последовал model-agnostic meta-learning (MAML) от Finn и др. в 2017 году, который объединил парадигму в рамках быстрой адаптации на основе градиентов. С тех пор большие предварительно обученные модели сделали обучение на малом числе примеров стандартной возможностью в современных системах обработки естественного языка и компьютерного зрения.
Когда применять
Используйте обучение на малом числе примеров, когда размеченных данных для целевой задачи действительно мало — менее примерно 10–20 примеров на класс — но имеется большой связанный набор данных для предварительного обучения или мета-обучения. Типичные случаи использования включают классификацию редких заболеваний, распознавание исчезающих видов, задачи обработки естественного языка с низким уровнем ресурсов и персонализированные рекомендации для новых пользователей (cold-start users). Не используйте его как замену сбора большего количества размеченных данных, когда разметка возможна; при достаточном количестве меток полностью контролируемое обучение или дообучение (fine-tuning) с переносом знаний почти всегда превзойдет методы обучения на малом числе примеров. Также избегайте его, если распределение мета-обучения сильно отличается от целевого домена, поскольку это делает недействительным изученный априорный опыт.
Ограничения и замечания
- Требует большого, разнообразного набора данных для мета-обучения; производительность резко падает, когда распределения мета-обучения и целевого домена значительно расходятся.
- Методы на основе оптимизации (например, MAML) вычислительно затратны во время мета-обучения из-за градиентов второго порядка.
- Эталонная точность на стандартных наборах данных (miniImageNet, Omniglot) может завышать реальную производительность, если тестовый домен отличается.
- Выбор правильной архитектуры, базовой модели вложения и стратегии выборки эпизодов включает нетривиальные решения по гиперпараметрам.
- При наличии более чем примерно 20 размеченных примеров на класс стандартный перенос знаний или дообучение обычно обеспечивают лучшую точность при меньшей сложности.
Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.
Сильные стороны
- Позволяет практическое обучение на одном-пяти размеченных примерах на класс, значительно снижая затраты на аннотацию.
- Эпизодическое обучение явно подготавливает модель к сценарию развертывания с малым количеством данных, с которым она столкнется.
- Варианты на основе метрик (Prototypical Networks, Matching Networks) вычислительно легки при инференсе — шаги градиентного спуска не требуются.
- Широко применимо для задач обработки изображений, естественного языка, аудио и структурированных данных.
- Естественным образом интегрируется с большими предварительно обученными моделями, позволяя использовать мощные априорные знания без полного дообучения.
Применение
- Классификация редких заболеваний или аномалий в медицинской визуализации, где аннотированные случаи по своей природе редки.
- Задачи обработки естественного языка с низким уровнем ресурсов, такие как обнаружение намерений на новых языках или в новых доменах.
- Персонализация для новых пользователей (cold-start) в рекомендательных системах, когда у нового пользователя очень мало взаимодействий.
- Распознавание исчезающих видов или тонкозернистых видов в экологии и мониторинге биоразнообразия.
- Промышленное обнаружение дефектов, когда для обучения доступно лишь несколько дефектных образцов.
- Быстрое прототипирование новых задач классификации в робототехнике и интерактивном машинном обучении.
Как это работает
Как это работает
Обучение организовано в виде эпизодов, каждый из которых имитирует сценарий обучения на малом числе примеров. В каждом эпизоде небольшой набор классов выбирается из пула обучающих данных, и модель должна научиться их различать. Такое эпизодическое обучение гарантирует, что предварительные знания модели структурированы для быстрой адаптации, а не для механического запоминания конкретных классов.
Каждый эпизод делит свои примеры на набор поддержки (несколько размеченных примеров, которые модель может использовать) и набор запросов (неиспользуемые примеры, используемые для измерения обобщающей способности модели). Задача k-shot, n-way предоставляет k размеченных примеров для каждого из n новых классов. Эта структура отражает сценарий развертывания во время обучения.
Модель изучает функцию вложения (embedding function) — как правило, глубокую нейронную сеть — которая отображает входные данные в пространство признаков, где примеры одного класса группируются вместе, а примеры разных классов разделяются. Качество этого общего представления является основным фактором, определяющим точность последующего обучения на малом числе примеров.
Во время тестирования модель либо вычисляет сходство между вложениями запросов и вложениями поддержки (методы на основе метрик, такие как Matching Networks или Prototypical Networks), либо выполняет небольшое количество шагов градиентного спуска для адаптации своих параметров к набору поддержки (методы на основе оптимизации, такие как MAML). Обе стратегии используют изученное представление без переобучения с нуля.
Функция потерь на наборе запросов используется для обновления параметров мета-обучателя (meta-learner) между эпизодами, так что представление и стратегия адаптации улучшаются глобально. При развертывании финальная модель адаптируется к любому новому набору поддержки за секунды, делая предсказания на невиданных ранее примерах запросов без дальнейшей оптимизации.
Частые ошибки
- Смешение обучения на малом числе примеров с обучением без примеров (zero-shot learning): обучение на малом числе примеров требует хотя бы одного размеченного примера для каждого нового класса во время тестирования.
- Оценка на тестовых классах, виденных во время мета-обучения, завышает сообщаемую точность.
- Игнорирование разрыва доменов: модель, мета-обученная на ImageNet, не будет автоматически обобщаться на медицинскую гистологию без адаптации домена.
- Использование стандартной функции потерь с учителем без эпизодического обучения и ожидание обобщения на малом числе примеров.
- Сообщение только о точности top-1 без доверительных интервалов по нескольким выборкам эпизодов, что маскирует вариативность результатов обучения на малом числе примеров.
Часто задаваемые вопросы
В чем разница между обучением на малом числе примеров и переносом знаний?
Перенос знаний дообучает предварительно обученную модель для новой задачи и обычно выигрывает от десятков до тысяч размеченных примеров. Обучение на малом числе примеров специально разработано для адаптации всего по одному-пяти примерам на класс, используя эпизодическое мета-обучение, чтобы модель научилась быстро обобщать, а не подгоняться под конкретный домен.
Что означает k-shot n-way?
Это описывает структуру эпизода: n-way означает, что одновременно представлены n новых классов, а k-shot означает, что для каждого класса предоставляется k размеченных примеров. Задача 5-way 1-shot просит модель классифицировать изображения запросов по одной из пяти категорий, имея только один размеченный пример для каждой.
Нужен ли мне GPU для запуска обучения на малом числе примеров?
Мета-обучение — особенно методы на основе оптимизации, такие как MAML — требует значительных вычислительных ресурсов и обычно выполняется на GPU. Однако инференс на основе метрик (сравнение вложений запросов с прототипами поддержки) дешев и может выполняться на CPU в производственной среде после предварительного обучения базовой модели.
Сколько задач мета-обучения мне нужно?
Это зависит от разнообразия, а не от абсолютного количества. Несколько тысяч эпизодически выбранных задач из разнообразного пула классов являются распространенной базовой линией. Важнее всего то, чтобы классы мета-обучения были достаточно многочисленны и разнообразны для обобщения на невиданные ранее целевые классы.
Является ли обучение на малом числе примеров тем же, что и обучение без примеров (zero-shot learning)?
Нет. Обучение без примеров не требует размеченных примеров новых классов во время тестирования, полагаясь полностью на семантические описатели классов или атрибуты. Обучение на малом числе примеров всегда предоставляет по крайней мере один размеченный пример для каждого нового класса в наборе поддержки.
Похожие методы
Источники
Vinyals, O., Blundell, C., Lillicrap, T., Wierstra, D., & Kavukcuoglu, K. (2016). Matching Networks for One Shot Learning. Advances in Neural Information Processing Systems (NeurIPS), 29.
Открыть ссылку на публикациюСкопировано.Finn, C., Abbeel, P., & Levine, S. (2017). Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks. Proceedings of the 34th International Conference on Machine Learning (ICML), PMLR 70:1126–1135.
Открыть ссылку на публикациюСкопировано.