Skip to content
Назад к результатам поиска

Активное обучение с самообучением

Автор метода
Multiple authors (active learning + SSL integration, 2020s)
Год
2020-2022
Тип
Hybrid learning paradigm
Семейство
Machine learning

Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском

Размер шрифта

Что он делает?

Активное обучение в сочетании с самообучением использует неразмеченные данные посредством предварительного обучения на основе самообучения для построения богатых представлений, а затем применяет стратегию активного запроса для выбора наиболее информативных примеров для аннотирования человеком, максимизируя производительность модели при ограниченном бюджете на разметку.

Этот гибридный подход особенно эффективен, когда размеченных данных мало, но существует большой пул неразмеченных данных.

Интуиция метода

Самообучение может извлекать полезные представления из необработанных, неразмеченных данных, решая предварительные задачи, такие как предсказание маскированных участков или сравнение аугментированных представлений. Как только сильный энкодер предварительно обучен таким образом, в дело вступает активное обучение: вместо разметки всего, у оракула запрашивается информация только о наиболее неопределенных или наиболее репрезентативных неразмеченных примерах. Богатое пространство вложений энкодера делает запросы на неопределенность и разнообразие гораздо более точными, чем они были бы для случайно инициализированной модели, поэтому каждый размеченный пример дает большее улучшение. Затем цикл повторяется, донастраивая энкодер с каждой новой партией меток.

История

Активное обучение имеет корни в 1990-х годах (Cohn et al., 1996), а самообучение стало заметным в 2010-х годах с контрастными методами. Их интеграция ускорилась в 2020-2022 годах по мере широкого распространения больших неразмеченных наборов данных и мощных самообучающихся энкодеров (SimCLR, MoCo, MAE). Исследователи обнаружили, что предварительное обучение на основе самообучения существенно улучшает качество вложений, на которые полагаются стратегии активных запросов, что привело к семейству комбинированных AL-SSL фреймворков, изучаемых в компьютерном зрении и NLP. Эта комбинация в настоящее время является активной областью исследований, особенно в условиях ограниченных ресурсов и ограничений на аннотирование.

Когда применять

Используйте эту комбинацию, когда у вас есть большой неразмеченный набор данных и строгий бюджет на ручное аннотирование, и когда необработанные признаки сложны (изображения, текст, аудио, высокоразмерные сигналы) настолько, что предварительное обучение на основе самообучения дает значительную ценность в представлении. Он превосходно работает в медицинской визуализации, классификации документов и дистанционном зондировании, где экспертная разметка дорога. НЕ используйте его, когда ваш размеченный набор данных уже велик и репрезентативен, когда домен данных представляет собой простые табличные данные, где предварительное обучение на основе самообучения дает небольшую выгоду, или когда вычислительный бюджет сильно ограничен — предварительное обучение на основе самообучения для больших энкодеров вычислительно интенсивно. Также избегайте его, когда неразмеченный пул мал по сравнению с размеченными данными.

Ограничения и замечания

  • Предварительное обучение на основе самообучения может быть вычислительно дорогим, особенно для больших архитектур энкодеров, таких как Vision Transformers.
  • Активное обучение вводит последовательное получение данных, что затрудняет параллелизм и продлевает общий рабочий процесс аннотирования.
  • Если домен предварительного обучения на основе самообучения и домен целевой задачи значительно расходятся, представления энкодера могут быть вводящими в заблуждение при выборе запросов.
  • Требует тщательного проектирования: функция приобретения должна быть совместима с архитектурой энкодера и пространством вложений.

Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.

Сильные стороны

  • Резко сокращает количество меток, необходимых для достижения целевой точности, по сравнению с чисто контролируемыми подходами или подходами, основанными только на активном обучении.
  • Самообучающиеся представления улучшают качество активных запросов, предоставляя осмысленные расстояния вложений и оценки неопределенности с самого начала.
  • Хорошо переносится между доменами: самообучающийся энкодер, предварительно обученный на неразмеченных данных из одного домена, может служить основой для активного обучения в связанном целевом домене.
  • Обрабатывает высокоразмерные неструктурированные данные (изображения, текст, аудио), где традиционные функции приобретения активного обучения плохо работают на необработанных признаках.
  • Две парадигмы усиливают друг друга: лучшие представления улучшают выбор запросов; лучшие размеченные данные улучшают представления.

Применение

  • Аннотирование медицинских изображений, где время рентгенолога ограничено, а существуют большие архивы неразмеченных снимков.
  • Классификация документов и текстов с ограниченными размеченными корпусами, но обильным необработанным текстом.
  • Классификация данных дистанционного зондирования и спутниковых изображений при ограничениях бюджета на аннотирование.
  • Обнаружение промышленных дефектов, где размеченные примеры дефектов редки, но изображения нормального производства многочисленны.
  • Классификация речи и аудио с большими неразмеченными аудиоархивами и дорогостоящей транскрипцией.
  • Открытие лекарств: выбор наиболее информативных молекулярных структур для лабораторных анализов.

Как это работает

Как это работает

1

Самообучающийся энкодер предварительно обучается на полном неразмеченном пуле с использованием предварительной задачи — такой как контрастное обучение (SimCLR, MoCo), маскированные автоэнкодеры (MAE) или предсказание вращения. На этом этапе человеческие метки не требуются; цель — пространство признаков, где семантически схожие примеры группируются вместе.

2

Функция приобретения активного обучения — такая как наименьшая уверенность, выборка энтропии, BADGE или выборка основного набора — оценивает каждый неразмеченный пример, используя предсказания или вложения текущего энкодера. Примеры, оцененные как наиболее информативные (неопределенные или наиболее репрезентативные для неисследованных областей), ранжируются, и выбирается пакет размером с бюджет для аннотирования.

3

Выбранный пакет представляется аннотатору-человеку (оракулу), который предоставляет истинные метки. Это единственный этап, который влечет за собой затраты на разметку, поэтому качество стратегии запроса напрямую определяет эффективность разметки.

4

Энкодер донастраивается (или обучается новая классификационная голова) на всех размеченных примерах, накопленных к настоящему моменту. Методы регуляризации, такие как линейная оценка с последующей полной донастройкой, помогают предотвратить переобучение на небольшом размеченном наборе, сохраняя при этом предварительно обученные представления.

5

Цикл запрос-метка-донастройка повторяется до тех пор, пока не будет исчерпан бюджет на разметку или не будет достигнута целевая производительность. Энкодер опционально обновляется новыми неразмеченными данными между раундами, если пул динамичен.

Частые ошибки

  • Использование общей функции приобретения (например, случайной выборки) после предварительного обучения на основе самообучения и называние этого активным обучением — стратегия запроса обеспечивает дополнительный выигрыш.
  • Оценка только финальной модели после всех раундов аннотирования, что скрывает, были ли ранние запросы действительно информативными.
  • Игнорирование сдвига распределения между неразмеченным пулом и оракулом аннотирования, что может привести к смещению выбора.
  • Забывание отслеживать стоимость разметки как основную ось сравнения — выигрыши должны измеряться как точность против бюджета аннотирования, а не только как конечная точность.
  • Применение того же расписания скорости обучения при донастройке, что и при предварительном обучении, что может разрушить предварительно обученные представления.

Часто задаваемые вопросы

Нужно ли повторно запускать самообучающееся предварительное обучение после каждого раунда активного обучения?

Не обязательно. Наиболее распространенная практика — предварительно обучить один раз на полном неразмеченном пуле, а затем постепенно донастраивать энкодер с каждой новой партией размеченных данных. Повторный полный запуск самообучающегося предварительного обучения в каждом раунде вычислительно неподъемный; некоторые работы используют легкие самообучающиеся обновления (например, онлайн-контрастное обучение) для адаптации представлений в цикле AL.

Какая функция приобретения активного обучения лучше всего работает с SSL?

Стратегии, основанные на вложениях, такие как выборка основного набора, BADGE (активное обучение пакетами на основе градиентных вложений) и выборка разнообразия на основе кластеризации, как правило, работают лучше всего, поскольку они используют осмысленную геометрию пространства вложений SSL. Простая выборка энтропии по выходным данным softmax также выигрывает от SSL, но получает меньшую выгоду по сравнению со случайной.

Чем это отличается от полуконтролируемого обучения?

Полуконтролируемое обучение пассивно использует все неразмеченные данные во время обучения. Активное обучение с SSL является интерактивным: оно стратегически выбирает, какие неразмеченные примеры представить оракулу для аннотирования, и обновляет модель только этими выбранными метками. Ключевое отличие — это последовательный цикл аннотирования с учетом бюджета.

Подходит ли табличный набор данных для этого подхода?

В целом нет. Самообучающееся предварительное обучение на табличных данных дает скромную выгоду по сравнению с изображениями или текстом, поскольку нет естественной стратегии аугментации или маскирования участков. Для табличных данных простое активное обучение с обычным контролируемым моделью (например, логистической регрессией или случайным лесом) обычно более эффективно и интерпретируемо.

Какие метрики следует сообщать?

Сообщайте точность (или F1, AUC) как функцию бюджета разметки (количество запросов оракула), а не только конечную точность. Включите базовый уровень случайной выборки и, если возможно, верхний предел полностью контролируемого обучения. Эта кривая эффективности аннотирования является основным вкладом любой оценки активного обучения.

Похожие методы

Источники

  1. Bengar, J. Z., van de Weijer, J., Fuentes, L. L., & Raducanu, B. (2022). Class-Balanced Active Learning for Image Classification. Proceedings of the IEEE/CVF Winter Conference on Applications of Computer Vision (WACV), 3082–3091.

    Открыть ссылку на публикацию
    Скопировано.
  2. Wang, K., Zhang, D., Li, Y., Zhang, R., & Lin, L. (2016). Cost-Effective Active Learning for Deep Image Classification. IEEE Transactions on Circuits and Systems for Video Technology, 27(12), 2591–2600.

    Открыть ссылку DOI
    Скопировано.