Skip to content
Назад к результатам поиска

Активное обучение с голосованием ансамбля

Автор метода
Seung, H. S., Opper, M., & Sompolinsky, H.
Год
1992
Тип
Active learning with ensemble voting
Семейство
Machine learning

Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском

Размер шрифта

Что он делает?

Активное обучение с голосованием ансамбля — формально известное как Query by Committee — является стратегией активного обучения, которая обучает комитет из разнообразных моделей и выбирает неразмеченные примеры, по которым члены комитета наиболее расходятся во мнениях, для аннотирования человеком.

Фокусируя усилия по разметке на наиболее информативных точках, оно достигает высокой точности при гораздо меньшем количестве размеченных примеров, чем требует пассивное обучение.

Интуиция метода

Представьте, что вы просите пять экспертов классифицировать неразмеченный образец. Если четверо согласны, а один возражает, ответ, вероятно, ясен — нет необходимости платить за метку. Но если они разделятся три к двум, этот образец находится прямо на границе принятия решений, где его разметка научит все модели больше всего. Активное обучение с голосованием ансамбля делает эту интуицию точной: создайте комитет моделей, позвольте им голосовать и платите за метки только тогда, когда голосование близко. Результатом является высокоэффективный цикл обучения, который максимально использует небольшой бюджет аннотирования.

История

Фреймворк Query by Committee (QBC) был представлен Seung, Opper и Sompolinsky на COLT 1992 как принципиальный подход к активному обучению с комитетами версионных пространств. Это был один из первых теоретических подходов к использованию расхождений ансамбля для управления сбором данных, и он остается каноническим источником для активного обучения на основе комитетов. Более широкая литература по активному обучению была консолидирована в широко цитируемом техническом обзоре Burr Settles 2009 года, который систематизировал сценарии на основе пула, потоковые и сценарии запроса членства и установил QBC как краеугольную стратегию наряду с выборкой неопределенности.

Когда применять

Используйте активное обучение с голосованием ансамбля, когда разметка дорога или занимает много времени — клиническая аннотация, тегирование юридических документов, специализированный обзор изображений — и имеется большой пул неразмеченных данных наряду с небольшим начальным размеченным набором. Он хорошо работает для задач классификации, где расхождение комитета является значимым сигналом, и когда можно использовать по крайней мере 3–5 разнообразных моделей. Избегайте его, когда метки дешевы и обильны (тогда пассивное обучение на полном наборе данных будет столь же или более эффективным), когда пул неразмеченных данных очень мал, когда онлайн-аннотирование в реальном времени невозможно, или когда требуется одна интерпретируемая модель, а не ансамбль.

Ограничения и замечания

  • Требует цикла аннотирования, что усложняет инфраструктуру: менеджер пула, интерфейс оракула и конвейер переобучения.
  • Производительность сильно зависит от разнообразия комитета; однородный комитет дает неинформативное расхождение.
  • Активное обучение на основе пула предполагает, что весь неразмеченный пул помещается в память; очень большие пулы требуют аппроксимаций.
  • Сходимость не гарантируется, если оракул допускает систематические ошибки разметки.

Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.

Сильные стороны

  • Резко сокращает количество размеченных примеров, необходимых для достижения целевой точности, по сравнению со случайной выборкой.
  • Голосование ансамбля обеспечивает двойное преимущество: снижение дисперсии предсказаний во время инференса.
  • Модельно-независимый: любая совокупность разнообразных классификаторов может сформировать комитет.
  • Показатель расхождения обеспечивает встроенный сигнал неопределенности, за которым легко следить и визуализировать.
  • Теоретически обоснован в рамках Query by Committee, представленной в 1992 году.

Применение

  • Аннотирование медицинских изображений, где эксперты-радиологи редки, а разметка дорога.
  • Распознавание именованных сущностей и классификация текстов с ограниченными аннотированными корпусами.
  • Анализ тональности с использованием специфической для предметной области терминологии, требующей экспертного рассмотрения.
  • Открытие лекарств и предсказание свойств молекул с дорогостоящей лабораторной проверкой.
  • Классификация спутниковых изображений, где только часть плиток может быть рассмотрена вручную.

Как это работает

Как это работает

1

Комитет из k разнообразных базовых моделей (голосовой ансамбль) инициализируется на небольшом начальном наборе размеченных примеров. Разнообразие — ключ к успеху: модели могут отличаться архитектурой, гиперпараметрами или подмножеством обучения, чтобы их расхождения были информативными, а не случайными.

2

Для каждого неразмеченного кандидата x в пуле U измеряется расхождение D(C, x) среди комитета — распространенные метрики включают энтропию голосов (насколько распределены голоса) или KL-дивергенцию между предсказаниями. Выбирается образец с наивысшим показателем расхождения: x* = argmax D(C, x).

Формула
x^* = \arg\max_{x \in U} D(C, x)
3

Выбранный неразмеченный пример передается человеческому оракулу (экспертному аннотатору, краудсорсинговой платформе или автоматическому разметчику) для получения истинной метки. Это единственный шаг, который влечет за собой затраты на аннотирование.

4

Новоразмеченный пример добавляется в обучающий набор, и все члены комитета переобучаются (или обновляются инкрементально). Цикл возвращается к шагу запроса до тех пор, пока не будет исчерпан бюджет аннотирования или не достигнут порог производительности.

5

Во время инференса обученный комитет выдает большинство голосов среди всех k членов: предсказанный класс — это мода индивидуальных предсказаний h_1(x) до h_k(x), объединяющая как прирост эффективности активного обучения, так и снижение дисперсии ансамбля.

Формула
\hat{y} = \text{mode}(h_1(x), h_2(x), \ldots, h_k(x))

Частые ошибки

  • Использование идентичных или почти идентичных членов комитета — разнообразие является движущей силой метода, и без него расхождение сводится на нет.
  • Переобучение с нуля после каждого отдельного запроса; пакетный режим запросов (выбор b примеров за раунд) гораздо более практичен.
  • Забывание оценить на фиксированном отложенном тестовом наборе на протяжении всего цикла — измерение только на растущем обучающем наборе скрывает переобучение.
  • Рассмотрение показателя расхождения как меры уверенности при инференсе без надлежащей калибровки.
  • Игнорирование компромисса между информативностью и репрезентативностью: очень неопределенные образцы вблизи границы могут быть выбросами, а не типичными примерами.

Часто задаваемые вопросы

Сколько членов комитета следует использовать?

От трех до десяти разнообразных моделей — это распространенный практический диапазон. Меньшее количество членов дает более шумные оценки расхождений; большее количество членов увеличивает вычислительные затраты. Эмпирически пять разнообразных классификаторов часто обеспечивают хороший баланс между стабильностью и эффективностью.

Как измерить расхождение в комитете?

Энтропия голосов — наиболее распространенная мера: H = -sum_c p(c) log p(c), где p(c) — доля членов комитета, предсказывающих класс c. Для вероятностных моделей альтернативой является средняя KL-дивергенция от среднего предсказания. Более высокие значения указывают на более информативные образцы.

Можно ли использовать это с моделями глубокого обучения?

Да. Глубокие ансамбли или аппроксимации MC-dropout могут служить комитетом. Основная проблема — стоимость переобучения — стратегии, такие как дообучение общего базового слоя с разнообразными головами, значительно снижают ее.

Что, если мой бюджет на аннотирование очень ограничен — скажем, менее 20 меток?

При очень малом количестве меток случайная выборка или стратифицированный выбор начальных данных часто дает сопоставимые результаты с QBC, поскольку все методы начинаются почти с одинаковой базовой линии с недостатком информации. Преимущество QBC становится более явным, когда начальный набор содержит по крайней мере 20–50 примеров на класс.

Работает ли активное обучение с голосованием ансамбля для регрессии?

Да, при измерении расхождения как дисперсии или стандартного отклонения предсказаний комитета, а не энтропии голосов. Применяется тот же цикл запроса-переобучения; конечным результатом является среднее значение предсказаний комитета.

Похожие методы

Источники

  1. Seung, H. S., Opper, M., & Sompolinsky, H. (1992). Query by committee. In Proceedings of the Fifth Annual Workshop on Computational Learning Theory (COLT '92), pp. 287–294. ACM.

    Открыть ссылку DOI
    Скопировано.
  2. Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    Открыть ссылку на публикацию
    Скопировано.