Градиентный бустинг с активным обучением
- Автор метода
- Settles, B. (active learning); Friedman, J. H. (gradient boosting); combined framework developed by the research community
- Год
- 2000s–2010s
- Тип
- Active learning framework with gradient boosting base learner
- Семейство
- Machine learning
Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском
Что он делает?
Градиентный бустинг с активным обучением сочетает мощную предсказательную точность градиентно-бустированных деревьев с циклом активного обучения, который выбирает наиболее информативные неразмеченные примеры для аннотирования человеком.
Запрашивая только те экземпляры, в которых модель наиболее неуверена, метод достигает высокой точности при гораздо меньшем количестве размеченных примеров, чем при пассивном обучении с учителем.
Интуиция метода
Разметка данных дорога. Активное обучение решает эту проблему, позволяя модели решать, какие примеры стоит аннотировать следующими — обычно те, в которых модель наиболее неуверена. Градиентный бустинг, известный своей высокой точностью на табличных данных, служит основным обучающим алгоритмом в этом цикле. После каждого раунда разметки бустированная модель переобучается на растущем размеченном наборе и снова определяет наиболее неопределенные неразмеченные точки. В результате получается высокопроизводительная модель, построенная с использованием доли размеченных данных, которые потребовались бы для пассивного обучения.
История
Активное обучение как область было систематизировано Бёрром Сеттлсом в его влиятельном обзоре 2010 года. Градиентный бустинг был формализован Джеромом Фридманом в 2001 году. Их комбинация получила распространение в 2010-х годах, когда библиотеки градиентного бустинга деревьев (XGBoost 2016, LightGBM 2017) стали стандартными инструментами, что сделало практичным переобучение мощных моделей в итеративных конвейерах аннотирования. Эта комбинация теперь широко используется при аннотировании NLP, сортировке медицинских изображений и контроле качества в промышленности.
Когда применять
Используйте градиентный бустинг с активным обучением, когда у вас есть большой пул неразмеченных табличных данных, но разметка дорога или занимает много времени, и градиентный бустинг в противном случае был бы предпочтительной моделью. Он особенно эффективен для несбалансированных наборов данных, где редкие классы трудно получить при пассивной выборке. Избегайте его, когда разметка дешева (проще пассивное обучение со всеми метками), когда пул неразмеченных данных слишком мал, чтобы оправдать запросы, когда вам нужна полностью прозрачная модель (коэффициенты или правила), или когда переобучение в реальном времени после каждого запроса нецелесообразно.
Ограничения и замечания
- Переобучение градиентного бустинга с нуля после каждого раунда запросов вычислительно затратно для больших наборов данных.
- Стратегии запроса могут страдать от смещения выборки, сходясь к нерепрезентативному размеченному набору, если начальный набор нерепрезентативен.
- Калибровка вероятностей градиентного бустинга может потребовать дополнительного шага (например, масштабирования Платта) для обеспечения надежных оценок неопределенности.
- Производительность чувствительна к выбору стратегии запроса; ни одна стратегия не доминирует во всех задачах.
- Требует инфраструктуры для рабочего процесса аннотирования с участием человека, что добавляет инженерные накладные расходы.
Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.
Сильные стороны
- Достигает конкурентоспособной точности при значительно меньшем количестве размеченных примеров, чем при пассивном обучении с учителем.
- Наследует высокую производительность градиентного бустинга на табличных данных, обрабатывая нелинейные взаимодействия и смешанные типы признаков.
- Гибкость: совместимость с любой стратегией запроса (неопределенность, разница, энтропия, запрос по комитету).
- Систематически снижает затраты на аннотирование, делая его практичным для областей, требующих интенсивной экспертной разметки, таких как медицина или юриспруденция.
- Поддерживает итеративное развертывание: модель постоянно улучшается по мере сбора большего количества меток.
Применение
- Классификация медицинских изображений или текстов, где экспертная аннотация редка и дорога.
- Обнаружение мошенничества на больших транзакционных наборах данных, где подтвержденные метки мошенничества требуют ручного рассмотрения.
- Разметка настроений или намерений в конвейерах NLP, где бюджеты на краудсорсинговое аннотирование ограничены.
- Обнаружение промышленных дефектов при ограниченных возможностях инспекции.
- Разметка научных данных в биологии, химии или материаловедении, где эксперты в предметной области дороги.
- Моделирование оттока клиентов или кредитного риска с ограниченной выборкой подтвержденных исходов.
Как это работает
Как это работает
Обучение начинается с небольшого начального набора размеченных примеров. Остальные доступные данные остаются неразмеченными в пуле. Начальный набор должен быть достаточно большим, чтобы модель градиентного бустинга могла давать осмысленные оценки вероятности; обычно требуется как минимум один пример на класс.
Модель градиентного бустинга (например, XGBoost, LightGBM или GradientBoostingClassifier из scikit-learn) обучается на текущем размеченном наборе. Модель изучает аддитивную ансамбль деревьев решений, итеративно подгоняя остатки, производя калиброванные оценки вероятности классов, используемые на следующем этапе запроса.
Критерий неопределенности или информативности выбирает неразмеченные экземпляры, в которых модель наименее уверена. Распространенные стратегии включают выборку по наименьшей уверенности, выборку по разнице и выборку по энтропии. Критерий энтропии выбирает x*, максимизирующий H(p(y|x)) по неразмеченному пулу U.
Формула
x^* = \arg\max_{x \in U}\, H(p(y \mid x))Выбранные экземпляры представляются аннотатору-человеку (оракулу), который предоставляет истинные метки. На практике на этом этапе тратятся затраты на аннотирование, поэтому эффективность стратегии запроса напрямую контролирует бюджет на разметку.
Новоразмеченные примеры добавляются в обучающий набор, и модель градиентного бустинга переобучается с нуля или обновляется. Цикл повторяется до тех пор, пока не будет исчерпан бюджет на разметку или не будет достигнут порог производительности на валидационном наборе.
Частые ошибки
- Начало с начальным набором, который слишком мал или несбалансирован, что приводит к тому, что модель запрашивает только одну область пространства признаков.
- Игнорирование калибровки вероятностей: необработанные оценки градиентного бустинга не всегда являются хорошо калиброванными вероятностями, и оценки неопределенности, полученные из них, могут вводить в заблуждение.
- Оценка производительности модели только на активно выбранном размеченном наборе, который смещен в сторону неопределенных или сложных примеров.
- Использование всего неразмеченного пула для окончательной оценки после активного выбора — всегда резервируйте выделенный тестовый набор до начала цикла активного обучения.
- Пренебрежение сравнением с пассивным базовым уровнем, обученным на том же количестве случайно выбранных меток.
Часто задаваемые вопросы
Какая стратегия запроса лучше всего работает с градиентным бустингом?
Выборка по энтропии и выборка по разнице являются наиболее распространенными вариантами и хорошо работают на практике. Запрос по комитету с использованием ансамбля моделей градиентного бустинга может быть более надежным, но увеличивает стоимость обучения. Лучшая стратегия зависит от набора данных; стоит сравнить две или три стратегии на пилотной выборке.
Нужно ли мне калибровать вероятности градиентного бустинга?
Да, особенно при использовании стратегий запроса на основе энтропии или уверенности. Градиентный бустинг может давать излишне уверенные вероятности. Применяйте масштабирование Платта или изотоническую регрессию после каждого раунда обучения, чтобы получить лучше калиброванные оценки неопределенности перед запросом.
Сколько примеров мне следует размечать за раунд?
Типичные размеры пакетов — от 1 до нескольких десятков. Большие пакеты более вычислительно эффективны, но могут быть менее эффективны по выборке, чем запросы по одному экземпляру. Начните с размера пакета, пропорционального примерно 1–5% вашего начального размеченного набора, и корректируйте в зависимости от пропускной способности аннотирования.
Когда следует остановить цикл активного обучения?
Останавливайтесь, когда производительность на валидационном наборе плато в течение нескольких последовательных раундов, когда исчерпан бюджет на разметку, или когда неопределенность модели в оставшемся неразмеченном пуле падает ниже порога, указывающего на то, что пул в основном неинформативен.
Могу ли я использовать XGBoost или LightGBM вместо градиентного бустинга из scikit-learn?
Да — XGBoost и LightGBM быстрее и часто точнее; они являются предпочтительными реализациями на практике. Убедитесь, что вы используете predict_proba (или эквивалент) с калибровкой, а не необработанные логарифмические оценки для стратегии запроса.
Похожие методы
Источники
Settles, B. (2010). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
Открыть ссылку на публикациюСкопировано.Friedman, J. H. (2001). Greedy Function Approximation: A Gradient Boosting Machine. Annals of Statistics, 29(5), 1189–1232.
Открыть ссылку DOIСкопировано.