Skip to content
Назад к результатам поиска

Активное обучение с Гауссовским процессом

Автор метода
MacKay, D. J. C.
Год
1992
Тип
Bayesian active learning
Семейство
Machine learning

Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском

Размер шрифта

Что он делает?

Активное обучение с Гауссовским процессом (GP-AL) сочетает вероятностную модель Гауссовского процесса со стратегией запроса активного обучения, используя апостериорную неопределенность GP для выбора наиболее информативных неразмеченных примеров для разметки.

Этот итеративный подход минимизирует затраты на разметку, максимизируя при этом точность прогнозирования, что делает его идеальным, когда размеченные данные редки или дороги в получении.

Интуиция метода

Гауссовский процесс предсказывает не только значение, но и степень уверенности в нем. Активное обучение использует это: вместо случайной разметки данных алгоритм анализирует все неразмеченные точки и просит человека (или оракула) разметить только ту точку, в которой GP наиболее неуверен. После разметки GP обновляет свои убеждения, и цикл повторяется. Этот целенаправленный подход приобретает информативные метки гораздо эффективнее, чем случайная или пассивная выборка, часто достигая высокой производительности модели при доле размеченных данных.

История

Идея использования информационно-теоретических критериев для выбора точек обучения для вероятностной модели была формализована МакКеем (1992), который показал, что максимизация прироста информации от оракула эквивалентна выбору точек с высокой дисперсией в байесовской модели. Гауссовские процессы стали естественным выбором, поскольку они дают точные апостериорные распределения. Область развивалась в 2000-х годах благодаря работам Лоуренса, Сеттлса (2012) и сообщества байесовской оптимизации, которое повторно использует ту же структуру GP плюс функция приобретения для поиска гиперпараметров.

Когда применять

Используйте GP-AL, когда размеченные данные редки или дороги в получении — в научных экспериментах, медицинских исследованиях или промышленных испытаниях — и когда вам нужны калиброванные оценки неопределенности наряду с прогнозами. Он превосходно работает в непрерывных входных пространствах низкой и средней размерности с гладкими или умеренно нелинейными функциями, а также в сценариях с небольшими и умеренными наборами данных (до нескольких тысяч точек). Не используйте его, когда входное пространство имеет очень высокую размерность (ядра GP плохо масштабируются), когда набор данных уже велик (вывод GP имеет сложность O(n^3)) или когда стоимость разметки оракулом незначительна и достаточно случайной выборки.

Ограничения и замечания

  • Кубическая вычислительная сложность O(n^3) от числа размеченных точек делает масштабирование до тысяч наблюдений дорогостоящим без разреженных аппроксимаций или аппроксимаций на основе индуцирующих точек.
  • Производительность снижается в пространствах с высокой размерностью входных данных, поскольку ядра GP с трудом эффективно улавливают структуру.
  • Предполагается, что оракул всегда доступен и может разметить любую запрошенную точку без ошибок или задержек.
  • Выбор ядра нетривиален; неправильно специфицированное ядро может привести к плохо калиброванной неопределенности и субоптимальным запросам.

Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.

Сильные стороны

  • Принципиальная количественная оценка неопределенности: апостериорное распределение GP напрямую управляет стратегией запроса без эвристик.
  • Драматическая эффективность разметки — достигает сравнимой точности с пассивно обученными моделями при гораздо меньшем количестве размеченных примеров.
  • Гибкий выбор ядра позволяет практикам кодировать знания предметной области о гладкости функции.
  • Предоставляет калиброванные доверительные интервалы наряду с прогнозами, поддерживая последующее принятие решений.
  • Хорошо обрабатывает небольшие и умеренные наборы данных, где подходы глубокого обучения обычно показывают низкую производительность.
  • Цикл активного обучения интерпретируем: каждый запрос обоснован измеримой оценкой неопределенности.

Применение

  • Открытие лекарств и материаловедение, где каждый эксперимент дорогостоящ, а поверхность вход-выход неизвестна.
  • Аннотирование медицинских изображений, выбор наиболее неоднозначных сканов для проверки радиологом.
  • Робототехника и автономные системы для эффективного изучения управляющих политик по разреженной сенсорной обратной связи.
  • Экологический мониторинг, направление датчиков в места максимальной пространственной неопределенности.
  • Оптимизация гиперпараметров (байесовская оптимизация), где GP моделирует поверхность потерь, а активный запрос выбирает следующую конфигурацию для оценки.

Как это работает

Как это работает

1

Начните с небольшого начального размеченного набора данных и укажите ядро GP (например, квадратично-экспоненциальное, Матерна) и модель шума. Ядро кодирует априорные предположения о гладкости и характерном масштабе изучаемой функции.

2

Подгоните GP к текущему размеченному набору. GP возвращает апостериорное предсказательное распределение по выходному пространству — среднее предсказание и дисперсию (неопределенность) для каждой точки, включая все неразмеченные кандидаты.

Формула
p(f^* | X, y, x^*) = \mathcal{N}(\mu^*, \sigma^{*2})
3

Примените функцию приобретения — чаще всего максимальную предсказательную дисперсию, но также энтропию или ожидаемое улучшение — для ранжирования неразмеченных точек. Точка с наивысшим показателем выбирается для разметки, поскольку она несет наибольшую информацию для снижения неопределенности модели.

Формула
x^* = \arg\max_{x \in \mathcal{U}} \sigma^2(x)
4

Представьте выбранную точку оракулу (человеку-аннотатору, эксперименту или автоматическому датчику) для разметки. Получается истинная метка, которая добавляется к растущему размеченному набору данных.

5

Переподгоните GP, включив в него новую размеченную точку. Поскольку GP поддерживают точные байесовские обновления, апостериорное распределение смещается, отражая новое наблюдение, снижая неопределенность вблизи этой точки и потенциально изменяя ее в других местах.

6

Повторяйте цикл приобретения-запроса-обновления до тех пор, пока не будет достигнут бюджет (количество меток, время вычислений или целевой порог точности). При завершении работы окончательный GP используется для прогнозирования на новых тестовых данных.

Частые ошибки

  • Использование стандартного ядра RBF без проверки того, действительно ли функция гладкая — неправильные предположения о гладкости искажают оценки неопределенности и выбор запросов.
  • Игнорирование стратегии инициализации: плохой начальный размеченный набор (например, все из узкой области) смещает модель и задерживает исследование.
  • Забывание нормализации входных и выходных данных; GP чувствительны к масштабу, а ненормализованные данные могут вызвать численную нестабильность в ковариационной матрице.
  • Рассмотрение оценки приобретения как абсолютной меры важности, а не как относительного ранжирования в текущем неразмеченном пуле.
  • Применение GP-AL к наборам данных из тысяч примеров без разреженной аппроксимации GP, что приводит к непомерным временам выполнения.

Часто задаваемые вопросы

Чем GP-AL отличается от стандартной регрессии на Гауссовских процессах?

Стандартная регрессия на Гауссовских процессах пассивно подгоняет любые предоставленные размеченные данные. GP-AL добавляет внешний цикл, который активно выбирает, какие неразмеченные точки следует разметить следующими, руководствуясь неопределенностью GP, так что модель учится больше за каждую приобретенную метку.

Какую функцию приобретения следует использовать?

Максимальная предсказательная дисперсия — это самый простой и распространенный выбор, который хорошо работает для чистого исследования. Ожидаемое улучшение или критерии, основанные на энтропии, могут быть предпочтительнее при наличии конкретного целевого значения или границы классификации, которую нужно найти.

Сколько начальных размеченных точек нужно для старта?

Несколько — часто от 5 до 20 — выбранных для покрытия входного пространства (например, с помощью латинского гиперкуба или пространственно-заполняющего дизайна — достаточно для инициализации GP и получения значимых оценок неопределенности для первого раунда запросов.

Работает ли метод для задач классификации?

Да, с использованием классификации GP (с пробит- или логистической функцией связи). Количественная оценка неопределенности требует приближенного вывода (например, аппроксимации Лапласа или ожидания распространения), что делает ее немного более сложной, чем в случае регрессии.

Когда следует предпочесть случайные леса или нейронные сети вместо GP-AL?

Когда набор данных велик (тысячи или более размеченных примеров) или имеет высокую размерность (много входных признаков), поскольку вычислительная стоимость GP и выразительность ядра становятся ограничивающими. Нейронные сети с Монте-Карло дропаутом могут служить масштабируемыми альтернативами для активного обучения в этих режимах.

Похожие методы

Источники

  1. MacKay, D. J. C. (1992). Information-based objective functions for active data selection. Neural Computation, 4(4), 590–604.

    Открыть ссылку DOI
    Скопировано.
  2. Settles, B. (2012). Active Learning. Synthesis Lectures on Artificial Intelligence and Machine Learning. Morgan & Claypool.

    Открыть ссылку на публикацию
    Скопировано.