Skip to content
Назад к результатам поиска

Байесовская оптимизация — последовательная настройка гиперпараметров на основе моделей

Автор метода
Mockus (1975); popularised for ML by Snoek, Larochelle & Adams (2012)
Год
1975 (foundational); 2012 (ML standard)
Тип
Sequential model-based black-box optimization

Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском

Размер шрифта

Что он делает?

Байесовская оптимизация — это последовательная, модельная стратегия поиска оптимума дорогостоящих «чёрных ящиков» функций с минимально возможным количеством вычислений.

Основанная на работе Мокуса (Mockus, 1975) и внедрённая в основную практику машинного обучения Снуком, Ларошелем и Адамсом (Snoek, Larochelle, and Adams, 2012), она подгоняет вероятностную суррогатную модель — обычно гауссовский процесс — к прошлым наблюдениям и использует функцию приобретения для определения следующей точки исследования, балансируя между исследованием неизвестных областей и эксплуатацией многообещающих.

Интуиция метода

Представьте, что вам нужно найти наилучшие настройки для модели машинного обучения, но каждое испытание занимает часы. Вы не можете позволить себе протестировать каждую комбинацию. Байесовская оптимизация действует как осторожный учёный: она строит текущую карту того, что было опробовано и какие результаты были получены, использует эту карту, чтобы предположить, где, вероятно, находится оптимум, а затем выбирает следующий эксперимент, который с наибольшей вероятностью улучшит лучший результат, достигнутый на данный момент. По мере завершения новых экспериментов карта становится точнее, а выбор — умнее, и всё это без необходимости знать математическую формулу внутри «чёрного ящика».

История

Теоретические основы байесовской оптимизации были заложены Йонасом Мокусом и его коллегами в 1970-х годах через концепцию ожидаемого улучшения для последовательного экспериментального дизайна. Подход оставался в основном академическим до 2012 года, когда Снук, Ларошель и Адамс опубликовали статью «Практическая байесовская оптимизация алгоритмов машинного обучения» на NeurIPS, продемонстрировав, что байесовская оптимизация на основе гауссовских процессов постоянно превосходит экспертную ручную настройку и случайный поиск на стандартных бенчмарках машинного обучения. Эта работа катализировала разработку специализированных библиотек и утвердила байесовскую оптимизацию в качестве фактического стандарта для поиска гиперпараметров в глубоком обучении и конвейерах AutoML. Учебное пособие Питера Фрейзера 2018 года (arXiv:1807.02811) позднее предоставило унифицированное педагогическое изложение, которое расширило охват метода за пределы сообщества машинного обучения.

Когда применять

Байесовская оптимизация — правильный выбор, когда целевая функция является дорогостоящей или медленной для вычисления — обучение большой модели, запуск физического моделирования или проведение лабораторного эксперимента — и бюджет ограничен десятками или несколькими сотнями оценок. Пространство поиска должно быть определено с явными границами для каждого параметра. Метод естественным образом обрабатывает непрерывные и порядковые параметры; чисто категориальные или очень высокоразмерные пространства (более примерно 20 параметров) могут ухудшить качество суррогатной модели и могут потребовать расширений, таких как случайные леса в качестве суррогатной модели или предварительная обработка для снижения размерности. Если оценки дёшевы и доступен параллелизм, более простой случайный поиск или поиск по сетке могут быть конкурентоспособными.

Ограничения и замечания

  • Плохо масштабируется до очень высокоразмерных пространств гиперпараметров: подгонка гауссовского процесса становится вычислительно дорогой, и суррогатная модель теряет точность за пределами примерно 10–20 измерений.
  • Чувствительность к выбору ядра суррогатной модели и функции приобретения: плохие значения по умолчанию могут препятствовать сходимости, особенно для нестационарных или мультимодальных целевых функций.
  • Последовательность по умолчанию: каждая оценка должна быть завершена до выбора следующего кандидата, что ограничивает параллелизм, если не используются пакетные или асинхронные расширения.
  • Требует ограниченных пространств поиска: параметры без явных диапазонов не могут быть обработаны напрямую.

Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.

Сильные стороны

  • Эффективность выборки: находит хорошие конфигурации за гораздо меньшее количество оценок, чем поиск по сетке или случайный поиск, что важно, когда каждая оценка медленная или дорогостоящая.
  • Принципиальный баланс исследования и эксплуатации: функция приобретения предоставляет формальный, интерпретируемый критерий для определения следующего шага поиска.
  • Неопределённость на основе модели: гауссовский процесс не только предсказывает производительность, но и количественно оценивает собственную уверенность, что позволяет принимать обоснованные решения об остановке.
  • Применимость к любой целевой функции «чёрного ящика»: метод не требует информации о градиенте и математических знаний о внутренней структуре целевой функции.

Применение

  • Настройка гиперпараметров моделей машинного и глубокого обучения, где каждый запуск обучения является вычислительно дорогим.
  • Поиск нейронной архитектуры (Neural Architecture Search, NAS): выбор архитектурных решений, таких как ширина слоёв, функции активации и остаточные связи.
  • Экспериментальный дизайн в инженерии и естественных науках, где каждый физический эксперимент является дорогостоящим или трудоёмким.
  • Конвейеры автоматизированного машинного обучения (AutoML), которые совместно выбирают как алгоритмы, так и их гиперпараметры.
  • Открытие лекарств и материаловедение, где оценка конфигурации-кандидата требует лабораторной работы.

Как это работает

Как это работает

1

Практик определяет пространство поиска: каждому настраиваемому гиперпараметру присваивается тип (непрерывный, порядковый) и диапазон — нижняя и верхняя границы, — в пределах которого оптимизатор может осуществлять поиск. Чёткое определение пространства является предпосылкой для всего остального и предотвращает экстраполяцию суррогатной модели за пределы безопасных областей.

2

Небольшое количество точек в пространстве поиска оценивается случайным образом или с помощью равномерного заполнения пространства (например, латинской гиперкубической выборки). Эти начальные наблюдения — обычно от пяти до десяти — дают суррогатной модели достаточно данных для формирования первой, приблизительной карты ландшафта целевой функции до начала последовательного цикла.

3

Все собранные на данный момент наблюдения используются для подгонки вероятностной суррогатной модели, чаще всего гауссовского процесса. Гауссовский процесс возвращает как среднее предсказание, так и оценку неопределённости в каждой точке пространства, фиксируя как известные данные, так и степень уверенности модели. Суррогатная модель дёшева в вычислении, поэтому её можно запрашивать тысячи раз вместо дорогостоящей истинной целевой функции.

4

Функция приобретения — такая как ожидаемое улучшение (Expected Improvement, EI) или верхняя доверительная граница (Upper Confidence Bound, UCB) — максимизируется по суррогатной модели для выбора следующей точки-кандидата. EI количественно определяет ожидаемый выигрыш по сравнению с текущим лучшим; UCB добавляет бонус за исследование, взвешенный по доверию. На этом этапе разрешается компромисс между исследованием и эксплуатацией: внимание привлекают как области с высокой прогнозируемой производительностью, так и области с высокой неопределённостью.

5

Точка-кандидат, выбранная функцией приобретения, передаётся истинной целевой функции — например, для обучения и валидации нейронной сети с этими гиперпараметрами. Эта оценка является дорогостоящим шагом. Её результат (оценка) записывается вместе с координатами кандидата.

6

Новое наблюдение добавляется к набору данных, суррогатная модель переобучается, и цикл возвращается к шагу приобретения. После исчерпания бюджета итераций конфигурация гиперпараметров, которая дала наилучшую наблюдаемую оценку, возвращается в качестве окончательной рекомендации.

Частые ошибки

  • Слишком мало начальных случайных проб приводит к плохой калибровке суррогатной модели; используйте не менее пяти начальных точек, а в более высокоразмерных пространствах — больше.
  • Запуск оптимизатора на очень малое количество итераций (менее примерно десяти) означает, что суррогатная модель никогда не станет надёжной; в таких случаях предпочтительнее простой случайный поиск.
  • Игнорирование выбора функции приобретения: EI способствует эксплуатации и может застрять вблизи ранних хороших результатов; UCB добавляет исследование через настраиваемый весовой коэффициент доверия — ни один из них не является универсально лучшим, и значение по умолчанию должно быть проверено на соответствие структуре проблемы.
  • Отношение к байесовской оптимизации как к «чёрному ящику»: всегда проверяйте трассировку сходимости (лучшая наблюдаемая оценка по сравнению с итерацией), чтобы рано обнаружить стагнацию.
  • Применение метода, когда оценки дёшевы — случайный поиск или поиск по сетке сойдутся так же хорошо при значительно меньших накладных расходах на реализацию.

Часто задаваемые вопросы

Чем байесовская оптимизация отличается от поиска по сетке или случайного поиска?

Поиск по сетке оценивает фиксированную решётку конфигураций, а случайный поиск выбирает образцы равномерно случайным образом — оба игнорируют результаты предыдущих испытаний при выборе следующей точки. Байесовская оптимизация активно использует все прошлые наблюдения для построения суррогатной модели и выбирает следующую точку, которая с наибольшей вероятностью улучшит текущий лучший результат, что делает её гораздо более эффективной по выборке, когда оценки дороги.

Какую функцию приобретения следует использовать?

Ожидаемое улучшение (EI) является наиболее широко используемым значением по умолчанию: оно измеряет ожидаемый выигрыш по сравнению с текущим лучшим и, как правило, надёжно для различных типов задач. Верхняя доверительная граница (UCB) добавляет настраиваемый бонус за исследование и часто предпочтительна, когда ландшафт плохо изучен. Вероятность улучшения (PI) более ориентирована на эксплуатацию и может преждевременно сходиться. Начните с EI и переключитесь на UCB, если оптимизатор, кажется, стагнирует.

Сколько итераций необходимо?

Универсального правила нет, но менее примерно десяти общих оценок (включая начальные случайные пробы) дают суррогатной модели слишком мало данных, чтобы быть надёжной. Практические реализации обычно используют от пяти до десяти начальных случайных точек, за которыми следуют от двадцати до пятидесяти последовательных байесовских шагов. Когда лучшая наблюдаемая оценка перестаёт улучшаться в течение нескольких последовательных итераций, бюджет может быть остановлен.

Можно ли распараллелить байесовскую оптимизацию?

Стандартная байесовская оптимизация по своей природе последовательна. Расширения пакетного режима позволяют предлагать набор кандидатов одновременно — распространённые стратегии включают локальную пенализацию и эвристику Кригинга-верующего — что позволяет проводить параллельную оценку. Асинхронные варианты запускают нового кандидата всякий раз, когда работник освобождается, вместо того чтобы ждать полной партии. Эти расширения доступны в таких библиотеках, как Optuna и BoTorch.

Похожие методы

Источники

  1. Snoek, J., Larochelle, H., & Adams, R.P. (2012). Practical Bayesian Optimization of Machine Learning Algorithms. Advances in Neural Information Processing Systems (NeurIPS), 25.

    Открыть ссылку на публикацию
    Скопировано.
  2. Frazier, P.I. (2018). A Tutorial on Bayesian Optimization. arXiv:1807.02811.

    Открыть ссылку на публикацию
    Скопировано.