Saltar al contenido
Volver a los resultados

Optimización Bayesiana — Ajuste Secuencial Basado en Modelo de Hiperparámetros

Propuesto por
Mockus (1975); popularised for ML by Snoek, Larochelle & Adams (2012)
Año
1975 (foundational); 2012 (ML standard)
Tipo
Sequential model-based black-box optimization

Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés

Tamaño de letra

¿Qué hace?

La optimización bayesiana es una estrategia secuencial, basada en modelos, para encontrar el óptimo de funciones de caja negra costosas con la menor cantidad de evaluaciones posible.

Arraigada en el trabajo de Mockus (1975) y llevada a la práctica general del aprendizaje automático por Snoek, Larochelle y Adams (2012), ajusta un modelo sustituto probabilístico —típicamente un Proceso Gaussiano— a observaciones pasadas y utiliza una función de adquisición para decidir dónde sondear a continuación, equilibrando la exploración de regiones desconocidas con la explotación de las prometedoras.

La intuición detrás del método

Imagina que tienes que encontrar la mejor configuración para un modelo de aprendizaje automático, pero cada prueba tarda horas en ejecutarse. No puedes permitirte probar cada combinación. La optimización bayesiana actúa como un científico cuidadoso: construye un mapa continuo de lo que se ha intentado y qué resultados se obtuvieron, utiliza ese mapa para adivinar dónde probablemente se encuentra el óptimo y luego elige el siguiente experimento que probablemente mejore el mejor resultado visto hasta ahora. A medida que se completan más experimentos, el mapa se vuelve más preciso y las elecciones más inteligentes, todo ello sin necesidad de conocer la fórmula matemática dentro de la caja negra.

Historia

Los fundamentos teóricos de la optimización bayesiana fueron sentados por Jonas Mockus y colegas en la década de 1970 a través del concepto de mejora esperada para el diseño experimental secuencial. El enfoque permaneció en gran medida académico hasta 2012, cuando Snoek, Larochelle y Adams publicaron "Practical Bayesian Optimization of Machine Learning Algorithms" en NeurIPS, demostrando que la optimización bayesiana basada en GP superaba consistentemente al ajuste manual experto y a la búsqueda aleatoria en puntos de referencia estándar de ML. Este trabajo catalizó el desarrollo de bibliotecas dedicadas y estableció la optimización bayesiana como el estándar de facto para la búsqueda de hiperparámetros en el aprendizaje profundo y las canalizaciones de AutoML. El tutorial de Peter Frazier de 2018 (arXiv:1807.02811) proporcionó más tarde un tratamiento pedagógico unificado que amplió el alcance del método más allá de la comunidad de ML.

Cuándo usarlo

La optimización bayesiana es la elección correcta cuando la función objetivo es costosa o lenta de evaluar —entrenar un modelo grande, ejecutar una simulación física o realizar un experimento de laboratorio— y el presupuesto se limita a decenas o unos pocos cientos de evaluaciones. El espacio de búsqueda debe definirse con límites explícitos para cada parámetro. El método maneja parámetros continuos y ordinales de forma natural; espacios puramente categóricos o de muy alta dimensionalidad (más de aproximadamente 20 parámetros) pueden degradar la calidad del sustituto y pueden requerir extensiones como bosques aleatorios como sustituto o preprocesamiento de reducción de dimensionalidad. Si las evaluaciones son baratas y hay paralelismo disponible, la búsqueda aleatoria o la búsqueda en cuadrícula más simples pueden ser competitivas.

Limitaciones y consideraciones

  • Escala mal a espacios de hiperparámetros de muy alta dimensionalidad: el ajuste del Proceso Gaussiano se vuelve computacionalmente costoso y el sustituto pierde precisión más allá de aproximadamente 10-20 dimensiones.
  • Sensible a la elección del kernel sustituto y la función de adquisición: los valores predeterminados deficientes pueden impedir la convergencia, especialmente en objetivos no estacionarios o multimodales.
  • Secuencial por defecto: cada evaluación debe completarse antes de seleccionar el siguiente candidato, lo que limita el paralelismo a menos que se utilicen extensiones en modo lote o asíncronas.
  • Requiere espacios de búsqueda acotados: los parámetros sin rangos explícitos no se pueden manejar directamente.

Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.

Fortalezas

  • Eficiente en cuanto a muestras: encuentra configuraciones buenas en muchas menos evaluaciones que la búsqueda en cuadrícula o la búsqueda aleatoria, lo que importa cuando cada evaluación es lenta o costosa.
  • Equilibrio principista entre exploración y explotación: la función de adquisición proporciona un criterio formal e interpretable sobre dónde buscar a continuación.
  • Incertidumbre basada en modelo: el Proceso Gaussiano no solo predice el rendimiento, sino que también cuantifica su propia confianza, permitiendo decisiones de parada informadas.
  • Aplicable a cualquier objetivo de caja negra: el método no requiere información de gradiente ni conocimiento matemático del interior del objetivo.

Aplicaciones

  • Ajuste de hiperparámetros de modelos de aprendizaje automático y aprendizaje profundo donde cada ejecución de entrenamiento es computacionalmente costosa.
  • Búsqueda de Arquitecturas Neuronales (NAS): selección de opciones arquitectónicas como anchos de capa, funciones de activación y conexiones de salto.
  • Diseño experimental en ingeniería y ciencias naturales donde cada experimento físico es costoso o requiere mucho tiempo.
  • Canalizaciones de Aprendizaje Automático Automático (AutoML) que seleccionan conjuntamente algoritmos y sus hiperparámetros.
  • Descubrimiento de fármacos y ciencia de materiales, donde la evaluación de una configuración candidata requiere trabajo de laboratorio.

Cómo funciona

Cómo funciona

1

El profesional define el espacio de búsqueda: a cada hiperparámetro a ajustar se le da un tipo (continuo, ordinal) y un rango —límites inferior y superior— dentro de los cuales el optimizador puede buscar. Una definición clara del espacio es un requisito previo para todo lo demás y evita que se pida al sustituto que extrapole más allá de las regiones seguras.

2

Se evalúa un pequeño número de puntos en el espacio de búsqueda de forma aleatoria o mediante un diseño que llene el espacio (por ejemplo, muestreo de hipercubos latinos). Estas observaciones iniciales —típicamente de cinco a diez— proporcionan al sustituto suficientes datos para formar un primer y aproximado mapa del paisaje objetivo antes de que comience el bucle secuencial.

3

Se utilizan todas las observaciones recopiladas hasta el momento para ajustar un modelo sustituto probabilístico, comúnmente un Proceso Gaussiano. El GP devuelve tanto una predicción media como una estimación de incertidumbre en cada punto del espacio, capturando tanto lo que se sabe como la confianza del modelo. El sustituto es barato de evaluar, por lo que puede ser consultado miles de veces en lugar del costoso objetivo real.

4

Se maximiza una función de adquisición —como la Mejora Esperada (EI) o el Límite Superior de Confianza (UCB)— sobre el sustituto para seleccionar el siguiente punto candidato. EI cuantifica la ganancia esperada sobre el mejor actual; UCB añade un bono de exploración ponderado por la confianza. Este paso es donde se resuelve el compromiso exploración-explotación: las regiones con alto rendimiento predicho y las regiones con alta incertidumbre atraen atención.

5

El punto candidato seleccionado por la función de adquisición se pasa al objetivo real —por ejemplo, entrenar y validar una red neuronal con esos hiperparámetros. Esta evaluación es el paso costoso. Su resultado (la puntuación) se registra junto con las coordenadas del candidato.

6

La nueva observación se añade al conjunto de datos, se reajusta el sustituto y el bucle vuelve al paso de adquisición. Una vez agotado el presupuesto de iteración, se devuelve la configuración de hiperparámetros que produjo la mejor puntuación observada como recomendación final.

Errores comunes

  • Muy pocas sondas aleatorias iniciales dejan el sustituto mal calibrado; utilice al menos cinco puntos iniciales, y más en espacios de mayor dimensionalidad.
  • Ejecutar el optimizador durante muy pocas iteraciones totales (menos de aproximadamente diez) significa que el sustituto nunca se vuelve fiable; en tales casos, es preferible una simple búsqueda aleatoria.
  • Ignorar la elección de la función de adquisición: EI favorece la explotación y puede quedarse atascado cerca de buenos resultados tempranos; UCB añade exploración a través de un peso de confianza sintonizable —ninguno es universalmente el mejor, y el valor predeterminado debe verificarse con la estructura del problema.
  • Tratar la optimización bayesiana como una caja negra en sí misma: inspeccione siempre el rastro de convergencia (mejor puntuación vista vs. iteración) para detectar el estancamiento temprano.
  • Aplicar el método cuando las evaluaciones son baratas —la búsqueda aleatoria o en cuadrícula convergerán igual de bien con una fracción de la sobrecarga de implementación.

Preguntas frecuentes

¿Cómo se diferencia la optimización bayesiana de la búsqueda en cuadrícula o la búsqueda aleatoria?

La búsqueda en cuadrícula evalúa una red fija de configuraciones y la búsqueda aleatoria muestrea uniformemente al azar —ambas ignoran los resultados de ensayos anteriores al elegir el siguiente punto. La optimización bayesiana utiliza activamente todas las observaciones pasadas para construir un modelo sustituto y selecciona el siguiente punto más probable para mejorar sobre el mejor actual, haciéndola mucho más eficiente en cuanto a muestras cuando las evaluaciones son costosas.

¿Qué función de adquisición debo usar?

La Mejora Esperada (EI) es la opción predeterminada más utilizada: mide la ganancia esperada sobre el mejor actual y tiende a ser fiable en diferentes tipos de problemas. El Límite Superior de Confianza (UCB) añade un bono de exploración sintonizable y a menudo se prefiere cuando el paisaje se comprende mal. La Probabilidad de Mejora (PI) se inclina más hacia la explotación y puede converger prematuramente. Empiece con EI y cambie a UCB si el optimizador parece estancarse.

¿Cuántas iteraciones se necesitan?

No hay una regla universal, pero menos de unas diez evaluaciones totales (incluidas las sondas aleatorias iniciales) dan al sustituto muy pocos datos para ser fiable. Las implementaciones prácticas suelen utilizar de cinco a diez puntos aleatorios iniciales seguidos de veinte a cincuenta pasos bayesianos secuenciales. Cuando la mejor puntuación vista deja de mejorar durante varias iteraciones consecutivas, se puede detener el presupuesto.

¿Se puede paralelizar la optimización bayesiana?

La optimización bayesiana estándar es intrínsecamente secuencial. Las extensiones en modo lote permiten proponer un conjunto de candidatos simultáneamente —estrategias comunes incluyen la Penalización Local y la heurística Kriging Believer— permitiendo la evaluación paralela. Las variantes asíncronas lanzan un nuevo candidato cada vez que un trabajador queda libre en lugar de esperar al lote completo. Estas extensiones están disponibles en bibliotecas como Optuna y BoTorch.

Métodos relacionados

Fuentes

  1. Snoek, J., Larochelle, H., & Adams, R.P. (2012). Practical Bayesian Optimization of Machine Learning Algorithms. Advances in Neural Information Processing Systems (NeurIPS), 25.

    Abrir referencia de la publicación
    Copiado.
  2. Frazier, P.I. (2018). A Tutorial on Bayesian Optimization. arXiv:1807.02811.

    Abrir referencia de la publicación
    Copiado.