Saltar al contenido
Volver a los resultados

Proceso Gaussiano de Aprendizaje Activo

Propuesto por
MacKay, D. J. C.
Año
1992
Tipo
Bayesian active learning
Familia
Machine learning

Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés

Tamaño de letra

¿Qué hace?

El Proceso Gaussiano de Aprendizaje Activo (GP-AL) combina un modelo probabilístico de proceso gaussiano con una estrategia de consulta de aprendizaje activo, utilizando la incertidumbre posterior del GP para seleccionar los ejemplos no etiquetados más informativos para su etiquetado.

Este enfoque iterativo minimiza el esfuerzo de etiquetado mientras maximiza la precisión predictiva, lo que lo hace ideal cuando los datos etiquetados son escasos o caros de obtener.

La intuición detrás del método

Un proceso gaussiano predice no solo un valor, sino también cuán confiado está. El aprendizaje activo explota esto: en lugar de etiquetar datos al azar, el algoritmo examina todos los puntos no etiquetados y pide a un humano (u oráculo) que etiquete solo el punto donde el GP está más incierto. Después del etiquetado, el GP actualiza sus creencias y el ciclo se repite. Este enfoque dirigido adquiere etiquetas informativas de manera mucho más eficiente que el muestreo aleatorio o pasivo, logrando a menudo un rendimiento sólido del modelo con una fracción de los datos etiquetados.

Historia

La idea de usar criterios informacionales para seleccionar puntos de entrenamiento para un modelo probabilístico fue formalizada por MacKay (1992), quien demostró que maximizar la ganancia de información de un oráculo es equivalente a seleccionar puntos de alta varianza bajo un modelo bayesiano. Los procesos gaussianos se convirtieron en un ajuste natural porque producen distribuciones posteriores exactas. El campo maduró a través de la década de 2000 con el trabajo de Lawrence, Settles (2012) y la comunidad de optimización bayesiana, que reutiliza el mismo marco de GP más función de adquisición para la búsqueda de hiperparámetros.

Cuándo usarlo

Utilizar GP-AL cuando los datos etiquetados son escasos o caros de obtener — en experimentos científicos, estudios médicos o pruebas industriales — y cuando se necesitan estimaciones de incertidumbre calibradas junto con las predicciones. Sobresale en espacios de entrada continuos de baja a media dimensionalidad con funciones suaves o moderadamente no lineales, y en entornos con conjuntos de datos pequeños a moderados (hasta unos pocos miles de puntos). No lo utilice cuando el espacio de entrada es de muy alta dimensionalidad (los kernels de GP escalan mal), cuando el conjunto de datos ya es grande (la inferencia de GP es O(n^3)), o cuando el costo de etiquetado del oráculo es insignificante y el muestreo aleatorio es suficiente.

Limitaciones y consideraciones

  • La complejidad computacional cúbica O(n^3) en el número de puntos etiquetados hace que la escalada a miles de observaciones sea costosa sin aproximaciones de puntos dispersos o inductores.
  • El rendimiento se degrada en espacios de entrada de alta dimensionalidad porque los kernels de GP luchan por capturar la estructura de manera eficiente.
  • Asume que el oráculo siempre está disponible y puede etiquetar cualquier punto consultado sin errores ni demoras.
  • La selección del kernel no es trivial; un kernel mal especificado puede llevar a una incertidumbre mal calibrada y a consultas subóptimas.

Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.

Fortalezas

  • Cuantificación de incertidumbre basada en principios: la posterior del GP impulsa directamente la estrategia de consulta sin heurísticas.
  • Eficiencia drástica de etiquetas: logra una precisión comparable a los modelos entrenados pasivamente con muchos menos ejemplos etiquetados.
  • La elección flexible del kernel permite a los profesionales codificar el conocimiento del dominio sobre la suavidad de la función.
  • Proporciona intervalos de confianza calibrados junto con las predicciones, apoyando la toma de decisiones posteriores.
  • Maneja bien conjuntos de datos pequeños a moderados, donde los enfoques de aprendizaje profundo típicamente tienen un rendimiento inferior.
  • El bucle de aprendizaje activo es interpretable: cada consulta se justifica por una puntuación de incertidumbre medible.

Aplicaciones

  • Descubrimiento de fármacos y ciencia de materiales, donde cada experimento es costoso y la superficie de entrada-salida es desconocida.
  • Anotación de imágenes médicas, seleccionando las exploraciones más ambiguas para la revisión del radiólogo.
  • Robótica y sistemas autónomos para aprender eficientemente políticas de control a partir de retroalimentación de sensores dispersa.
  • Monitoreo ambiental, dirigiendo sensores a ubicaciones de máxima incertidumbre espacial.
  • Optimización de hiperparámetros (optimización bayesiana), donde el GP modela la superficie de pérdida y la consulta activa selecciona la siguiente configuración a evaluar.

Cómo funciona

Cómo funciona

1

Comenzar con un pequeño conjunto de datos etiquetados inicial y especificar un kernel de GP (p. ej., exponencial cuadrado, Matern) y un modelo de ruido. El kernel codifica suposiciones previas sobre la suavidad y la escala de longitud de la función que se está aprendiendo.

2

Ajustar el GP al conjunto etiquetado actual. El GP devuelve una distribución predictiva posterior sobre el espacio de salida — una predicción media y una varianza (incertidumbre) para cada punto, incluidos todos los candidatos no etiquetados.

Fórmula
p(f^* | X, y, x^*) = \mathcal{N}(\mu^*, \sigma^{*2})
3

Aplicar una función de adquisición — más comúnmente la varianza predictiva máxima, pero también la entropía o la mejora esperada — para clasificar los puntos no etiquetados. El punto con la puntuación más alta se selecciona para etiquetar porque transporta la mayor información para reducir la incertidumbre del modelo.

Fórmula
x^* = \arg\max_{x \in \mathcal{U}} \sigma^2(x)
4

Presentar el punto seleccionado a un oráculo (anotador humano, experimento o sensor automatizado) para su etiquetado. Se obtiene la etiqueta verdadera y se anexa al conjunto de datos etiquetados en crecimiento.

5

Reajustar el GP con el punto recién etiquetado incluido. Dado que los GP admiten actualizaciones bayesianas exactas, la posterior se desplaza para reflejar la nueva observación, reduciendo la incertidumbre cerca de ese punto y potencialmente remodelándola en otros lugares.

6

Repetir el ciclo de adquisición-consulta-actualización hasta que se cumpla un presupuesto (número de etiquetas, tiempo de cómputo o un umbral de precisión objetivo). Al finalizar, el GP final se utiliza para la predicción en nuevos datos de prueba.

Errores comunes

  • Usar el kernel RBF por defecto sin validar si la función es realmente suave — suposiciones de suavidad mal especificadas distorsionan las estimaciones de incertidumbre y la selección de consultas.
  • Ignorar la estrategia de inicialización: un conjunto etiquetado inicial pobre (p. ej., todos de una región estrecha) sesga el modelo y retrasa la exploración.
  • Olvidar normalizar las entradas y salidas; los GP son sensibles a la escala, y los datos no normalizados pueden causar inestabilidad numérica en la matriz de covarianza.
  • Tratar la puntuación de adquisición como una medida absoluta de importancia en lugar de una clasificación relativa dentro del grupo no etiquetado actual.
  • Aplicar GP-AL a conjuntos de datos de miles de ejemplos sin una aproximación de GP dispersa, lo que lleva a tiempos de ejecución prohibitivos.

Preguntas frecuentes

¿Cómo difiere GP-AL de la regresión estándar de procesos gaussianos?

La regresión estándar de GP ajusta pasivamente los datos etiquetados que se proporcionan. GP-AL agrega un bucle externo que elige activamente qué puntos no etiquetados etiquetar a continuación, guiado por la incertidumbre del GP, para que el modelo aprenda más por etiqueta adquirida.

¿Qué función de adquisición debo usar?

La varianza predictiva máxima es la opción más simple y común y funciona bien para la exploración pura. La mejora esperada o los criterios basados en entropía pueden ser preferibles cuando hay un valor objetivo específico o un límite de clasificación que localizar.

¿Cuántos puntos etiquetados iniciales necesito para empezar?

Un puñado — a menudo de 5 a 20 — elegidos para cubrir el espacio de entrada (p. ej., mediante hipercubo latino o diseño que llena el espacio) es suficiente para inicializar el GP y producir estimaciones de incertidumbre significativas para la primera ronda de consulta.

¿El método funciona para tareas de clasificación?

Sí, utilizando clasificación GP (con una función de enlace probit o logística). La cuantificación de la incertidumbre requiere inferencia aproximada (p. ej., aproximación de Laplace o propagación de expectativas), lo que la hace un poco más compleja que el caso de regresión.

¿Cuándo debería preferir bosques aleatorios o redes neuronales sobre GP-AL?

Cuando el conjunto de datos es grande (miles de ejemplos etiquetados o más) o de alta dimensionalidad (muchas características de entrada), porque el costo computacional del GP y la expresividad del kernel se vuelven limitantes. Las redes neuronales con dropout de Monte Carlo pueden servir como alternativas escalables para el aprendizaje activo en esos regímenes.

Métodos relacionados

Fuentes

  1. MacKay, D. J. C. (1992). Information-based objective functions for active data selection. Neural Computation, 4(4), 590–604.

    Abrir referencia DOI
    Copiado.
  2. Settles, B. (2012). Active Learning. Synthesis Lectures on Artificial Intelligence and Machine Learning. Morgan & Claypool.

    Abrir referencia de la publicación
    Copiado.