Saltar al contenido
Volver a los resultados

Votación en Conjunto de Aprendizaje Activo

Propuesto por
Seung, H. S., Opper, M., & Sompolinsky, H.
Año
1992
Tipo
Active learning with ensemble voting
Familia
Machine learning

Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés

Tamaño de letra

¿Qué hace?

Votación en Conjunto de Aprendizaje Activo — conocido formalmente como Consulta por Comité — es una estrategia de aprendizaje activo que entrena un comité de modelos diversos y selecciona los ejemplos no etiquetados en los que los miembros del comité discrepan más para anotación humana.

Al centrar el esfuerzo de etiquetado en los puntos más informativos, logra una alta precisión con muchos menos ejemplos etiquetados de los que requiere el aprendizaje pasivo.

La intuición detrás del método

Imagine preguntar a cinco expertos que clasifiquen una muestra no etiquetada. Si cuatro están de acuerdo y uno discrepa, la respuesta es probablemente clara; no hay necesidad de pagar por una etiqueta. Pero si se dividen tres contra dos, esa muestra se encuentra justo en el límite de decisión, donde etiquetarla enseñará más a todos los modelos. La votación en conjunto de aprendizaje activo hace precisa esta intuición: construir un comité de modelos, dejar que voten y solo pagar por etiquetas cuando la votación está reñida. El resultado es un bucle de aprendizaje altamente eficiente que estira un pequeño presupuesto de anotación lo más lejos posible.

Historia

El marco de Consulta por Comité (QBC) fue introducido por Seung, Opper y Sompolinsky en COLT 1992 como un enfoque principista para el aprendizaje activo con comités de espacio de versiones. Fue uno de los primeros relatos teóricos sobre el uso de la discrepancia de conjuntos para guiar la recopilación de datos, y sigue siendo la referencia canónica para el aprendizaje activo basado en comités. La literatura más amplia sobre aprendizaje activo fue consolidada en la muy citada encuesta técnica de 2009 de Burr Settles, que sistematizó los escenarios basados en conjuntos, basados en flujos y de consulta de membresía, y estableció QBC como una estrategia fundamental junto con el muestreo de incertidumbre.

Cuándo usarlo

Utilice la votación en conjunto de aprendizaje activo cuando el etiquetado sea costoso o requiera mucho tiempo — anotación clínica, etiquetado de documentos legales, revisión especializada de imágenes — y haya disponible un gran conjunto de datos no etiquetados junto con un pequeño conjunto semilla etiquetado. Funciona bien para tareas de clasificación donde la discrepancia del comité es una señal significativa, y cuando se pueden implementar al menos 3-5 modelos diversos. Evítelo cuando las etiquetas sean baratas y abundantes (el aprendizaje pasivo sobre el conjunto de datos completo será entonces igual o más eficiente), cuando el conjunto no etiquetado sea muy pequeño, cuando la anotación en línea en tiempo real sea inviable, o cuando se requiera un único modelo interpretable en lugar de un conjunto.

Limitaciones y consideraciones

  • Requiere un bucle de anotación, lo que añade complejidad de infraestructura: un gestor de conjunto, una interfaz de oráculo y un pipeline de reentrenamiento.
  • El rendimiento depende en gran medida de la diversidad del comité; un comité homogéneo produce una discrepancia poco informativa.
  • El aprendizaje activo basado en conjuntos asume que todo el conjunto no etiquetado cabe en memoria; conjuntos muy grandes requieren aproximaciones.
  • La convergencia no está garantizada si el oráculo comete errores sistemáticos de etiquetado.

Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.

Fortalezas

  • Reduce drásticamente el número de ejemplos etiquetados necesarios para alcanzar una precisión objetivo en comparación con el muestreo aleatorio.
  • La votación en conjunto proporciona el doble beneficio de predicciones de menor varianza en tiempo de inferencia.
  • Agnóstico al modelo: cualquier conjunto de clasificadores diversos puede formar el comité.
  • La puntuación de discrepancia proporciona una señal de incertidumbre incorporada que es fácil de monitorear y visualizar.
  • Fundamentado teóricamente a través del marco de Consulta por Comité introducido en 1992.

Aplicaciones

  • Anotación de imágenes médicas donde los radiólogos expertos son escasos y el etiquetado es costoso.
  • Reconocimiento de entidades nombradas y clasificación de texto con corpus anotados limitados.
  • Análisis de sentimientos con jerga específica del dominio que requiere revisión especializada.
  • Descubrimiento de fármacos y predicción de propiedades moleculares con validación costosa en laboratorio.
  • Clasificación de imágenes satelitales donde solo una fracción de las teselas puede ser revisada manualmente.

Cómo funciona

Cómo funciona

1

Se inicializa un comité de k modelos base diversos (el conjunto de votación) con un pequeño conjunto semilla de ejemplos etiquetados. La diversidad es clave: los modelos pueden diferir en arquitectura, hiperparámetros o subconjunto de entrenamiento, de modo que sus desacuerdos sean informativos en lugar de aleatorios.

2

Para cada candidato no etiquetado x en el conjunto U, se mide la discrepancia D(C, x) entre el comité — las métricas comunes incluyen la entropía de votos (cuán dispersos están los votos) o la divergencia KL entre predicciones. Se selecciona la muestra con la puntuación de discrepancia más alta: x* = argmax D(C, x).

Fórmula
x^* = \arg\max_{x \in U} D(C, x)
3

El ejemplo no etiquetado seleccionado se envía a un oráculo humano (anotador experto, plataforma de crowdsourcing o etiquetador automatizado) para obtener una etiqueta de verdad fundamental. Este es el único paso que incurre en costo de anotación.

4

El ejemplo no etiquetado recién etiquetado se añade al conjunto de entrenamiento y se reentrenan (o actualizan incrementalmente) todos los miembros del comité. El bucle regresa al paso de consulta hasta que se agota el presupuesto de anotación o se alcanza un umbral de rendimiento.

5

En tiempo de inferencia, el comité entrenado produce una votación mayoritaria entre los k miembros: la clase predicha es la moda de las predicciones individuales h_1(x) hasta h_k(x), combinando tanto la ganancia de eficiencia del aprendizaje activo como la reducción de varianza del conjunto.

Fórmula
\hat{y} = \text{mode}(h_1(x), h_2(x), \ldots, h_k(x))

Errores comunes

  • Usar miembros del comité idénticos o casi idénticos; la diversidad es el motor del método y sin ella la discrepancia colapsa.
  • Reentrenar desde cero después de cada consulta individual; la consulta por lotes (seleccionar b ejemplos por ronda) es mucho más práctica.
  • Olvidar evaluar en un conjunto de prueba fijo y retenido durante todo el bucle; medir solo en el conjunto de entrenamiento en crecimiento oculta el sobreajuste.
  • Tratar la puntuación de discrepancia como una medida de confianza en la inferencia sin una calibración adecuada.
  • Ignorar el compromiso entre informativeness y representatividad: las muestras muy inciertas cerca del límite pueden ser valores atípicos, no ejemplos típicos.

Preguntas frecuentes

¿Cuántos miembros del comité debo usar?

De tres a diez modelos diversos es un rango práctico común. Menos miembros producen estimaciones de discrepancia más ruidosas; más miembros aumentan los costos de cómputo. Empíricamente, cinco clasificadores diversos a menudo proporcionan un buen equilibrio entre estabilidad y eficiencia.

¿Cómo mido la discrepancia en el comité?

La entropía de votos es la medida más común: H = -sum_c p(c) log p(c) donde p(c) es la fracción de miembros del comité que predicen la clase c. Para modelos probabilísticos, la divergencia KL promedio de la predicción media es una alternativa. Puntuaciones más altas indican muestras más informativas.

¿Puedo usar esto con modelos de aprendizaje profundo?

Sí. Los conjuntos profundos o las aproximaciones de MC-dropout pueden servir como comité. El principal desafío es el costo de reentrenamiento; estrategias como el ajuste fino de una columna compartida con cabezas diversas reducen esto considerablemente.

¿Qué pasa si mi presupuesto de anotación es muy ajustado, digamos, menos de 20 etiquetas?

Con muy pocas etiquetas, el muestreo aleatorio o la selección de semillas estratificadas a menudo rinden de manera comparable a QBC porque todos los métodos parten de una línea base casi igualmente pobre en información. La ventaja de QBC emerge más claramente una vez que el conjunto semilla tiene al menos 20-50 ejemplos por clase.

¿Funciona la votación en conjunto de aprendizaje activo para regresión?

Sí, con la discrepancia medida como la varianza o la desviación estándar de las predicciones del comité en lugar de la entropía de votos. Se aplica el mismo bucle de consulta-reentrenamiento; la salida final es la media de las predicciones del comité.

Métodos relacionados

Fuentes

  1. Seung, H. S., Opper, M., & Sompolinsky, H. (1992). Query by committee. In Proceedings of the Fifth Annual Workshop on Computational Learning Theory (COLT '92), pp. 287–294. ACM.

    Abrir referencia DOI
    Copiado.
  2. Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    Abrir referencia de la publicación
    Copiado.