Saltar al contenido
Volver a los resultados

Aprendizaje métrico

Propuesto por
Xing, E. P.; Jordan, M. I.; Russell, S.; Ng, A. Y.
Año
2003 (foundational); refined 2009 (LMNN)
Tipo
Representation learning / supervised distance optimization
Familia
Machine learning

Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés

Tamaño de letra

¿Qué hace?

El aprendizaje métrico es un marco de aprendizaje automático que entrena una función de distancia o similitud a partir de datos, de modo que los ejemplos semánticamente similares terminan juntos en el espacio aprendido, mientras que los ejemplos disímiles se separan.

A diferencia de las distancias fijas como la euclidiana, la métrica aprendida se adapta a la estructura de la tarea, lo que hace que los clasificadores, agrupadores y sistemas de recuperación posteriores sean significativamente más precisos.

La intuición detrás del método

Las distancias estándar como la euclidiana tratan todas las dimensiones de las características por igual. Pero en muchos problemas, algunas características son mucho más informativas que otras, y las dimensiones relevantes varían según la clase. El aprendizaje métrico es como entrenar la regla: dada información sobre qué pares de ejemplos deben estar cerca y cuáles deben estar separados, ajusta la geometría del espacio de características para que un clasificador de vecinos más cercanos o un algoritmo de agrupamiento simple obtenga las agrupaciones correctas de inmediato. El espacio aprendido captura eficazmente lo que significa 'similar' para la tarea específica.

Historia

El marco moderno fue establecido por Xing et al. (2003), quienes formularon el aprendizaje métrico como un problema de optimización convexa con restricciones por pares. Weinberger y Saul (2009) introdujeron Large Margin Nearest Neighbor (LMNN), estableciendo un nuevo estándar para las tareas basadas en k-NN. El campo se aceleró con el aprendizaje métrico profundo: Chopra et al. (2005) popularizaron la red siamesa con pérdida contrastiva, y Schroff et al. (2015) introdujeron la pérdida de tripletas FaceNet para la verificación facial a gran escala. Hoy en día, el aprendizaje métrico sustenta gran parte del aprendizaje de pocas tomas y la investigación de representación visual.

Cuándo usarlo

Utilice el aprendizaje métrico cuando la tarea posterior se base inherentemente en la similitud —por ejemplo, clasificación de pocas tomas, verificación facial, recuperación de imágenes médicas, identificación de hablantes o recomendación de productos— y cuando una distancia euclidiana fija funciona mal porque las características tienen una relevancia desigual. Destaca con conjuntos de datos etiquetados de tamaño moderado a grande y entradas de alta dimensión, como imágenes o incrustaciones de texto. Evítelo cuando tenga muy pocos ejemplos etiquetados por clase (menos de aproximadamente 5-10 por clase), cuando el objetivo final sea una regresión o clasificación tabular simple bien atendida por regresión logística o gradient boosting, o cuando se requiera interpretabilidad en términos de coeficientes de características explícitos.

Limitaciones y consideraciones

  • Las funciones de pérdida de tripletas y contrastivas requieren una cuidadosa minería de pares/tripletas; el muestreo aleatorio produce en su mayoría pares fáciles y poco informativos y ralentiza drásticamente el entrenamiento.
  • Los métodos lineales de Mahalanobis escalan cuadráticamente con la dimensionalidad de las características, volviéndose prohibitivos en dimensiones muy altas sin reducción de dimensionalidad.
  • Requiere datos etiquetados o con restricciones por pares; las configuraciones completamente no supervisadas limitan lo que se puede aprender sin suposiciones adicionales.
  • La evaluación es indirecta: la calidad de la métrica debe evaluarse a través de una tarea posterior, no de un único valor de pérdida.

Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.

Fortalezas

  • Adapta la geometría del espacio de características a la tarea específica, aumentando sustancialmente la precisión de los vecinos más cercanos y el agrupamiento.
  • Permite el reconocimiento de pocas tomas: una vez que se aprende una buena métrica, clasificar nuevas clases requiere solo un puñado de ejemplos.
  • Se transfiere bien entre dominios: una métrica aprendida en un conjunto de datos puede ajustarse para una tarea relacionada con pocos datos adicionales.
  • Independiente del modelo: la incrustación aprendida puede alimentar cualquier algoritmo posterior (k-NN, SVM, k-means) sin volver a entrenar esos componentes.
  • Las formulaciones contrastivas y de tripletas escalan a conjuntos de datos muy grandes mediante el muestreo por mini-lotes.

Aplicaciones

  • Verificación y reconocimiento facial: aprender si dos imágenes faciales muestran a la misma persona.
  • Clasificación de imágenes de pocas tomas: clasificar nuevas categorías visuales a partir de uno o unos pocos ejemplos.
  • Recuperación de imágenes médicas: encontrar regiones de escaneo o parches de histopatología similares en grandes bases de datos.
  • Verificación de hablantes y voz en sistemas de autenticación biométrica.
  • Recomendación de productos y búsqueda visual en el comercio electrónico.

Cómo funciona

Cómo funciona

1

A partir de datos etiquetados o anotados por pares, se definen pares positivos (misma clase o explícitamente similares) y pares negativos (clase diferente o explícitamente disímiles). Estas restricciones codifican lo que significan 'cerca' y 'lejos' para la tarea, y forman la señal de supervisión para entrenar la métrica.

2

Se elige una función de distancia paramétrica, con mayor frecuencia una distancia de Mahalanobis gobernada por una matriz M semidefinida positiva, o una función de incrustación de red neuronal seguida de una distancia euclidiana o coseno. La matriz M generaliza el escalado alineado con los ejes a una reponderación completa entre características.

Fórmula
d_M(x_i,x_j)=\sqrt{(x_i-x_j)^\top M (x_i-x_j)},\; M \succeq 0
3

Se formula un objetivo para acercar los pares positivos y separar los pares negativos, respetando un margen o una restricción suave. Los objetivos comunes incluyen la función de pérdida contrastiva, la función de pérdida de tripletas (distancia ancla-positiva menor que la distancia ancla-negativa por un margen), o la función de pérdida de bisagra de vecinos más cercanos de gran margen (LMNN).

4

Los parámetros de la métrica (M o los pesos de la red neuronal) se optimizan mediante descenso de gradiente o programación semidefinida. Las estrategias de muestreo por mini-lotes, como la minería de negativos difíciles, son críticas para los objetivos basados en tripletas: el muestreo aleatorio tiende a producir tripletas poco informativas que ralentizan la convergencia.

5

En la inferencia, la métrica o incrustación aprendida se aplica a nuevos datos. Las tareas posteriores —clasificación de vecinos más cercanos, agrupamiento k-means, recuperación de imágenes o recomendación— operan en el espacio aprendido, donde la distancia refleja fielmente la similitud semántica.

Errores comunes

  • Uso de muestreo aleatorio de tripletas en lugar de minería de negativos difíciles o semi-difíciles, lo que lleva a un gradiente casi nulo y a un estancamiento del entrenamiento.
  • Evaluación de la métrica solo en las clases de entrenamiento; el rendimiento en clases no vistas (el objetivo de generalización real) puede ser mucho menor.
  • Descuidar la normalización de las incrustaciones antes de calcular la similitud coseno, lo que provoca artefactos de escala.
  • Tratar la incrustación aprendida como interpretable en términos de características originales sin análisis adicionales como el sondeo lineal o SHAP.
  • Aplicar una métrica aprendida a un cambio de dominio (distribución de datos diferente) sin revalidación o ajuste fino.

Preguntas frecuentes

¿Cuál es la diferencia entre el aprendizaje métrico y el aprendizaje contrastivo?

El aprendizaje contrastivo es una familia específica de objetivos de aprendizaje métrico (por ejemplo, pérdida contrastiva, SimCLR) que contrastan pares positivos y negativos. El aprendizaje métrico es el marco más amplio que también incluye métodos de Mahalanobis, pérdidas de tripletas y objetivos basados en proxies.

¿Cuántos ejemplos por clase necesito?

Los métodos lineales de Mahalanobis pueden funcionar con tan solo 10-20 ejemplos por clase. El aprendizaje métrico profundo generalmente requiere de decenas a cientos de ejemplos por clase para aprender incrustaciones útiles, aunque los backbones preentrenados pueden reducir sustancialmente este requisito.

¿Es el aprendizaje métrico lo mismo que la reducción de dimensionalidad?

No exactamente. Métodos como PCA o UMAP reducen las dimensiones sin supervisión directa. El aprendizaje métrico utiliza la supervisión de clases o por pares para dar forma a la geometría, de modo que el espacio resultante sea discriminatorio para la tarea, no solo compacto.

¿Puede el aprendizaje métrico manejar clases desequilibradas?

Sí, pero el muestreo de pares/tripletas debe ser estratificado para evitar que la clase dominante abrume el lote. Las pérdidas basadas en proxies (Proxy-NCA, Proxy-Anchor) son más robustas al desequilibrio de clases que el muestreo de tripletas.

¿Cuándo debo usar el aprendizaje métrico en lugar de un clasificador estándar?

Prefiera el aprendizaje métrico cuando necesite generalizar a clases no vistas en el momento del entrenamiento (reconocimiento de conjunto abierto, aprendizaje de pocas tomas), o cuando la tarea sea de recuperación en lugar de predicción de clase fija.

Métodos relacionados

Fuentes

  1. Xing, E. P., Jordan, M. I., Russell, S., & Ng, A. Y. (2003). Distance metric learning with application to clustering with side-information. In Advances in Neural Information Processing Systems (NIPS), 16, 505–512.

    Abrir referencia de la publicación
    Copiado.
  2. Weinberger, K. Q., & Saul, L. K. (2009). Distance metric learning for large margin nearest neighbor classification. Journal of Machine Learning Research, 10, 207–244.

    Abrir referencia de la publicación
    Copiado.