UMAP
- Propuesto por
- McInnes, L.; Healy, J.; Melville, J.
- Año
- 2018
- Tipo
- Nonlinear manifold-learning dimension reduction
Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés
¿Qué hace?
UMAP (Uniform Manifold Approximation and Projection) es un método rápido y escalable de reducción de dimensionalidad no lineal, basado en la teoría de aprendizaje de variedades (manifold learning), introducido por McInnes, Healy y Melville en 2018.
Comprime datos de alta dimensionalidad en una incrustación de baja dimensionalidad para visualización y análisis posteriores.
La intuición detrás del método
Los datos reales con muchas características a menudo se encuentran en una superficie curva de mucha menor dimensionalidad, o variedad, incrustada en el espacio de alta dimensionalidad. UMAP intenta aprender la forma de esa superficie a partir de cómo los puntos se agrupan cerca de sus vecinos, y luego la despliega en dos o tres dimensiones para que la estructura se haga visible. En comparación con t-SNE, tiende a mantener más el diseño global, siendo mucho más rápido en grandes conjuntos de datos.
Historia
UMAP fue introducido en 2018 por Leland McInnes, John Healy y James Melville, quienes lo construyeron sobre la teoría de aprendizaje de variedades como una alternativa más rápida y escalable a t-SNE. Rápidamente se convirtió en una herramienta estándar para la reducción de dimensionalidad y la visualización, particularmente en campos con datos de muy alta dimensionalidad, porque preserva más estructura global al tiempo que escala a grandes conjuntos de datos.
Cuándo usarlo
Utilice UMAP para visualizar o comprimir datos continuos y de alta dimensionalidad con al menos unas 50 observaciones, ya sea para exploración o como paso de preprocesamiento antes de la clasificación. Los hiperparámetros n_neighbors y min_dist deben ajustarse a la estructura que le interese, y se debe fijar un random_state para la reproducibilidad. Por debajo de unas 50 observaciones, la variedad no se puede aprender de forma fiable y el PCA lineal es la opción más segura.
Limitaciones y consideraciones
- Las distancias entre clústeres en la incrustación pueden ser engañosas y no deben sobreinterpretarse.
- Los resultados dependen de los hiperparámetros n_neighbors y min_dist, que deben ajustarse.
- La salida no es determinista a menos que se fije un random_state.
- En muestras pequeñas (n por debajo de unas 50), la variedad no se puede aprender de forma fiable y la visualización se vuelve engañosa; PCA es preferible.
Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.
Fortalezas
- Rápido y escalable a grandes conjuntos de datos, mucho más rápido que t-SNE.
- Preserva mejor la estructura global que t-SNE, al tiempo que captura clústeres locales.
- Captura estructuras no lineales que los métodos lineales como PCA no pueden.
- Produce incrustaciones de 2 o 3 dimensiones muy adecuadas para la visualización.
Aplicaciones
- Visualizar datos continuos de alta dimensionalidad en dos o tres dimensiones.
- Análisis exploratorio para revelar clústeres y estructura antes de un modelado formal.
- Reducción de dimensionalidad como paso de preprocesamiento antes de la clasificación.
- Comprimir grandes conjuntos de datos con muchas características donde la velocidad es importante.
Cómo funciona
Cómo funciona
UMAP primero construye un grafo de vecindad ponderado de los datos de alta dimensionalidad: cada punto se conecta a sus vecinos más cercanos, controlado por el hiperparámetro n_neighbors, que establece cuánta estructura local versus global se captura. Este grafo es la aproximación de UMAP de la variedad subyacente.
Luego se optimiza un diseño de baja dimensionalidad para que su propio grafo de vecindad coincida lo más estrechamente posible con el de alta dimensionalidad, minimizando la entropía cruzada entre las dos representaciones gráficas. El hiperparámetro min_dist rige cuán estrechamente se permite que los puntos se agrupen, dando forma a la densidad de los clústeres resultantes.
Fórmula
Y = \arg\min_{Y} \; \text{cross-entropy}(G_{\text{high}}, G_{\text{low}})El resultado es una incrustación de 2 o 3 dimensiones en la que observaciones similares se sitúan cerca unas de otras, listas para graficar o para alimentar algoritmos de agrupamiento o clasificación. Las formas de los clústeres se conservan, pero las distancias entre clústeres deben interpretarse con precaución, y se necesita un random_state fijo para una salida reproducible.
Errores comunes
- Interpretar las distancias entre clústeres como si fueran cantidades significativas.
- Dejar n_neighbors y min_dist en sus valores predeterminados en lugar de ajustarlos a los datos.
- Olvidar establecer un random_state, por lo que la incrustación no es reproducible.
- Ejecutar UMAP en menos de unas 50 observaciones y confiar en el gráfico resultante.
Preguntas frecuentes
¿En qué se diferencia UMAP de t-SNE?
Ambos son métodos no lineales para visualizar datos de alta dimensionalidad, pero UMAP se basa en la teoría de aprendizaje de variedades, tiende a preservar mejor la estructura global y es mucho más rápido en grandes conjuntos de datos.
¿Puedo interpretar las distancias entre clústeres en el gráfico?
Sea cauteloso. UMAP preserva las formas de los clústeres, pero las distancias entre clústeres pueden ser engañosas y no deben interpretarse como cantidades precisas.
¿Qué hiperparámetros son los más importantes?
n_neighbors controla el equilibrio entre la estructura local y global, y min_dist controla cuán estrechamente se agrupan los puntos. Ambos deben ajustarse, y se debe fijar un random_state para que la incrustación sea reproducible.
¿Qué pasa si tengo muy pocas observaciones?
Por debajo de unas 50 observaciones, la variedad no se puede aprender de forma fiable y la incrustación se vuelve engañosa. En ese caso, un método lineal como PCA es la opción más segura.
Métodos relacionados
Fuentes
McInnes, L., Healy, J. & Melville, J. (2018). UMAP: Uniform Manifold Approximation and Projection for Dimension Reduction. arXiv:1802.03426.
Abrir referencia de la publicaciónCopiado.