Saltar al contenido
Volver a los resultados

t-SNE

Propuesto por
van der Maaten, L. & Hinton, G.
Año
2008
Tipo
Nonlinear dimensionality reduction (manifold visualization)

Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés

Tamaño de letra

¿Qué hace?

t-SNE (t-Distributed Stochastic Neighbor Embedding) es un método de reducción de dimensionalidad no lineal introducido por Laurens van der Maaten y Geoffrey Hinton en 2008 que mapea datos de alta dimensionalidad a un espacio 2D o 3D para visualización.

Preserva similitudes locales probabilísticas, de modo que los puntos que son vecinos en el espacio original permanecen juntos, revelando la estructura de clústeres y los vecindarios locales.

La intuición detrás del método

Cuando los datos residen en docenas o cientos de dimensiones, no podemos verlos directamente. t-SNE plantea una pregunta más simple para cada par de puntos: ¿qué probabilidad hay de que uno sea elegido como vecino del otro? Luego, organiza una imagen 2D o 3D de modo que esas probabilidades de vecino se reproduzcan lo más fielmente posible. El resultado es un mapa donde las observaciones estrechamente relacionadas se agrupan en cúmulos visibles, permitiendo al ojo detectar grupos que son invisibles en la tabla bruta de alta dimensionalidad.

Historia

t-SNE fue introducido por Laurens van der Maaten y Geoffrey Hinton en 2008 en el Journal of Machine Learning Research, basándose en el anterior Stochastic Neighbor Embedding al reemplazar su kernel de baja dimensionalidad Gaussiano con una distribución t de Student de colas pesadas para resolver el problema de aglomeración. Rápidamente se convirtió en la herramienta predeterminada para visualizar datos de alta dimensionalidad en aprendizaje automático, genómica y neurociencia. Más recientemente, UMAP ha surgido como una alternativa más rápida que a menudo preserva más estructura global, pero t-SNE sigue siendo una referencia estándar para la visualización exploratoria.

Cuándo usarlo

Utilice t-SNE para visualizar y explorar datos continuos de alta dimensionalidad — embeddings, perfiles de expresión génica, características de imágenes — cuando desee ver la estructura de clústeres local en 2D o 3D, con al menos unas 50 observaciones. Es una herramienta exploratoria y visual: lea sus mapas para detectar patrones de agrupación y vecindario, no para inferencia cuantitativa. Estandarice las características primero, ajuste la perplejidad (una regla general es alrededor de n/10, dentro de 5–50) y verifique la estabilidad en varios valores de perplejidad. En conjuntos de datos muy grandes es lento, por lo que UMAP es una alternativa más rápida.

Limitaciones y consideraciones

  • Solo visualización — las distancias y los tamaños de los clústeres en el mapa no tienen significado cuantitativo, por lo que no se debe extraer ninguna inferencia estadística de él.
  • Lento en conjuntos de datos grandes; UMAP es una alternativa más rápida.
  • Los resultados son estocásticos y dependen fuertemente de la perplejidad, por lo que diferentes ejecuciones o configuraciones pueden verse diferentes.
  • En muestras pequeñas (n por debajo de aproximadamente 50) la incrustación es inestable y no reproducible.

Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.

Fortalezas

  • Excelente para revelar la estructura de clústeres local y los vecindarios que los métodos lineales pasan por alto.
  • No lineal: captura la estructura de la variedad curva que PCA no puede.
  • Produce mapas 2D/3D intuitivos que hacen visibles las agrupaciones de alta dimensionalidad de un vistazo.
  • El kernel t de Student de colas pesadas evita el problema de aglomeración, manteniendo los clústeres bien separados.

Aplicaciones

  • Visualización de embeddings de alta dimensionalidad y espacios de características aprendidas en 2D o 3D.
  • Exploración de la estructura de clústeres en datos de células únicas o de expresión génica.
  • Inspección de representaciones de características de imágenes o texto de modelos profundos.
  • Análisis exploratorio de vecindarios antes de la agrupación o clasificación cuantitativa.

Cómo funciona

Cómo funciona

1

Para cada par de puntos en el espacio original de alta dimensionalidad, t-SNE convierte su distancia en una probabilidad condicional de que uno elegiría al otro como vecino, utilizando un kernel Gaussiano. El ancho de ese kernel se establece por punto de modo que el número efectivo de vecinos coincida con la perplejidad elegida (típicamente 5–50), lo que controla el equilibrio entre la estructura local y global.

Fórmula
p_{j|i} = \frac{\exp(-\lVert x_i - x_j \rVert^2 / 2\sigma_i^2)}{\sum_{k \neq i}\exp(-\lVert x_i - x_k \rVert^2 / 2\sigma_i^2)}
2

Cada punto obtiene una posición en el mapa de baja dimensionalidad, y las similitudes por pares allí se miden con una distribución t de Student de colas pesadas en lugar de una Gaussiana. Las colas pesadas dan a los puntos distantes espacio para separarse, lo que evita que todo se aplaste en el centro —el 'problema de aglomeración' que sufrían los métodos anteriores.

Fórmula
q_{ij} = \frac{(1 + \lVert y_i - y_j \rVert^2)^{-1}}{\sum_{k \neq l}(1 + \lVert y_k - y_l \rVert^2)^{-1}}
3

t-SNE mueve los puntos de baja dimensionalidad mediante descenso de gradiente para minimizar la divergencia de Kullback–Leibler entre las probabilidades de vecino de alta dimensionalidad y las de baja dimensionalidad. A medida que este coste se reduce, la estructura de vecindario del mapa llega a coincidir con la de los datos originales, produciendo la disposición final agrupada.

Fórmula
C = \mathrm{KL}(P \,\Vert\, Q) = \sum_{i \neq j} p_{ij} \log \frac{p_{ij}}{q_{ij}}

Errores comunes

  • Leer los tamaños de los clústeres o las distancias entre clústeres como si fueran significativas — no lo son.
  • Omitir la estandarización de características antes de ejecutar la incrustación.
  • Elegir una única perplejidad y nunca verificar la estabilidad en otros valores.
  • Extraer conclusiones cuantitativas de una herramienta destinada solo a la exploración visual.
  • Ejecutar t-SNE en menos de ~50 observaciones, donde el mapa se vuelve estocástico y engañoso.

Preguntas frecuentes

¿Qué controla la perplejidad?

La perplejidad establece el número efectivo de vecinos que considera cada punto, equilibrando la atención a la estructura local frente a la más amplia. Los valores típicos son 5–50, con una regla general alrededor de n/10; es aconsejable probar varios y verificar que la estructura visible sea estable.

¿Puedo leer los tamaños de los clústeres y las distancias de un gráfico t-SNE?

No. t-SNE preserva los vecindarios locales pero no la geometría global, por lo que el tamaño de un clúster y las brechas entre clústeres no son cuantitativamente significativos. Utilice el gráfico para detectar agrupaciones, no para medirlas.

¿Cómo se diferencia t-SNE de PCA?

PCA es una proyección lineal sobre las direcciones de máxima varianza y preserva la estructura global, mientras que t-SNE es un método no lineal que preserva los vecindarios locales y se destaca en la revelación de clústeres. Son complementarios; PCA se utiliza a menudo como un paso de preprocesamiento antes de t-SNE.

¿Debería usar t-SNE o UMAP?

Ambos son métodos de visualización no lineales. t-SNE es un estándar de larga data para la estructura local, mientras que UMAP es más rápido en conjuntos de datos grandes y tiende a preservar más estructura global, por lo que es la mejor opción cuando el volumen de datos es alto.

Métodos relacionados

Fuentes

  1. van der Maaten, L. & Hinton, G. (2008). Visualizing Data using t-SNE. Journal of Machine Learning Research, 9(86), 2579–2605.

    Abrir referencia de la publicación
    Copiado.