Skip to content
Voltar aos resultados

t-SNE

Proposto por
van der Maaten, L. & Hinton, G.
Ano
2008
Tipo
Nonlinear dimensionality reduction (manifold visualization)

Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês

Tamanho da fonte

O que ele faz?

t-SNE (t-Distributed Stochastic Neighbor Embedding) é um método não linear de redução de dimensionalidade introduzido por Laurens van der Maaten e Geoffrey Hinton em 2008, que mapeia dados de alta dimensionalidade para um espaço 2D ou 3D para visualização.

Ele preserva similaridades locais probabilísticas, de modo que pontos que são vizinhos no espaço original permaneçam próximos uns dos outros, revelando estrutura de cluster e vizinhanças locais.

A intuição por trás do método

Quando os dados residem em dezenas ou centenas de dimensões, não podemos vê-los diretamente. O t-SNE faz uma pergunta mais simples para cada par de pontos: qual a probabilidade de um ser escolhido como vizinho do outro? Em seguida, ele organiza uma imagem 2D ou 3D de modo que essas probabilidades de vizinhança sejam reproduzidas com a maior fidelidade possível. O resultado é um mapa onde observações intimamente relacionadas se reúnem em aglomerados visíveis, permitindo que o olho identifique grupos que são invisíveis na tabela bruta de alta dimensionalidade.

História

O t-SNE foi introduzido por Laurens van der Maaten e Geoffrey Hinton em 2008 no Journal of Machine Learning Research, baseando-se no anterior Stochastic Neighbor Embedding ao substituir seu kernel de baixa dimensionalidade Gaussiano por uma distribuição t de Student de caudas pesadas para resolver o problema de aglomeração. Rapidamente se tornou a ferramenta padrão para visualização de dados de alta dimensionalidade em machine learning, genômica e neurociência. Mais recentemente, o UMAP emergiu como uma alternativa mais rápida que frequentemente preserva mais estrutura global, mas o t-SNE permanece uma referência padrão para visualização exploratória.

Quando usar

Use o t-SNE para visualizar e explorar dados contínuos de alta dimensionalidade — embeddings, perfis de expressão gênica, características de imagem — quando quiser ver a estrutura de cluster local em 2D ou 3D, com pelo menos cerca de 50 observações. É uma ferramenta exploratória e visual: leia seus mapas para padrões de agrupamento e vizinhança, não para inferência quantitativa. Padronize as características primeiro, ajuste a perplexidade (uma regra prática é em torno de n/10, dentro de 5–50) e verifique a estabilidade em vários valores de perplexidade. Em conjuntos de dados muito grandes, ele é lento, então o UMAP é uma alternativa mais rápida.

Limitações e considerações

  • Apenas visualização — distâncias e tamanhos de cluster no mapa não têm significado quantitativo, portanto, nenhuma inferência estatística deve ser extraída dele.
  • Lento em grandes conjuntos de dados; UMAP é uma alternativa mais rápida.
  • Os resultados são estocásticos e dependem fortemente da perplexidade, portanto, execuções ou configurações diferentes podem parecer diferentes.
  • Em amostras pequenas (n abaixo de cerca de 50) o embedding é instável e não reproduzível.

As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.

Pontos fortes

  • Excelente em revelar estrutura de cluster local e vizinhanças que métodos lineares perdem.
  • Não linear: captura estrutura de manifold curva que o PCA não consegue.
  • Produz mapas 2D/3D intuitivos que tornam os agrupamentos de alta dimensionalidade visíveis rapidamente.
  • O kernel t de Student de caudas pesadas evita o problema de aglomeração, mantendo os clusters bem separados.

Aplicações

  • Visualização de embeddings de alta dimensionalidade e espaços de características aprendidos em 2D ou 3D.
  • Exploração da estrutura de cluster em dados de célula única ou de expressão gênica.
  • Inspeção de representações de características de imagem ou texto de modelos profundos.
  • Análise exploratória de vizinhança antes de clustering ou classificação quantitativa.

Como funciona

Como funciona

1

Para cada par de pontos no espaço original de alta dimensionalidade, o t-SNE converte sua distância em uma probabilidade condicional de que um escolheria o outro como vizinho, usando um kernel Gaussiano. A largura desse kernel é definida por ponto de modo que o número efetivo de vizinhos corresponda à perplexidade escolhida (tipicamente 5–50), que controla o equilíbrio entre estrutura local e global.

Fórmula
p_{j|i} = \frac{\exp(-\lVert x_i - x_j \rVert^2 / 2\sigma_i^2)}{\sum_{k \neq i}\exp(-\lVert x_i - x_k \rVert^2 / 2\sigma_i^2)}
2

Cada ponto recebe uma posição no mapa de baixa dimensionalidade, e as similaridades de pares lá são medidas com uma distribuição t de Student de caudas pesadas em vez de uma Gaussiana. As caudas pesadas dão aos pontos distantes espaço para se espalharem, o que impede que tudo seja esmagado no centro — o 'problema de aglomeração' que métodos anteriores sofriam.

Fórmula
q_{ij} = \frac{(1 + \lVert y_i - y_j \rVert^2)^{-1}}{\sum_{k \neq l}(1 + \lVert y_k - y_l \rVert^2)^{-1}}
3

O t-SNE move os pontos de baixa dimensionalidade por descida de gradiente para minimizar a divergência de Kullback–Leibler entre as probabilidades de vizinhança de alta dimensionalidade e as de baixa dimensionalidade. À medida que esse custo diminui, a estrutura de vizinhança do mapa passa a corresponder à dos dados originais, produzindo o layout de cluster final.

Fórmula
C = \mathrm{KL}(P \,\Vert\, Q) = \sum_{i \neq j} p_{ij} \log \frac{p_{ij}}{q_{ij}}

Erros comuns

  • Ler tamanhos de cluster ou distâncias entre clusters como se fossem significativos — eles não são.
  • Pular a padronização de características antes de executar o embedding.
  • Escolher uma única perplexidade e nunca verificar a estabilidade em outros valores.
  • Tirar conclusões quantitativas de uma ferramenta destinada apenas à exploração visual.
  • Executar t-SNE em menos de ~50 observações, onde o mapa se torna estocástico e enganoso.

Perguntas frequentes

O que a perplexidade controla?

A perplexidade define o número efetivo de vizinhos que cada ponto considera, equilibrando a atenção à estrutura local versus mais ampla. Valores típicos são 5–50, com uma regra prática em torno de n/10; é prudente tentar vários e verificar se a estrutura visível é estável.

Posso ler tamanhos de cluster e distâncias de um gráfico t-SNE?

Não. O t-SNE preserva vizinhanças locais, mas não a geometria global, portanto, o tamanho de um cluster e as lacunas entre clusters não são quantitativamente significativos. Use o gráfico para identificar agrupamentos, não para medi-los.

Como o t-SNE difere do PCA?

O PCA é uma projeção linear nas direções de variância máxima e preserva a estrutura global, enquanto o t-SNE é um método não linear que preserva vizinhanças locais e se destaca na revelação de clusters. Eles são complementares; o PCA é frequentemente usado como uma etapa de pré-processamento antes do t-SNE.

Devo usar t-SNE ou UMAP?

Ambos são métodos de visualização não lineares. O t-SNE é um padrão de longa data para estrutura local, enquanto o UMAP é mais rápido em grandes conjuntos de dados e tende a preservar mais estrutura global, sendo, portanto, a melhor escolha quando o volume de dados é alto.

Métodos relacionados

Fontes

  1. van der Maaten, L. & Hinton, G. (2008). Visualizing Data using t-SNE. Journal of Machine Learning Research, 9(86), 2579–2605.

    Abrir referência da publicação
    Copiado.