Skip to content
Voltar aos resultados

Aprendizado de Métrica

Proposto por
Xing, E. P.; Jordan, M. I.; Russell, S.; Ng, A. Y.
Ano
2003 (foundational); refined 2009 (LMNN)
Tipo
Representation learning / supervised distance optimization
Família
Machine learning

Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês

Tamanho da fonte

O que ele faz?

Aprendizado de métrica é uma estrutura de aprendizado de máquina que treina uma função de distância ou similaridade a partir de dados, de modo que exemplos semanticamente semelhantes fiquem próximos no espaço aprendido, enquanto exemplos dissimilares são afastados.

Diferentemente de distâncias fixas como a Euclidiana, a métrica aprendida se adapta à estrutura da tarefa, tornando classificadores, agrupadores e sistemas de recuperação subsequentes significativamente mais precisos.

A intuição por trás do método

Distâncias padrão como a Euclidiana tratam todas as dimensões de características igualmente. Mas em muitos problemas, algumas características são muito mais informativas do que outras, e as dimensões relevantes variam por classe. O aprendizado de métrica é como treinar a régua: dadas informações sobre quais pares de exemplos devem estar próximos e quais devem estar distantes, ele ajusta a geometria do espaço de características para que um classificador de vizinho mais próximo ou algoritmo de agrupamento simples obtenha os agrupamentos corretos imediatamente. O espaço aprendido captura efetivamente o que 'semelhante' significa para a tarefa específica.

História

A estrutura moderna foi estabelecida por Xing et al. (2003), que formularam o aprendizado de métrica como um problema de otimização convexa com restrições de pares. Weinberger e Saul (2009) introduziram o Large Margin Nearest Neighbor (LMNN), estabelecendo um novo padrão para tarefas baseadas em k-NN. O campo acelerou com o aprendizado de métrica profundo: Chopra et al. (2005) popularizaram a rede siamesa com perda contrastiva, e Schroff et al. (2015) introduziram a perda de tripletos FaceNet para verificação facial em larga escala. Hoje, o aprendizado de métrica sustenta grande parte do aprendizado few-shot e da pesquisa de representação visual.

Quando usar

Use o aprendizado de métrica quando a tarefa subsequente for inerentemente baseada em similaridade — por exemplo, classificação few-shot, verificação facial, recuperação de imagens médicas, identificação de locutor ou recomendação de produtos — e quando uma distância Euclidiana fixa tem um desempenho ruim porque as características têm relevância desigual. Ele se destaca com conjuntos de dados rotulados moderados a grandes e entradas de alta dimensão, como imagens ou incorporações de texto. Evite-o quando você tem muito poucos exemplos rotulados por classe (menos de cerca de 5 a 10 por classe), quando o objetivo final é uma regressão tabular simples ou classificação bem atendida por regressão logística ou gradient boosting, ou quando a interpretabilidade em termos de coeficientes de características explícitos é necessária.

Limitações e considerações

  • As perdas de tripletos e contrastivas exigem mineração cuidadosa de pares/tripletos; a amostragem aleatória produz principalmente pares fáceis e não informativos e retarda drasticamente o treinamento.
  • Métodos Mahalanobis lineares escalam quadraticamente com a dimensionalidade das características, tornando-se proibitivos em dimensões muito altas sem redução de dimensionalidade.
  • Requer dados rotulados ou com restrições de pares; configurações totalmente não supervisionadas limitam o que pode ser aprendido sem suposições adicionais.
  • A avaliação é indireta — a qualidade da métrica deve ser avaliada por meio de uma tarefa subsequente, não por um único valor de perda.

As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.

Pontos fortes

  • Adapta a geometria do espaço de características à tarefa específica, aumentando substancialmente a precisão de vizinhos mais próximos e agrupamento.
  • Permite o reconhecimento few-shot: uma vez que uma boa métrica é aprendida, classificar novas classes requer apenas um punhado de exemplos.
  • Transfere bem entre domínios — uma métrica aprendida em um conjunto de dados pode ser ajustada para uma tarefa relacionada com poucos dados adicionais.
  • Independente de modelo: a incorporação aprendida pode alimentar qualquer algoritmo subsequente (k-NN, SVM, k-means) sem retreinar esses componentes.
  • Formulações contrastivas e de tripletos escalam para conjuntos de dados muito grandes via amostragem em mini-lotes.

Aplicações

  • Verificação e reconhecimento facial: aprender se duas imagens de rosto mostram a mesma pessoa.
  • Classificação de imagens few-shot: classificar novas categorias visuais a partir de um ou poucos exemplos.
  • Recuperação de imagens médicas: encontrar regiões de varredura ou patches de histopatologia semelhantes em grandes bancos de dados.
  • Verificação de locutor e voz em sistemas de autenticação biométrica.
  • Recomendação de produtos e busca visual em e-commerce.

Como funciona

Como funciona

1

A partir de dados rotulados ou anotados em pares, são definidos pares positivos (mesma classe ou explicitamente semelhantes) e pares negativos (classe diferente ou explicitamente dissimilares). Essas restrições codificam o que 'próximo' e 'distante' significam para a tarefa e formam o sinal de supervisão para o treinamento da métrica.

2

Uma função de distância paramétrica é escolhida — na maioria das vezes uma distância de Mahalanobis governada por uma matriz M semidefinida positiva, ou uma função de incorporação de rede neural seguida por distância Euclidiana ou de cosseno. A matriz M generaliza o escalonamento alinhado aos eixos para uma reponderação completa entre características.

Fórmula
d_M(x_i,x_j)=\sqrt{(x_i-x_j)^\top M (x_i-x_j)},\; M \succeq 0
3

Um objetivo é formulado para aproximar pares positivos e afastar pares negativos, respeitando uma margem ou restrição suave. Objetivos comuns incluem a função de perda contrastiva, a função de perda de tripletos (distância âncora-positiva menor que a distância âncora-negativa por uma margem), ou a função de perda hinge de vizinho mais próximo de grande margem (LMNN).

4

Os parâmetros da métrica (M ou pesos da rede neural) são otimizados via gradiente descendente ou programação semidefinida. Estratégias de amostragem em mini-lotes, como a mineração de negativos difíceis (hard negative mining), são críticas para objetivos baseados em tripletos: a amostragem aleatória tende a produzir tripletos não informativos que atrasam a convergência.

5

Na inferência, a métrica ou incorporação aprendida é aplicada a novos dados. Tarefas subsequentes — classificação de vizinho mais próximo, agrupamento k-means, recuperação de imagens ou recomendação — operam no espaço aprendido, onde a distância reflete fielmente a similaridade semântica.

Erros comuns

  • Usar amostragem aleatória de tripletos em vez de mineração de negativos difíceis ou semi-difíceis, o que leva a gradiente próximo de zero e treinamento estagnado.
  • Avaliar a métrica apenas nas classes de treinamento; o desempenho em classes não vistas (o alvo de generalização real) pode ser muito menor.
  • Negligenciar a normalização das incorporações antes de calcular a similaridade de cosseno, causando artefatos de escala.
  • Tratar a incorporação aprendida como interpretável em termos de características originais sem análise adicional, como sondagem linear ou SHAP.
  • Aplicar uma métrica aprendida a uma mudança de domínio (distribuição de dados diferente) sem revalidação ou ajuste fino.

Perguntas frequentes

Qual a diferença entre aprendizado de métrica e aprendizado contrastivo?

Aprendizado contrastivo é uma família específica de objetivos de aprendizado de métrica (por exemplo, perda contrastiva, SimCLR) que contrastam pares positivos e negativos. Aprendizado de métrica é a estrutura mais ampla que também inclui métodos Mahalanobis, perdas de tripletos e objetivos baseados em proxy.

Quantos exemplos por classe eu preciso?

Métodos Mahalanobis lineares podem funcionar com apenas 10 a 20 exemplos por classe. O aprendizado de métrica profundo geralmente requer de dezenas a centenas de exemplos por classe para aprender incorporações úteis, embora backbones pré-treinados possam reduzir substancialmente essa exigência.

Aprendizado de métrica é o mesmo que redução de dimensionalidade?

Não exatamente. Métodos como PCA ou UMAP reduzem dimensões sem supervisão direta. O aprendizado de métrica usa supervisão de classe ou de pares para moldar a geometria, de modo que o espaço resultante seja discriminativo para a tarefa, não apenas compacto.

O aprendizado de métrica pode lidar com classes desbalanceadas?

Sim, mas a amostragem de pares/tripletos deve ser estratificada para evitar que a classe dominante sobrecarregue o lote. Perdas baseadas em proxy (Proxy-NCA, Proxy-Anchor) são mais robustas ao desbalanceamento de classes do que a amostragem de tripletos.

Quando devo usar aprendizado de métrica em vez de um classificador padrão?

Prefira o aprendizado de métrica quando você precisa generalizar para classes não vistas no momento do treinamento (reconhecimento de conjunto aberto, aprendizado few-shot), ou quando a tarefa é de recuperação em vez de previsão de classe fixa.

Métodos relacionados

Fontes

  1. Xing, E. P., Jordan, M. I., Russell, S., & Ng, A. Y. (2003). Distance metric learning with application to clustering with side-information. In Advances in Neural Information Processing Systems (NIPS), 16, 505–512.

    Abrir referência da publicação
    Copiado.
  2. Weinberger, K. Q., & Saul, L. K. (2009). Distance metric learning for large margin nearest neighbor classification. Journal of Machine Learning Research, 10, 207–244.

    Abrir referência da publicação
    Copiado.