Aprendizado de Métrica
- Proposto por
- Xing, E. P.; Jordan, M. I.; Russell, S.; Ng, A. Y.
- Ano
- 2003 (foundational); refined 2009 (LMNN)
- Tipo
- Representation learning / supervised distance optimization
- Família
- Machine learning
Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês
O que ele faz?
Aprendizado de métrica é uma estrutura de aprendizado de máquina que treina uma função de distância ou similaridade a partir de dados, de modo que exemplos semanticamente semelhantes fiquem próximos no espaço aprendido, enquanto exemplos dissimilares são afastados.
Diferentemente de distâncias fixas como a Euclidiana, a métrica aprendida se adapta à estrutura da tarefa, tornando classificadores, agrupadores e sistemas de recuperação subsequentes significativamente mais precisos.
A intuição por trás do método
Distâncias padrão como a Euclidiana tratam todas as dimensões de características igualmente. Mas em muitos problemas, algumas características são muito mais informativas do que outras, e as dimensões relevantes variam por classe. O aprendizado de métrica é como treinar a régua: dadas informações sobre quais pares de exemplos devem estar próximos e quais devem estar distantes, ele ajusta a geometria do espaço de características para que um classificador de vizinho mais próximo ou algoritmo de agrupamento simples obtenha os agrupamentos corretos imediatamente. O espaço aprendido captura efetivamente o que 'semelhante' significa para a tarefa específica.
História
A estrutura moderna foi estabelecida por Xing et al. (2003), que formularam o aprendizado de métrica como um problema de otimização convexa com restrições de pares. Weinberger e Saul (2009) introduziram o Large Margin Nearest Neighbor (LMNN), estabelecendo um novo padrão para tarefas baseadas em k-NN. O campo acelerou com o aprendizado de métrica profundo: Chopra et al. (2005) popularizaram a rede siamesa com perda contrastiva, e Schroff et al. (2015) introduziram a perda de tripletos FaceNet para verificação facial em larga escala. Hoje, o aprendizado de métrica sustenta grande parte do aprendizado few-shot e da pesquisa de representação visual.
Quando usar
Use o aprendizado de métrica quando a tarefa subsequente for inerentemente baseada em similaridade — por exemplo, classificação few-shot, verificação facial, recuperação de imagens médicas, identificação de locutor ou recomendação de produtos — e quando uma distância Euclidiana fixa tem um desempenho ruim porque as características têm relevância desigual. Ele se destaca com conjuntos de dados rotulados moderados a grandes e entradas de alta dimensão, como imagens ou incorporações de texto. Evite-o quando você tem muito poucos exemplos rotulados por classe (menos de cerca de 5 a 10 por classe), quando o objetivo final é uma regressão tabular simples ou classificação bem atendida por regressão logística ou gradient boosting, ou quando a interpretabilidade em termos de coeficientes de características explícitos é necessária.
Limitações e considerações
- As perdas de tripletos e contrastivas exigem mineração cuidadosa de pares/tripletos; a amostragem aleatória produz principalmente pares fáceis e não informativos e retarda drasticamente o treinamento.
- Métodos Mahalanobis lineares escalam quadraticamente com a dimensionalidade das características, tornando-se proibitivos em dimensões muito altas sem redução de dimensionalidade.
- Requer dados rotulados ou com restrições de pares; configurações totalmente não supervisionadas limitam o que pode ser aprendido sem suposições adicionais.
- A avaliação é indireta — a qualidade da métrica deve ser avaliada por meio de uma tarefa subsequente, não por um único valor de perda.
As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.
Pontos fortes
- Adapta a geometria do espaço de características à tarefa específica, aumentando substancialmente a precisão de vizinhos mais próximos e agrupamento.
- Permite o reconhecimento few-shot: uma vez que uma boa métrica é aprendida, classificar novas classes requer apenas um punhado de exemplos.
- Transfere bem entre domínios — uma métrica aprendida em um conjunto de dados pode ser ajustada para uma tarefa relacionada com poucos dados adicionais.
- Independente de modelo: a incorporação aprendida pode alimentar qualquer algoritmo subsequente (k-NN, SVM, k-means) sem retreinar esses componentes.
- Formulações contrastivas e de tripletos escalam para conjuntos de dados muito grandes via amostragem em mini-lotes.
Aplicações
- Verificação e reconhecimento facial: aprender se duas imagens de rosto mostram a mesma pessoa.
- Classificação de imagens few-shot: classificar novas categorias visuais a partir de um ou poucos exemplos.
- Recuperação de imagens médicas: encontrar regiões de varredura ou patches de histopatologia semelhantes em grandes bancos de dados.
- Verificação de locutor e voz em sistemas de autenticação biométrica.
- Recomendação de produtos e busca visual em e-commerce.
Como funciona
Como funciona
A partir de dados rotulados ou anotados em pares, são definidos pares positivos (mesma classe ou explicitamente semelhantes) e pares negativos (classe diferente ou explicitamente dissimilares). Essas restrições codificam o que 'próximo' e 'distante' significam para a tarefa e formam o sinal de supervisão para o treinamento da métrica.
Uma função de distância paramétrica é escolhida — na maioria das vezes uma distância de Mahalanobis governada por uma matriz M semidefinida positiva, ou uma função de incorporação de rede neural seguida por distância Euclidiana ou de cosseno. A matriz M generaliza o escalonamento alinhado aos eixos para uma reponderação completa entre características.
Fórmula
d_M(x_i,x_j)=\sqrt{(x_i-x_j)^\top M (x_i-x_j)},\; M \succeq 0Um objetivo é formulado para aproximar pares positivos e afastar pares negativos, respeitando uma margem ou restrição suave. Objetivos comuns incluem a função de perda contrastiva, a função de perda de tripletos (distância âncora-positiva menor que a distância âncora-negativa por uma margem), ou a função de perda hinge de vizinho mais próximo de grande margem (LMNN).
Os parâmetros da métrica (M ou pesos da rede neural) são otimizados via gradiente descendente ou programação semidefinida. Estratégias de amostragem em mini-lotes, como a mineração de negativos difíceis (hard negative mining), são críticas para objetivos baseados em tripletos: a amostragem aleatória tende a produzir tripletos não informativos que atrasam a convergência.
Na inferência, a métrica ou incorporação aprendida é aplicada a novos dados. Tarefas subsequentes — classificação de vizinho mais próximo, agrupamento k-means, recuperação de imagens ou recomendação — operam no espaço aprendido, onde a distância reflete fielmente a similaridade semântica.
Erros comuns
- Usar amostragem aleatória de tripletos em vez de mineração de negativos difíceis ou semi-difíceis, o que leva a gradiente próximo de zero e treinamento estagnado.
- Avaliar a métrica apenas nas classes de treinamento; o desempenho em classes não vistas (o alvo de generalização real) pode ser muito menor.
- Negligenciar a normalização das incorporações antes de calcular a similaridade de cosseno, causando artefatos de escala.
- Tratar a incorporação aprendida como interpretável em termos de características originais sem análise adicional, como sondagem linear ou SHAP.
- Aplicar uma métrica aprendida a uma mudança de domínio (distribuição de dados diferente) sem revalidação ou ajuste fino.
Perguntas frequentes
Qual a diferença entre aprendizado de métrica e aprendizado contrastivo?
Aprendizado contrastivo é uma família específica de objetivos de aprendizado de métrica (por exemplo, perda contrastiva, SimCLR) que contrastam pares positivos e negativos. Aprendizado de métrica é a estrutura mais ampla que também inclui métodos Mahalanobis, perdas de tripletos e objetivos baseados em proxy.
Quantos exemplos por classe eu preciso?
Métodos Mahalanobis lineares podem funcionar com apenas 10 a 20 exemplos por classe. O aprendizado de métrica profundo geralmente requer de dezenas a centenas de exemplos por classe para aprender incorporações úteis, embora backbones pré-treinados possam reduzir substancialmente essa exigência.
Aprendizado de métrica é o mesmo que redução de dimensionalidade?
Não exatamente. Métodos como PCA ou UMAP reduzem dimensões sem supervisão direta. O aprendizado de métrica usa supervisão de classe ou de pares para moldar a geometria, de modo que o espaço resultante seja discriminativo para a tarefa, não apenas compacto.
O aprendizado de métrica pode lidar com classes desbalanceadas?
Sim, mas a amostragem de pares/tripletos deve ser estratificada para evitar que a classe dominante sobrecarregue o lote. Perdas baseadas em proxy (Proxy-NCA, Proxy-Anchor) são mais robustas ao desbalanceamento de classes do que a amostragem de tripletos.
Quando devo usar aprendizado de métrica em vez de um classificador padrão?
Prefira o aprendizado de métrica quando você precisa generalizar para classes não vistas no momento do treinamento (reconhecimento de conjunto aberto, aprendizado few-shot), ou quando a tarefa é de recuperação em vez de previsão de classe fixa.
Métodos relacionados
Fontes
Xing, E. P., Jordan, M. I., Russell, S., & Ng, A. Y. (2003). Distance metric learning with application to clustering with side-information. In Advances in Neural Information Processing Systems (NIPS), 16, 505–512.
Abrir referência da publicaçãoCopiado.Weinberger, K. Q., & Saul, L. K. (2009). Distance metric learning for large margin nearest neighbor classification. Journal of Machine Learning Research, 10, 207–244.
Abrir referência da publicaçãoCopiado.