Skip to content
Voltar aos resultados

Regressão Logística com Aprendizagem Ativa

Proposto por
Lewis, D. D. & Gale, W. A.; Settles, B. (survey)
Ano
1994–2010
Tipo
Active learning framework with logistic regression base learner
Família
Machine learning

Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês

Tamanho da fonte

O que ele faz?

Aprendizagem Ativa com Regressão Logística é um framework iterativo e eficiente em termos de rótulos, no qual um modelo de regressão logística seleciona os exemplos não rotulados sobre os quais tem mais incerteza, um oráculo (anotador humano) os rotula e o modelo é retreinado — repetindo até que um orçamento de rotulagem ou uma meta de precisão seja atingida.

Reduz drasticamente o custo de anotação em comparação com a rotulagem aleatória.

A intuição por trás do método

Rotular dados é caro. Em vez de anotar uma amostra aleatória, imagine o modelo logístico apontando apenas para os exemplos onde sua probabilidade prevista está mais próxima de 0,5 — significando que ele genuinamente não consegue decidir. Um especialista rotula apenas esses casos limítrofes, e o modelo é retreinado. Como cada exemplo rotulado carrega informação máxima, o modelo atinge boa precisão com muito menos rótulos do que a aprendizagem passiva. A regressão logística é favorecida aqui porque fornece probabilidades calibradas que refletem diretamente a incerteza.

História

A aprendizagem ativa como framework foi formalizada no início dos anos 1990. Lewis e Gale (1994) introduziram a amostragem de incerteza para classificação de texto usando um aprendiz Naive Bayes, e a abordagem foi rapidamente adaptada para regressão logística. A pesquisa de Settles em 2010 tornou-se a referência canônica, catalogando estratégias de consulta incluindo menor confiança, amostragem de margem e entropia. A regressão logística permanece o aprendiz base mais comumente citado em benchmarks de aprendizagem ativa baseada em pool porque suas probabilidades são calibradas e seu custo de retreinamento é baixo.

Quando usar

Use aprendizagem ativa com regressão logística quando a anotação for custosa (registros médicos, documentos legais, pesquisas especializadas) e os dados não rotulados forem abundantes, mas o orçamento total de rotulagem for limitado. Ela se destaca para classificação de texto binária ou multiclasse, análise de sentimento e codificação clínica quando as características são razoavelmente linearmente separáveis. Evite-a quando (a) o limite de decisão for altamente não linear e a regressão logística não puder modelá-lo mesmo com engenharia de características, (b) o oráculo for não confiável ou caro para consultar repetidamente, (c) o pool rotulado já for grande o suficiente para supervisão completa, ou (d) o pool não rotulado for muito pequeno para se beneficiar da consulta seletiva.

Limitações e considerações

  • O desempenho degrada quando o limite de decisão verdadeiro é não linear; nesses casos, um SVM com kernel ou um aprendiz ativo neural é preferível.
  • A amostragem de incerteza pode criar um conjunto rotulado enviesado que super-representa instâncias limítrofes e sub-representa o grosso de cada classe.
  • Requer interação repetida com o oráculo, o que adiciona sobrecarga logística em comparação com um único lote de rotulagem.
  • Arranque a frio (Cold-start): o conjunto inicial de sementes influencia fortemente as consultas iniciais, portanto, uma semente mal escolhida pode desacelerar a convergência.

As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.

Pontos fortes

  • Reduz drasticamente o número de rótulos necessários para atingir uma precisão alvo em comparação com a amostragem aleatória.
  • A regressão logística fornece probabilidades nativamente calibradas, tornando as estimativas de incerteza confiáveis sem calibração adicional.
  • Transparente e auditável: o modelo linear e o critério de consulta são ambos inspecionáveis.
  • Computacionalmente barato para retreinar após cada consulta, permitindo fluxos de trabalho de anotação em tempo real ou quase real.
  • Transfere-se perfeitamente para a classificação de texto com representações de características TF-IDF ou bag-of-words.

Aplicações

  • Classificação de texto e análise de sentimento com corpora rotulados limitados.
  • Codificação de registros médicos e PLN clínica onde a anotação especializada é cara.
  • Pipelines de anotação ativa para pesquisas de ciências sociais e moderação de conteúdo.
  • Feedback de relevância na recuperação de informação, onde os usuários rotulam apenas documentos incertos.
  • Bootstrapping de reconhecimento de entidades biomédicas com anotações iniciais mínimas.

Como funciona

Como funciona

1

Um pequeno conjunto inicial de exemplos rotulados é montado — frequentemente de 10 a algumas centenas de instâncias, dependendo do domínio. Um modelo de regressão logística é treinado neste conjunto inicial para estabelecer um limite de decisão inicial. As instâncias não rotuladas restantes formam o pool do qual as consultas serão extraídas.

2

A regressão logística ajusta um limite de decisão linear maximizando a log-verossimilhança do conjunto rotulado. A saída é uma probabilidade P(y=1|x) = sigmoid(w^T x) para cada instância. Como a regressão logística produz probabilidades calibradas, seus escores de confiança são diretamente interpretáveis como estimativas de incerteza — uma razão chave pela qual ela se combina naturalmente com a aprendizagem ativa.

Fórmula
P(y=1 \mid x) = \sigma(\mathbf{w}^\top x)
3

Cada instância não rotulada no pool é pontuada por um critério de incerteza. A mais comum é a amostragem de menor confiança: o modelo seleciona a instância cuja probabilidade máxima de classe é a menor (ou seja, o modelo tem menos certeza). Para problemas binários, isso se reduz a selecionar pontos próximos ao limite de decisão (probabilidade prevista mais próxima de 0,5).

Fórmula
x^* = \arg\min_{x \in U} \max_y P(y \mid x, \hat{\theta})
4

A instância mais incerta (ou um lote das k instâncias mais incertas) é apresentada a um anotador humano ou oráculo para rotulagem. O oráculo fornece o rótulo de classe verdadeiro, que é adicionado ao conjunto de treinamento rotulado. Um orçamento de rotulagem fixo determina quantas consultas o loop pode fazer.

5

O modelo de regressão logística é retreinado no conjunto rotulado expandido. O desempenho é avaliado em um conjunto de validação separado. Se o orçamento não estiver esgotado e a meta de precisão não tiver sido atingida, o loop retorna à etapa de pontuação de incerteza. O processo termina quando o orçamento se esgota ou o desempenho se estabiliza.

Erros comuns

  • Avaliar o desempenho apenas no conjunto rotulado ativamente selecionado, em vez de um conjunto separado i.i.d. mantido de lado, o que infla as estimativas de precisão.
  • Ignorar o desequilíbrio de classes no conjunto de sementes — uma semente desequilibrada faz com que o modelo consulte quase exclusivamente a partir da fronteira da classe minoritária.
  • Aplicar amostragem de incerteza a um pool com desvio de distribuição entre dados rotulados e não rotulados sem ponderação de densidade ou correção de representatividade.
  • Tratar o modelo final como uma regressão logística padrão sem levar em conta a amostragem enviesada ao relatar intervalos de confiança ou testes de hipóteses.

Perguntas frequentes

Por que usar regressão logística em vez de um modelo mais poderoso?

A regressão logística fornece probabilidades bem calibradas, retreina rapidamente após cada consulta e é interpretável — tudo crítico em loops de aprendizagem ativa onde o modelo é atualizado muitas vezes e as pontuações de incerteza devem ser confiáveis. Modelos mais complexos podem ser usados, mas aumentam o custo de retreinamento e podem exigir calibração de probabilidade (por exemplo, calibração de Platt para SVMs).

Quantos rótulos iniciais preciso para começar?

Não há regra fixa, mas 10-50 exemplos rotulados por classe são pontos de partida comuns na literatura. Sementes muito poucas produzem um modelo inicial instável cujas estimativas de incerteza são não confiáveis; muitas derrotam o propósito da aprendizagem ativa.

Qual é a diferença entre amostragem de incerteza e consulta por comitê?

A amostragem de incerteza usa a confiança de predição de um único modelo para selecionar consultas. A consulta por comitê treina um comitê de modelos e seleciona pontos onde eles mais discordam. Para regressão logística, a amostragem de incerteza (menor confiança ou entropia) é mais comum porque precisa de apenas um modelo.

Posso usar consultas em lote em vez de uma de cada vez?

Sim. A aprendizagem ativa em modo lote seleciona as k instâncias mais incertas por rodada para reduzir a frequência de interação com o oráculo. Uma heurística comum é usar um tamanho de lote de 10-50, retreinando após cada lote em vez de após cada consulta individual.

Como avalio a curva de aprendizagem ativa?

Plote a precisão de classificação (ou F1, AUC) em um conjunto de teste fixo mantido de lado como uma função do número de rótulos consultados. Compare essa curva com uma linha de base de amostragem aleatória. A área sob a curva de aprendizagem em relação à amostragem aleatória quantifica o ganho de eficiência de rotulagem.

Métodos relacionados

Fontes

  1. Settles, B. (2010). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    Abrir referência da publicação
    Copiado.
  2. Lewis, D. D., & Gale, W. A. (1994). A sequential algorithm for training text classifiers. Proceedings of the 17th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval, 3–12.

    Abrir referência DOI
    Copiado.