Skip to content
Voltar aos resultados

Aprendizagem Ativa

Proposto por
Burr Settles
Ano
2009
Tipo
Interactive supervised learning framework
Família
Interactive ML

Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês

Tamanho da fonte

O que ele faz?

Aprendizagem ativa é um paradigma iterativo de aprendizado de máquina no qual um algoritmo de aprendizado consulta seletivamente um oráculo — tipicamente um anotador humano — para rótulos nos exemplos não rotulados mais informativos.

Formalizada por Burr Settles em sua seminal pesquisa bibliográfica de 2009, a aprendizagem ativa aborda o gargalo prático do custo de anotação, alcançando alta precisão do modelo com muito menos exemplos rotulados do que o aprendizado supervisionado passivo requer.

A intuição por trás do método

Imagine um estudante de medicina que, em vez de memorizar cada página de um livro didático, pergunta ao médico assistente apenas sobre os casos mais intrigantes. O estudante aprende mais rápido focando na incerteza em vez de revisar exemplos que já entende. A aprendizagem ativa funciona da mesma maneira: o modelo identifica os exemplos sobre os quais está mais confuso, solicita rótulos humanos para essas instâncias específicas e se atualiza — repetindo este ciclo até que o desempenho seja satisfatório.

História

O conceito de consultar seletivamente exemplos de treinamento informativos remonta ao design experimental ótimo de Fedorov (1972) e à aprendizagem por consulta de Cohn et al. (1994). O campo foi substancialmente unificado e popularizado pelo relatório técnico de Burr Settles em 2009, que catalogou estratégias de consulta, limites teóricos e aplicações em PLN, bioinformática e visão computacional. A aprendizagem ativa profunda emergiu após 2016, à medida que as redes neurais se tornaram a classe de modelo dominante, promovendo novas técnicas de estimativa de incerteza.

Quando usar

A aprendizagem ativa é mais benéfica quando os dados não rotulados são abundantes, mas a anotação especializada é cara, lenta ou escassa — comum em imagens médicas, classificação de documentos legais, curadoria de dados científicos e processamento de linguagem natural. Assume a disponibilidade do oráculo e que a estratégia de consulta pode identificar significativamente exemplos informativos. É menos adequada quando o custo de anotação é insignificante, o conjunto não rotulado é pequeno, ou a distribuição da tarefa muda substancialmente entre as consultas. Alternativas incluem aprendizado semi-supervisionado (quando rótulos não podem ser obtidos interativamente) e auto-treinamento (quando consultas ao oráculo são inviáveis).

Limitações e considerações

  • Estratégias de consulta podem introduzir viés de amostragem, fazendo com que o conjunto rotulado não seja representativo da verdadeira distribuição dos dados.
  • Ganhos de desempenho dependem fortemente da escolha da estratégia de consulta, que é específica da tarefa e do modelo.
  • Retreinar o modelo após cada consulta é computacionalmente caro para redes neurais grandes.
  • Ruído do oráculo (desacordo ou erros do anotador) pode degradar o desempenho se não for explicitamente modelado.

As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.

Pontos fortes

  • Reduz drasticamente o custo de rotulagem ao focar o esforço de anotação em exemplos maximamente informativos.
  • Aplicável a qualquer aprendiz supervisionado — classificação, regressão, predição estruturada — sem modificar a arquitetura do modelo subjacente.
  • Teoricamente fundamentada: a amostragem por incerteza e a consulta em comitê têm justificativas PAC-learning e Bayesianas.
  • Compatível com fluxos de trabalho de crowdsourcing e plataformas de anotação modernas.

Aplicações

  • Anotação de imagens médicas (radiologia, patologia) onde a rotulagem especializada é cara e escassa.
  • Reconhecimento de entidades nomeadas e extração de relações em PLN, reduzindo os requisitos de corpus rotulados manualmente.
  • Descoberta de drogas: seleção de quais candidatos moleculares sintetizar e ensaiar.
  • Sensoriamento remoto e classificação de imagens de satélite com rótulos de verdade terrestre limitados.
  • Condução autônoma: priorização da anotação de cenários de condução raros ou críticos para a segurança.

Como funciona

Como funciona

1

O processo começa com um grande conjunto de exemplos não rotulados U e um conjunto rotulado L inicialmente vazio. Um modelo base pode ser pré-treinado em quaisquer dados de semente rotulados disponíveis, ou inicializado aleatoriamente. Essa separação de dados rotulados e não rotulados é a suposição estrutural definidora da aprendizagem ativa baseada em conjunto.

Fórmula
\mathcal{U} = \{\mathbf{x}_1, \mathbf{x}_2, \ldots, \mathbf{x}_n\}, \quad \mathcal{L} = \emptyset
2

A cada iteração, o aprendiz pontua cada instância não rotulada de acordo com um critério de informatividade — aqui, a amostragem por incerteza seleciona o exemplo cuja probabilidade posterior de classe máxima é a mais baixa, indicando incerteza máxima do modelo. Critérios alternativos incluem desacordo por consulta em comitê e mudança esperada do modelo.

Fórmula
\mathbf{x}^* = \arg\max_{\mathbf{x} \in \mathcal{U}} \phi(\mathbf{x}; \theta), \quad \phi(\mathbf{x}) = 1 - \max_{y} P_\theta(y \mid \mathbf{x})
3

A instância selecionada x* é apresentada a um oráculo (especialista humano, plataforma de crowdsourcing ou anotador automatizado) que fornece um rótulo y*. O par recém-rotulado é movido de U para L, e o contador do orçamento de consulta é decrementado. O custo do oráculo é tipicamente tratado como uniforme por consulta.

Fórmula
y^* = \mathcal{O}(\mathbf{x}^*), \quad \mathcal{L} \leftarrow \mathcal{L} \cup \{(\mathbf{x}^*, y^*)\}, \quad \mathcal{U} \leftarrow \mathcal{U} \setminus \{\mathbf{x}^*\}
4

Os parâmetros do modelo são retreinados (ou ajustados) no conjunto rotulado atual L minimizando uma perda empírica. O modelo atualizado então reavalia o conjunto restante, e o ciclo de consulta-seleção-rotulagem-retreinamento se repete até que o orçamento seja esgotado ou um limite de precisão alvo seja atingido.

Fórmula
\theta^* = \arg\min_\theta \frac{1}{|\mathcal{L}|} \sum_{(\mathbf{x},y) \in \mathcal{L}} \mathcal{L}_{\text{loss}}(f_\theta(\mathbf{x}), y)

Erros comuns

  • Problema de 'cold-start': com poucos rótulos iniciais, as estimativas de incerteza são não confiáveis, levando a consultas iniciais ruins.
  • Aprendizagem ativa em lote pode selecionar instâncias redundantes se as correlações inter-consulta forem ignoradas.
  • Aplicar aprendizagem ativa a redes neurais profundas com incerteza baseada em dropout (por exemplo, MC Dropout) pode subestimar a incerteza em regiões fora da distribuição.
  • Comparar execuções de aprendizagem ativa entre sementes ou orçamentos de consulta sem intervalos de confiança leva a conclusões enganosas sobre a superioridade da estratégia.

Perguntas frequentes

Como a aprendizagem ativa difere do aprendizado semi-supervisionado?

O aprendizado semi-supervisionado explora a estrutura dos dados não rotulados (por exemplo, clustering, suposições de manifold) sem consultar um oráculo, atualizando o modelo usando pseudo-rótulos ou regularização de consistência. A aprendizagem ativa solicita explicitamente rótulos verdadeiros de um oráculo para exemplos selecionados. As duas abordagens são complementares e podem ser combinadas.

Qual estratégia de consulta devo usar na prática?

A amostragem por incerteza é a linha de base mais utilizada e funciona bem para classificadores binários e multiclasse. A consulta em comitê é preferível quando um ensemble já está disponível. A mudança esperada do modelo ou BALD (Bayesian Active Learning by Disagreement) tendem a ter melhor desempenho para modelos profundos, mas são computacionalmente mais pesados. Comece com amostragem por incerteza e compare com alternativas.

A aprendizagem ativa pode ser aplicada a tarefas de regressão?

Sim. Para regressão, a informatividade é tipicamente medida pela variância preditiva (por exemplo, de um processo Gaussiano ou ensemble) em vez da entropia da probabilidade de classe. O aprendiz consulta pontos onde a variância é mais alta. Esta é uma prática padrão em otimização Bayesiana e design de experimentos baseado em modelo substituto.

Métodos relacionados

Fontes

  1. Settles, B. (2009). Active learning literature survey. University of Wisconsin-Madison Computer Sciences Technical Report 1648.

    Abrir referência da publicação
    Copiado.