Aprendizado Ativo com Ensemble de Votação (Active Learning Voting Ensemble)
- Proposto por
- Seung, H. S., Opper, M., & Sompolinsky, H.
- Ano
- 1992
- Tipo
- Active learning with ensemble voting
- Família
- Machine learning
Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês
O que ele faz?
O ensemble de votação com aprendizado ativo — formalizado como consulta por comitê (Query by Committee, QBC) — é uma estratégia de aprendizado ativo que treina um comitê de modelos diversos e seleciona os exemplos não rotulados nos quais os membros do comitê mais discordam para anotação humana.
Ao focar o esforço de rotulagem nos pontos mais informativos, atinge alta precisão com muito menos exemplos rotulados do que o aprendizado passivo exige.
A intuição por trás do método
Imagine perguntar a cinco especialistas para classificar uma amostra não rotulada. Se quatro concordam e um discorda, a resposta é provavelmente clara — não há necessidade de pagar por um rótulo. Mas se eles se dividem em três contra dois, essa amostra fica bem na fronteira de decisão, onde rotulá-la ensinará mais a todos os modelos. O ensemble de votação de aprendizado ativo torna essa intuição precisa: construa um comitê de modelos, deixe-os votar e pague por rótulos apenas quando a votação estiver acirrada. O resultado é um ciclo de aprendizado altamente eficiente que estica um pequeno orçamento de anotação o máximo possível.
História
O arcabouço de consulta por comitê (Query by Committee, QBC) foi introduzido por Seung, Opper e Sompolinsky na COLT 1992 como uma abordagem fundamentada em princípios para aprendizado ativo com comitês de espaço de versão. Foi uma das primeiros relatos teóricos do uso da discordância de ensemble para guiar a coleta de dados, e permanece a referência canônica para aprendizado ativo baseado em comitê. A literatura mais ampla de aprendizado ativo foi consolidada na levantamento (survey) amplamente citado de Burr Settles em 2009, que sistematizou cenários de pool, stream e consulta de pertencimento (membership query) e estabeleceu o QBC como uma estratégia fundamental ao lado da amostragem de incerteza.
Quando usar
Use o ensemble de votação de aprendizado ativo quando a rotulagem for cara ou demorada — anotação clínica, marcação de documentos legais, revisão especializada de imagens — e um grande pool de dados não rotulados estiver disponível ao lado de um pequeno conjunto semente rotulado. Funciona bem para tarefas de classificação onde a discordância do comitê é um sinal significativo, e quando pelo menos 3–5 modelos diversos podem ser empregados. Evite-o quando os rótulos forem baratos e abundantes (o aprendizado passivo em todo o conjunto de dados será igualmente ou mais eficiente), quando o pool não rotulado for muito pequeno, quando a anotação online em tempo real for inviável, ou quando um único modelo interpretável for necessário em vez de um ensemble.
Limitações e considerações
- Requer um ciclo de anotação, que adiciona complexidade de infraestrutura: um gerenciador de pool, interface de oráculo e pipeline de retreinamento.
- O desempenho depende fortemente da diversidade do comitê; um comitê homogêneo produz discordância não informativa.
- O aprendizado ativo baseado em pool assume que todo o pool não rotulado cabe na memória; pools muito grandes requerem aproximações.
- A convergência não é garantida se o oráculo cometer erros sistemáticos de rotulagem.
As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.
Pontos fortes
- Reduz drasticamente o número de exemplos rotulados necessários para atingir uma precisão alvo em comparação com a amostragem aleatória.
- A votação em ensemble fornece o benefício duplo de predições com menor variância na inferência.
- Agnóstico ao modelo: qualquer conjunto de classificadores diversos pode formar o comitê.
- A pontuação de discordância fornece um sinal de incerteza embutido que é fácil de monitorar e visualizar.
- Teoricamente bem fundamentado por meio do arcabouço de consulta por comitê (Query by Committee) introduzido em 1992.
Aplicações
- Anotação de imagens médicas onde radiologistas especialistas são escassos e a rotulagem é cara.
- Reconhecimento de entidades nomeadas e classificação de texto com corpora anotados limitados.
- Análise de sentimento com jargão específico de domínio que requer revisão especializada.
- Descoberta de fármacos e predição de propriedades moleculares com validação cara em laboratório.
- Classificação de imagens de satélite onde apenas uma fração de recortes (tiles) pode ser revisada manualmente.
Como funciona
Como funciona
Um comitê de k modelos base diversos (o ensemble de votação) é inicializado em um pequeno conjunto semente de exemplos rotulados. A diversidade é fundamental: os modelos podem diferir em arquitetura, hiperparâmetros ou subconjunto de treinamento, de modo que suas discordâncias sejam informativas em vez de aleatórias.
Para cada candidato não rotulado x no pool U, mede-se a discordância D(C, x) entre o comitê — métricas comuns incluem entropia de votos (quão dispersos são os votos) ou divergência KL entre as predições. A amostra com a maior pontuação de discordância é selecionada: x* = argmax D(C, x).
Fórmula
x^* = \arg\max_{x \in U} D(C, x)O exemplo não rotulado selecionado é submetido a um oráculo humano (anotador especialista, plataforma de crowdsourcing ou rotulador automatizado) para um rótulo de verdade fundamental. Esta é a única etapa que incorre em custo de anotação.
O exemplo recém-rotulado é adicionado ao conjunto de treinamento e todos os membros do comitê são retreinados (ou atualizados incrementalmente). O ciclo retorna à etapa de consulta até que o orçamento de anotação seja esgotado ou um limiar de desempenho seja atingido.
Na inferência, o comitê treinado produz um voto majoritário entre todos os k membros: a classe predita é a moda das predições individuais h_1(x) a h_k(x), combinando tanto o ganho de eficiência do aprendizado ativo quanto a redução de variância do ensemble.
Fórmula
\hat{y} = \text{mode}(h_1(x), h_2(x), \ldots, h_k(x))Erros comuns
- Usar membros de comitê idênticos ou quase idênticos — a diversidade é o motor do método e, sem ela, a discordância colapsa.
- Retreinamento do zero após cada consulta individual; a consulta em lote (selecionando b exemplos por rodada) é muito mais prática.
- Esquecer de avaliar em um conjunto de teste fixo e mantido durante todo o ciclo — medir apenas no conjunto de treinamento crescente oculta o sobreajuste (overfitting).
- Tratar a pontuação de discordância como uma medida de confiança na inferência sem calibração adequada.
- Ignorar o compromisso entre informatividade e representatividade: amostras altamente incertas perto da fronteira podem ser valores atípicos, não exemplos típicos.
Perguntas frequentes
Quantos membros de comitê devo usar?
Três a dez modelos diversos é uma faixa prática comum. Menos membros produzem estimativas de discordância mais ruidosas; mais membros aumentam os custos de computação. Empiricamente, cinco classificadores diversos frequentemente fornecem um bom equilíbrio entre estabilidade e eficiência.
Como meço a discordância no comitê?
A entropia de votos é a medida mais comum: H = -sum_c p(c) log p(c) onde p(c) é a fração de membros do comitê prevendo a classe c. Para modelos probabilísticos, a divergência KL média da predição média é uma alternativa. Pontuações mais altas indicam amostras mais informativas.
Posso usar isso com modelos de aprendizado profundo?
Sim. Ensembles profundos ou aproximações de MC-dropout podem servir como comitê. O principal desafio é o custo de retreinamento — estratégias como ajuste fino de uma rede-base compartilhada com cabeças diversas reduzem isso consideravelmente.
E se meu orçamento de anotação for muito apertado — digamos, menos de 20 rótulos?
Com muito poucos rótulos, a amostragem aleatória ou a seleção de semente estratificada frequentemente se comparam ao QBC, pois todos os métodos começam de uma linha de base quase igualmente pobre em informação. A vantagem do QBC emerge mais claramente assim que o conjunto semente tem pelo menos 20–50 exemplos por classe.
O ensemble de votação com aprendizado ativo funciona para regressão?
Sim, com a discordância medida como a variância ou o desvio padrão das predições do comitê em vez da entropia de votos. O mesmo ciclo de consulta-retreinamento se aplica; a saída final é a média das predições do comitê.
Métodos relacionados
Fontes
Seung, H. S., Opper, M., & Sompolinsky, H. (1992). Query by committee. In Proceedings of the Fifth Annual Workshop on Computational Learning Theory (COLT '92), pp. 287–294. ACM.
Abrir referência DOICopiado.Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
Abrir referência da publicaçãoCopiado.