Aprendizado Ativo com Ensemble Empilhado (Active Learning Stacking Ensemble)
- Proposto por
- Wolpert, D. H. (stacking); Settles, B. (active learning survey)
- Ano
- 1992–2012
- Tipo
- Hybrid (active learning + stacked ensemble)
- Família
- Machine learning
Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês
O que ele faz?
O ensemble empilhado com aprendizado ativo combina um ciclo de consulta de aprendizado ativo com generalização empilhada: um conjunto de dados não rotulados está disponível, e o modelo seleciona iterativamente as instâncias mais informativas para rotulagem humana, usando esses rótulos para treinar e refinar um ensemble empilhado de múltiplos aprendizes base com um meta-aprendiz no topo.
Essa abordagem reduz o custo de anotação enquanto maximiza o poder preditivo do ensemble.
A intuição por trás do método
Rotular dados é caro. O aprendizado ativo pergunta: quais exemplos não rotulados ensinariam mais ao modelo? Ao medir a incerteza ou a discordância entre os aprendizes base de um ensemble empilhado, o sistema pode direcionar o anotador humano para os exemplos em que o ensemble está mais confuso. Cada novo ponto rotulado é realimentado no pipeline de empilhamento, atualizando tanto os aprendizes base quanto o meta-aprendiz. O resultado é um ensemble forte construído com muito menos rótulos do que o treinamento supervisionado padrão exigiria.
História
A generalização empilhada foi introduzida por David Wolpert em 1992 como uma forma de combinar aprendizes base diversos através de um meta-aprendiz. O aprendizado ativo como um arcabouço sistemático para selecionar exemplos informativos foi amplamente revisado por Burr Settles em 2012. A combinação — aplicar estratégias de consulta ativa a arquiteturas de ensemble ou empilhamento — surgiu nas décadas de 2000 e 2010, à medida que pesquisadores buscavam reduzir os custos de anotação para modelos complexos, e é agora um paradigma estabelecido em aprendizado de máquina com poucos recursos e eficiente em anotação.
Quando usar
Use o ensemble empilhado com aprendizado ativo quando os dados rotulados forem escassos ou caros de obter, um grande conjunto de dados não rotulados estiver disponível e você precisar de alta precisão preditiva. É particularmente valioso em domínios como anotação médica, classificação de documentos legais e rotulagem de imagens científicas, onde o tempo do especialista é limitado. Não use essa abordagem quando todos os dados puderem ser rotulados de forma barata — o empilhamento padrão será mais simples e igualmente eficaz. Evite-o quando o conjunto não rotulado for pequeno (a seleção ativa oferece pouco benefício) ou quando predições em tempo real forem necessárias durante o ciclo de consulta, pois o retreinamento da pilha após cada consulta é computacionalmente caro.
Limitações e considerações
- Retreinar o ensemble empilhado completo após cada consulta é computacionalmente caro para grandes conjuntos de aprendizes base.
- A concepção da estratégia de consulta não é trivial: uma função de aquisição ruim pode selecionar exemplos redundantes ou não informativos.
- O meta-aprendiz requer dados rotulados suficientes para aprender pesos de combinação confiáveis; com poucos rótulos, as meta-características são ruidosas.
- A latência de feedback de um oráculo humano pode tornar o ciclo iterativo lento na prática.
- O desempenho depende fortemente da diversidade dos aprendizes base e do meta-aprendiz escolhido.
As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.
Pontos fortes
- Alcança alta precisão preditiva com menos exemplos rotulados do que o empilhamento supervisionado passivo.
- A diversidade do ensemble de múltiplos aprendizes base torna as estimativas de incerteza da consulta mais confiáveis.
- O meta-aprendiz combina adaptativamente os aprendizes base, corrigindo o viés de cada aprendiz base.
- Compatível com praticamente qualquer combinação de aprendizes base e meta-aprendiz.
- Reduz o orçamento de anotação sistematicamente, tornando o tempo do especialista mais eficiente.
Aplicações
- Classificação de imagens médicas ou registros clínicos com casos anotados limitados.
- Classificação de documentos legais e regulatórios onde a anotação especializada é cara.
- Rotulagem de dados científicos em biologia, química e sensoriamento remoto.
- Análise de sentimento e classificação de texto com dados rotulados escassos e específicos do domínio.
- Detecção de fraude onde rótulos de verdade fundamental exigem investigação manual.
- Qualquer tarefa de predição tabular com um grande conjunto não rotulado e um orçamento de rotulagem apertado.
Como funciona
Como funciona
Um pequeno conjunto inicial de exemplos rotulados é usado para ajustar os aprendizes base iniciais na pilha. Os dados restantes permanecem não rotulados em um pool de candidatos. Este conjunto inicial define o ponto de partida para todas as consultas ativas subsequentes.
Uma função de aquisição — como incerteza de predição, amostragem de margem ou discordância de consulta por comitê entre os aprendizes base — pontua cada candidato não rotulado. A instância com a maior pontuação é selecionada como a mais informativa para rotulagem.
A instância selecionada é apresentada a um anotador humano ou a um oráculo automatizado, que atribui seu rótulo verdadeiro. Este exemplo rotulado é adicionado ao conjunto de treinamento para a próxima rodada de treinamento.
Com o conjunto rotulado atualizado, cada aprendiz base (por exemplo, árvore de decisão, SVM, regressão logística) é retreinado. As predições fora da dobra dos aprendizes base no conjunto de treinamento formam a matriz de meta-características usada para treinar o meta-aprendiz.
Um meta-aprendiz (comumente regressão logística ou um modelo linear) é treinado nas meta-características produzidas pelos aprendizes base. Ele aprende como combinar melhor suas predições, corrigindo os erros sistemáticos de cada aprendiz base.
As Etapas 2–5 se repetem para um orçamento fixo de consultas ou até que o desempenho do modelo em um conjunto de validação separado se estabilize. O ensemble empilhado final é o modelo treinado em todos os dados rotulados acumulados.
Erros comuns
- Usar apenas um único aprendiz base — isso elimina a diversidade do ensemble que torna os sinais de consulta ativa confiáveis.
- Consultar em lotes grandes sem retreinar entre eles, o que desperdiça o benefício do feedback incremental.
- Avaliar apenas nos dados de treinamento após cada rodada, em vez de em um conjunto de validação separado.
- Ignorar o desequilíbrio de classes ao selecionar consultas, o que pode fazer com que o ciclo ativo superamostre a classe majoritária.
- Confundir o desempenho do conjunto inicial rotulado com o desempenho final do modelo.
Perguntas frequentes
Qual estratégia de consulta funciona melhor com um ensemble empilhado?
Consulta por comitê, que mede a discordância entre os aprendizes base, é uma adaptação natural porque os aprendizes base já formam um comitê. A amostragem de incerteza na saída do meta-aprendiz também é comum e mais simples de implementar.
Quantos exemplos rotulados preciso para começar?
É necessário um conjunto inicial de pelo menos um exemplo representativo por classe; na prática, 10–50 exemplos rotulados por classe fornecem sinal suficiente para os aprendizes base gerarem estimativas de incerteza significativas para a primeira rodada de consulta.
É melhor consultar um exemplo por vez ou em lotes?
Atualizações de consulta única maximizam a informatividade, mas exigem retreinamento após cada rótulo, o que é caro. O aprendizado ativo em modo lote seleciona um lote diversificado de consultas de uma vez e retreina uma vez por lote, oferecendo um compromisso prático entre custo e ganho de informação.
Posso usar aprendizes profundos como modelos base na pilha?
Sim, mas retreinar aprendizes profundos após cada rodada de consulta ativa é muito caro. Um compromisso comum é congelar ou refinar (fine-tuning) os aprendizes base apenas periodicamente, executando o ciclo de consulta com mais frequência com o meta-aprendiz.
Como sei quando parar de consultar?
Pare quando o desempenho de validação se estabilizar em várias rodadas, quando o orçamento de rotulagem for esgotado, ou quando a função de aquisição atribuir pontuações de informatividade uniformemente baixas a todos os candidatos restantes — indicando que o modelo aprendeu a maior parte do que o conjunto pode oferecer.
Métodos relacionados
Fontes
Wolpert, D. H. (1992). Stacked generalization. Neural Networks, 5(2), 241–259.
Abrir referência DOICopiado.Settles, B. (2012). Active Learning. Synthesis Lectures on Artificial Intelligence and Machine Learning. Morgan & Claypool Publishers.
Abrir referência DOICopiado.