Skip to content
Voltar aos resultados

Online Gradient Boosting

Proposto por
Grubb, A. & Bagnell, J. A.; Beygelzimer, A. et al.
Ano
2011–2015
Tipo
Online ensemble (sequential boosting on streaming data)
Família
Machine learning

Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês

Tamanho da fonte

O que ele faz?

O Online Gradient Boosting adapta a estrutura do gradient boosting para cenários de fluxo contínuo (streaming), onde os dados chegam uma amostra por vez, em vez de em um lote fixo.

A cada passo, o modelo calcula um pseudo-resíduo para a observação recebida e atualiza um aprendiz fraco no local, crescendo um conjunto aditivo sem armazenar ou revisitar dados passados. Isso o torna adequado para previsão em tempo real e pipelines de streaming em larga escala, onde o retreinamento do zero é inviável.

A intuição por trás do método

O gradient boosting padrão itera sobre o conjunto de treinamento completo para ajustar árvores sucessivas, o que exige que todos os dados estejam disponíveis antecipadamente. O Online Gradient Boosting substitui essa passagem em lote por uma atualização de amostra única: quando uma nova observação chega, o conjunto atual a prevê, o sinal de erro (pseudo-resíduo) é calculado e o próximo aprendiz fraco na cadeia é ajustado para corrigir esse erro. Como as atualizações ocorrem incrementalmente, o modelo pode rastrear a deriva de conceito (concept drift) ao longo do tempo — se a distribuição de dados subjacente mudar, as amostras recentes recebem automaticamente maior influência do que as mais antigas.

História

O boosting em um ambiente online foi explorado pela primeira vez por Oza e Russell (2001) para bagging e boosting com pesos amostrados por Poisson. Grubb e Bagnell (2011) formalizaram o Online Gradient Boosting através do gradiente descendente funcional para perdas convexas. Beygelzimer, Hazan, Langford e Zheng (2015) forneceram limites de conversão online-para-lote rigorosos que conectam as garantias de arrependimento (regret) no cenário online ao erro de generalização no cenário em lote, colocando o Online Gradient Boosting em uma base teórica sólida.

Quando usar

Use Online Gradient Boosting quando os dados chegam como um fluxo contínuo e o retreinamento do zero após cada novo lote é muito lento ou impraticável, quando o armazenamento de dados históricos é inviável devido ao volume ou restrições de privacidade, ou quando o processo de geração de dados pode mudar ao longo do tempo (deriva de conceito) e o modelo deve se adaptar incrementalmente. Também é apropriado para conjuntos de dados muito grandes onde uma única passagem em lote é proibitivamente cara. NÃO o use quando o conjunto de dados completo se encaixa confortavelmente na memória e os recursos computacionais permitem o gradient boosting em lote padrão — métodos em lote como XGBoost ou LightGBM geralmente alcançarão maior precisão nessas condições. Evite-o quando o número de rodadas de boosting não pode ser fixado antecipadamente ou quando a interpretabilidade de árvores individuais é um requisito rigoroso.

Limitações e considerações

  • Geralmente alcança menor precisão do que o gradient boosting em lote (XGBoost, LightGBM) quando todos os dados estão disponíveis, porque cada amostra é vista apenas uma vez.
  • O número de rodadas de boosting deve ser fixado antes do início do streaming, limitando a flexibilidade estrutural.
  • Sensível à ordem das amostras que chegam: embaralhamento ou mudanças na distribuição no fluxo podem desestabilizar o treinamento.
  • As garantias de convergência são mais fracas do que no cenário em lote e dependem fortemente da taxa de aprendizado escolhida.

As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.

Pontos fortes

  • Processa dados em uma única passagem sem armazenar o conjunto de dados completo, tornando-o eficiente em termos de memória para fluxos grandes ou infinitos.
  • Adapta-se à deriva de conceito porque as amostras recentes atualizam continuamente os aprendizes fracos.
  • Mantém o forte poder preditivo do gradient boosting em cenários onde o treinamento em lote é inviável.
  • As previsões podem ser servidas em tempo real a cada passo — o modelo está sempre pronto para prever.
  • Compatível com qualquer função de perda diferenciável, suportando regressão, classificação binária e multiclasse.

Aplicações

  • Previsão de taxa de cliques em tempo real em sistemas de publicidade online.
  • Detecção de fraude em fluxos de transações financeiras onde são necessárias atualizações imediatas do modelo.
  • Classificação de dados de sensores em pipelines de IoT onde dados históricos não podem ser retidos.
  • Classificação e recomendação adaptativas em sistemas onde as preferências do usuário evoluem ao longo do tempo.
  • Detecção de anomalias em séries temporais em larga escala com adaptação contínua do modelo.

Como funciona

Como funciona

1

Um número fixo de aprendizes fracos (tipicamente árvores rasas ou modelos lineares) é inicializado, um para cada rodada de boosting. No cenário online, o número de rodadas deve ser decidido antes do início do streaming, uma vez que a estrutura do conjunto não pode crescer arbitrariamente no momento do teste.

2

Um único exemplo rotulado (x_t, y_t) chega do fluxo. O conjunto atual F_t produz uma previsão para x_t, e o rótulo verdadeiro y_t é revelado imediatamente depois, permitindo que um sinal de erro seja calculado sem antecipação (look-ahead).

3

O pseudo-resíduo r_t é o gradiente negativo da função de perda em relação à previsão do conjunto atual. Para o erro quadrático, isso se reduz a r_t = y_t - F_t(x_t); para a perda logarítmica, o resíduo codifica o erro de probabilidade. Este alvo direciona o próximo aprendiz fraco para corrigir o erro atual.

Fórmula
r_t = -\nabla_{F} L(y_t, F(x_t))
4

O aprendiz fraco ativo h_t é atualizado usando o pseudo-resíduo como seu alvo, empregando uma regra de aprendizado online (por exemplo, gradiente descendente estocástico em um modelo linear ou uma atualização de divisão estilo árvore de Hoeffding). Cada aprendiz fraco acumula correções ao longo do fluxo sem armazenar dados passados.

5

O conjunto é atualizado aditivamente: a saída do aprendiz fraco atualizado h_t, escalada por uma taxa de aprendizado eta, é adicionada à função de previsão atual F_t. O resultado F_{t+1} está imediatamente disponível para prever a próxima amostra recebida.

Fórmula
F_{t+1}(x) = F_t(x) + \eta \, h_t(x)

Erros comuns

  • Escolher uma taxa de aprendizado muito grande faz com que o conjunto oscile e não consiga convergir para uma solução estável.
  • Tratar métricas de validação online como equivalentes aos resultados de validação cruzada — a avaliação prequencial (teste-depois-treino) deve ser usada em vez disso.
  • Ignorar a deriva de conceito: se a distribuição do fluxo mudar abruptamente, aprendizes fracos antigos podem dominar e degradar o desempenho, a menos que um mecanismo de detecção de deriva ou estratégia de esquecimento esteja em vigor.
  • Fixar poucas rodadas de boosting antes do streaming, privando o conjunto de capacidade para modelar padrões complexos.

Perguntas frequentes

Como o Online Gradient Boosting difere do XGBoost ou LightGBM padrão?

XGBoost e LightGBM são métodos em lote que iteram sobre o conjunto de treinamento completo várias vezes para ajustar árvores de forma gulosa. O Online Gradient Boosting atualiza seus aprendizes fracos após cada observação única e nunca revisita dados passados. Métodos em lote são mais precisos quando os dados cabem na memória; a variante online troca precisão por escalabilidade e adaptabilidade em tempo real.

Como devo avaliar um modelo online de forma justa?

Use a avaliação prequencial (teste-depois-treino): para cada amostra recebida, registre a previsão do modelo antes de atualizá-lo com o rótulo dessa amostra. Isso produz uma estimativa de erro imparcial e temporalmente honesta, sem a necessidade de um conjunto de teste separado.

Como lidar com a deriva de conceito?

Combine o Online Gradient Boosting com um algoritmo de detecção de deriva (por exemplo, ADWIN ou DDM) que sinaliza quando a taxa de erro aumenta significativamente. Após a detecção, redefina ou reinicialize os aprendizes fracos afetados para que o conjunto possa se readaptar à nova distribuição.

O Online Gradient Boosting é adequado para problemas multiclasse?

Sim. Com uma função de perda diferenciável multiclasse (por exemplo, entropia cruzada softmax), o pseudo-resíduo se torna um vetor de erros específicos da classe e cada aprendiz fraco é atualizado para corrigir todas as saídas da classe simultaneamente, exatamente como na formulação do gradient boosting multiclasse em lote.

Quais aprendizes fracos funcionam melhor na prática?

Árvores de Hoeffding rasas (que por si só suportam divisões online) ou modelos lineares online são as escolhas mais comuns. Eles se atualizam eficientemente com cada nova amostra e evitam a necessidade de armazenar dados para um reajuste em lote a cada passo de boosting.

Métodos relacionados

Fontes

  1. Grubb, A. & Bagnell, J. A. (2011). Generalized Boosting Algorithms for Convex Optimization. Proceedings of the 28th International Conference on Machine Learning (ICML 2011), 1209–1216.

    Abrir referência da publicação
    Copiado.
  2. Beygelzimer, A., Hazan, E., Langford, J. & Zheng, T. (2015). Online-to-Batch Conversions and Applications. Advances in Neural Information Processing Systems (NeurIPS), 28.

    Abrir referência da publicação
    Copiado.