Régression logistique en ligne
- Introduite par
- Rosenblatt, F. / Widrow, B. (perceptron era); modern SGD form: Bottou, L.
- Année
- 1960s (perceptron); formalized for logistic loss ~2000s
- Type
- Incremental supervised classifier
- Famille
- Machine learning
Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais
À quoi sert-elle ?
La régression logistique en ligne ajuste un classifieur logistique un échantillon (ou un mini-lot) à la fois via la descente de gradient stochastique, en mettant à jour les poids du modèle à mesure que chaque observation arrive plutôt que d'attendre de voir l'ensemble complet des données.
Cela en fait le choix standard pour les problèmes de classification binaire à volume élevé, en flux continu ou avec des contraintes de mémoire, où l'entraînement par lots est irréalisable.
L’intuition derrière la méthode
La régression logistique classique nécessite de charger toutes les données en mémoire et d'optimiser sur l'ensemble du jeu de données. La régression logistique en ligne lit plutôt chaque exemple entrant, fait une prédiction de probabilité, calcule l'erreur de prédiction et effectue un petit pas de gradient pour corriger ses poids avant de passer à l'exemple suivant. Sur de nombreux exemples, les poids convergent vers des valeurs proches de celles qu'un solveur par lots trouverait, mais le modèle peut être mis à jour en continu sans jamais stocker l'ensemble complet des données. Un taux d'apprentissage décroissant garantit que les mises à jour deviennent plus fines à mesure que le modèle mûrit, échangeant la vitesse d'adaptation contre la stabilité.
Histoire
Les racines de l'apprentissage en ligne basé sur le gradient remontent au perceptron de Rosenblatt (1958) et à la règle LMS de Widrow et Hoff (1960). La variante de perte logistique a gagné en importance dans la littérature sur l'apprentissage à grande échelle des années 2000, en particulier grâce aux travaux de Bottou sur la descente de gradient stochastique pour l'apprentissage automatique, et au cadre théorique de Shalev-Shwartz pour l'optimisation convexe en ligne. Elle est devenue une norme de production dans la prédiction du taux de clics à l'échelle du web et le filtrage du spam, où les ensembles de données sont diffusés en continu et les modèles doivent être mis à jour en temps réel.
Quand l’utiliser
Utilisez la régression logistique en ligne lorsque les données arrivent sous forme de flux ou lorsque l'ensemble complet des données est trop volumineux pour être conservé en mémoire, lorsque la frontière de classe est censée se déplacer progressivement au fil du temps (dérive conceptuelle), ou lorsque des mises à jour de modèle à faible latence sont requises. C'est également une base rapide pour de très grands ensembles de données statiques où une seule passe SGD est acceptable. Évitez-la lorsque l'ensemble de données est suffisamment petit pour être entraîné par lots (la régression logistique par lots convergera vers une meilleure solution avec moins d'ajustements), lorsque la frontière de décision est très non linéaire (les méthodes basées sur des arbres ou des noyaux s'adapteront mieux), ou lorsque l'interprétabilité des erreurs standard exactes des coefficients et des valeurs p est requise pour le rapport.
Limites et points d’attention
- Sensible au choix du taux d'apprentissage : trop grand provoque une divergence, trop petit provoque une convergence lente ou un sous-apprentissage.
- Ne fournit pas d'intervalles de confiance ou de valeurs p sous forme fermée pour les coefficients.
- Converge vers une solution plus bruyante que la descente de gradient par lots étant donné les mêmes données ; plusieurs passes ou une moyenne (Polyak-Ruppert) sont nécessaires pour combler l'écart.
- Les performances se dégradent lorsque les caractéristiques sont à des échelles très différentes, à moins qu'une standardisation ou AdaGrad ne soit appliquée.
- Supposons une frontière de décision linéaire ; ne peut pas capturer une structure non linéaire sans ingénierie des caractéristiques.
Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.
Points forts
- Empreinte mémoire constante : traite un exemple à la fois sans stocker l'ensemble du jeu de données.
- S'adapte à la dérive conceptuelle en continuant à mettre à jour les poids à mesure que de nouvelles données étiquetées arrivent.
- S'adapte à des milliards d'exemples où l'optimisation par lots serait prohibitive.
- Produit des sorties de probabilité calibrées via le lien sigmoïde, adaptées à l'évaluation des risques.
- Compatible avec les régularisations L1 et L2 et les schémas de taux d'apprentissage qui reflètent les solutions par lots complètes.
Applications
- Prédiction du taux de clics dans la publicité en ligne avec des flux de données continus.
- Détection du spam et de la fraude où les modèles évoluent et doivent s'adapter quotidiennement.
- Classification des sentiments en temps réel des publications sur les médias sociaux à mesure qu'elles arrivent.
- Notation des risques binaires à grande échelle lorsque l'ensemble complet des données ne tient pas en RAM.
- Scénarios de dérive conceptuelle dans la surveillance des transactions financières.
- Classifieur de flux de base avant d'évaluer des ensembles en ligne plus complexes.
Comment ça marche
Comment ça marche
Le vecteur de poids et le biais sont initialisés à zéro (ou à de petites valeurs aléatoires). Aucune passe de données n'est nécessaire à ce stade — le modèle est prêt à traiter sa première observation immédiatement.
Formule
\mathbf{w}_0 = \mathbf{0},\; b_0 = 0Pour chaque observation entrante, le modèle calcule la combinaison linéaire de ses poids et caractéristiques actuels, puis la passe à travers la fonction sigmoïde pour obtenir une probabilité que l'étiquette soit 1. Cette probabilité est utilisée à la fois comme prédiction et comme ingrédient dans le calcul du gradient.
Formule
\hat{p}_t = \sigma(\mathbf{w}_t^\top \mathbf{x}_t + b_t),\quad \sigma(z)=\frac{1}{1+e^{-z}}L'entropie croisée binaire (log-loss) entre la probabilité prédite et l'étiquette réelle mesure à quel point la prédiction actuelle est erronée. L'entropie croisée est convexe par rapport aux poids, ce qui garantit que les pas de gradient réduisent de manière fiable l'erreur en moyenne sur le flux de données.
Formule
\ell_t = -[y_t \log \hat{p}_t + (1-y_t)\log(1-\hat{p}_t)]Le gradient de la perte par rapport aux poids se réduit au simple résidu (probabilité prédite moins étiquette réelle) multiplié par le vecteur de caractéristiques. Un terme de régularisation (L2 ou L1) est ajouté pour pénaliser les poids importants et prévenir le surapprentissage. Les poids sont mis à jour en soustrayant le gradient mis à l'échelle en une seule passe par exemple.
Formule
\mathbf{w}_{t+1} = \mathbf{w}_t - \eta_t (\hat{p}_t - y_t)\mathbf{x}_t - \eta_t \lambda \mathbf{w}_tLe taux d'apprentissage est réduit au fil du temps — commençant grand pour se déplacer rapidement aux premiers stades et diminuant afin que les mises à jour ultérieures apportent des corrections fines sans osciller. Les schémas courants sont la décroissance inverse du temps ou l'adaptation par caractéristique de type AdaGrad, qui gère automatiquement les caractéristiques avec des échelles très différentes.
Formule
\eta_t = \eta_0 / (1 + \alpha t)
Pièges courants
- Oublier de standardiser les caractéristiques : la SGD en ligne est particulièrement sensible aux différences d'échelle car le même taux d'apprentissage est appliqué à toutes les dimensions.
- Utiliser un taux d'apprentissage fixe tout au long de l'entraînement : les poids oscillent près de l'optimum et ne se stabilisent jamais.
- Ignorer le déséquilibre des classes dans le flux de données : les classes sous-représentées reçoivent peu de signaux de gradient et le modèle penche vers la classe majoritaire.
- Traiter les estimations de poids de la phase précoce comme définitives : le modèle a besoin d'un nombre suffisant d'exemples avant que ses poids ne se stabilisent ; n'évaluez pas trop tôt.
- Confondre la capacité de mise à jour en ligne avec la détection automatique de la dérive conceptuelle : les poids dérivent avec les données, mais une surveillance explicite de la dérive (par exemple, ADWIN) est toujours nécessaire pour détecter les changements brusques.
Questions fréquentes
En quoi la régression logistique en ligne diffère-t-elle de la régression logistique standard ?
La régression logistique standard utilise toutes les données en une seule fois (optimisation par lots) et renvoie des coefficients de maximum de vraisemblance exacts avec des erreurs standard. La régression logistique en ligne met à jour les poids après chaque exemple, en utilisant uniquement une mémoire constante et en tolérant des flux infiniment longs, mais ses estimations sont plus bruyantes et elle ne produit pas de statistiques inférentielles.
Comment choisir le taux d'apprentissage ?
Un point de départ courant est un petit taux fixe (par exemple, 0,01) combiné à une décroissance inverse du temps, ou l'utilisation d'AdaGrad qui adapte automatiquement les taux par caractéristique. Standardisez toujours les caractéristiques en premier, puis ajustez le taux initial sur un pli de validation mis de côté ou en surveillant la log-loss courante sur une fenêtre récente du flux.
La régression logistique en ligne peut-elle gérer les problèmes multi-classes ?
Oui — étendez-la à des classifieurs binaires un-contre-tous entraînés en parallèle, ou utilisez la généralisation softmax (multinomiale) avec une perte d'entropie croisée catégorielle et des vecteurs de poids par classe, en appliquant la même règle de mise à jour SGD à chacun.
Quelle régularisation dois-je utiliser ?
La régularisation L2 (ridge) est la valeur par défaut : elle réduit tous les poids en douceur et fonctionne bien avec la SGD. La L1 (lasso) produit des poids clairsemés et est utile lorsque vous souhaitez une sélection automatique de caractéristiques dans des espaces de très haute dimension, mais nécessite une troncature ou des mises à jour FOBOS minutieuses pour rester exactement clairsemée en ligne.
Comment évaluer un modèle qui est continuellement mis à jour ?
Utilisez l'évaluation préférentielle (test-puis-entraînement) : prédisez chaque exemple avant de l'utiliser pour une mise à jour de poids, puis rapportez la log-loss ou l'AUC courante sur une fenêtre glissante. Cela donne une estimation non biaisée de la qualité actuelle du modèle sans ensemble de validation fixe.
Méthodes associées
Sources
Bottou, L. (2010). Large-Scale Machine Learning with Stochastic Gradient Descent. In Proceedings of COMPSTAT 2010, 177–186. Physica-Verlag.
Ouvrir la référence de la publicationCopié.Shalev-Shwartz, S. (2012). Online Learning and Online Convex Optimization. Foundations and Trends in Machine Learning, 4(2), 107–194.
Ouvrir la référence DOICopié.