Regresja logistyczna online
- Autor metody
- Rosenblatt, F. / Widrow, B. (perceptron era); modern SGD form: Bottou, L.
- Rok
- 1960s (perceptron); formalized for logistic loss ~2000s
- Typ
- Incremental supervised classifier
- Rodzina
- Machine learning
Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku
Do czego służy?
Regresja logistyczna online dopasowuje klasyfikator logistyczny, przetwarzając jedną próbkę (lub mini-wsad) na raz za pomocą stochastycznego spadku gradientu, aktualizując wagi modelu w miarę napływania każdej obserwacji, zamiast czekać na cały zbiór danych.
Czyni to z niej standardowy wybór dla problemów klasyfikacji binarnej o dużej objętości, strumieniowych lub z ograniczoną pamięcią, gdzie trenowanie wsadowe jest niewykonalne.
Intuicja stojąca za metodą
Klasyczna regresja logistyczna wymaga załadowania wszystkich danych do pamięci i optymalizacji na całym zbiorze danych. Regresja logistyczna online zamiast tego odczytuje każdy napływający przykład, dokonuje predykcji prawdopodobieństwa, oblicza błąd predykcji i wykonuje mały krok gradientowy w celu skorygowania swoich wag przed przejściem do następnego przykładu. Po przetworzeniu wielu przykładów wagi zbiegają się do wartości zbliżonych do tych, które znalazłby solver wsadowy, a jednak model może być aktualizowany w sposób ciągły, nigdy nie przechowując całego zbioru danych. Zmniejszająca się szybkość uczenia zapewnia, że aktualizacje stają się drobniejsze w miarę dojrzewania modelu, wymieniając szybkość adaptacji na stabilność.
Historia
Korzenie uczenia opartego na gradiencie online sięgają perceptronu Rosenblatta (1958) i reguły LMS Widrowa i Hoffa (1960). Wariant straty logistycznej zyskał na znaczeniu w literaturze dotyczącej uczenia na dużą skalę z lat 2000., szczególnie dzięki pracy Bottou nad stochastycznym spadkiem gradientu dla uczenia maszynowego oraz ramom teoretycznym Shaleva-Shwartza dla online'owej optymalizacji wypukłej. Stał się standardem produkcyjnym w przewidywaniu współczynnika klikalności na skalę internetową i filtrowaniu spamu, gdzie zbiory danych strumieniują się w sposób ciągły, a modele muszą być aktualizowane w czasie rzeczywistym.
Kiedy stosować
Używaj regresji logistycznej online, gdy dane napływają jako strumień lub gdy pełny zbiór danych jest zbyt duży, aby zmieścić się w pamięci, gdy oczekuje się, że granica klas będzie się stopniowo przesuwać w czasie (dryf koncepcji), lub gdy wymagane są aktualizacje modelu o niskim opóźnieniu. Jest to również szybka metoda bazowa dla bardzo dużych statycznych zbiorów danych, gdzie akceptowalne jest pojedyncze przejście SGD. Unikaj jej, gdy zbiór danych jest wystarczająco mały, aby trenować go wsadowo (wsadowa regresja logistyczna zbiegnie do lepszego rozwiązania przy mniejszym dostrajaniu), gdy granica decyzyjna jest silnie nieliniowa (metody drzewiaste lub jądrowe dopasują się lepiej), lub gdy wymagana jest interpretowalność dokładnych błędów standardowych współczynników i wartości p do raportowania.
Ograniczenia i uwagi
- Wrażliwa na wybór szybkości uczenia: zbyt duża powoduje dywergencję, zbyt mała powoduje powolną zbieżność lub niedouczanie.
- Nie zapewnia analitycznych przedziałów ufności ani wartości p dla współczynników.
- Zbiega do bardziej zaszumionego rozwiązania niż wsadowy spadek gradientu przy tych samych danych; do zniwelowania tej różnicy potrzebne są wielokrotne przejścia lub uśrednianie (Polyak-Ruppert).
- Wydajność spada, gdy cechy mają bardzo różne skale, chyba że zastosowano standaryzację lub AdaGrad.
- Zakłada liniową granicę decyzyjną; nie może uchwycić nieliniowej struktury bez inżynierii cech.
Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.
Mocne strony
- Stałe zużycie pamięci: przetwarza jeden przykład na raz bez przechowywania całego zbioru danych.
- Adaptuje się do dryfu koncepcji, kontynuując aktualizację wag w miarę napływu nowych oznakowanych danych.
- Skaluje się do miliardów przykładów, gdzie optymalizacja wsadowa byłaby niewykonalna.
- Generuje skalibrowane wyjścia prawdopodobieństwa za pomocą linku sigmoidalnego, odpowiednie do oceny ryzyka.
- Kompatybilna z regularyzacją L1 i L2 oraz harmonogramami szybkości uczenia, które odzwierciedlają rozwiązania wsadowe.
Zastosowania
- Przewidywanie współczynnika klikalności w reklamie online z ciągłymi strumieniami danych.
- Wykrywanie spamu i oszustw, gdzie wzorce ewoluują, a modele muszą być dostosowywane codziennie.
- Klasyfikacja sentymentu w czasie rzeczywistym postów w mediach społecznościowych w miarę ich napływania.
- Skalowanie punktacji ryzyka binarnego, gdy pełny zbiór danych nie mieści się w pamięci RAM.
- Scenariusze dryfu koncepcji w monitorowaniu transakcji finansowych.
- Bazowy klasyfikator strumieniowy przed oceną bardziej złożonych zespołów online.
Jak to działa
Jak to działa
Wektor wag i obciążenie są inicjalizowane zerami (lub małymi losowymi wartościami). Na tym etapie nie jest wymagane przejście przez dane – model jest gotowy do natychmiastowego przetworzenia pierwszej obserwacji.
Wzór
\mathbf{w}_0 = \mathbf{0},\; b_0 = 0Dla każdej napływającej obserwacji model oblicza liniową kombinację swoich bieżących wag i cech, a następnie przepuszcza ją przez funkcję sigmoidalną, aby uzyskać prawdopodobieństwo, że etykieta wynosi 1. To prawdopodobieństwo jest używane zarówno jako predykcja, jak i jako składnik obliczenia gradientu.
Wzór
\hat{p}_t = \sigma(\mathbf{w}_t^\top \mathbf{x}_t + b_t),\quad \sigma(z)=\frac{1}{1+e^{-z}}Dwuklasowa entropia krzyżowa (log-loss) między przewidywanym prawdopodobieństwem a prawdziwą etykietą mierzy, jak błędna jest bieżąca predykcja. Entropia krzyżowa jest wypukła względem wag, co gwarantuje, że kroki gradientowe niezawodnie zmniejszają błąd średnio w strumieniu danych.
Wzór
\ell_t = -[y_t \log \hat{p}_t + (1-y_t)\log(1-\hat{p}_t)]Gradient straty względem wag redukuje się do prostego błędu resztkowego (przewidywane prawdopodobieństwo minus prawdziwa etykieta) pomnożonego przez wektor cech. Termin regularyzacji (L2 lub L1) jest dodawany w celu karania dużych wag i zapobiegania przeuczeniu. Wagi są aktualizowane przez odjęcie przeskalowanego gradientu w jednym przejściu na przykład.
Wzór
\mathbf{w}_{t+1} = \mathbf{w}_t - \eta_t (\hat{p}_t - y_t)\mathbf{x}_t - \eta_t \lambda \mathbf{w}_tSzybkość uczenia jest wyżarzana w czasie – zaczyna się od dużej wartości, aby szybko poruszać się we wczesnych etapach, i zmniejsza się, aby późniejsze aktualizacje dokonywały drobnych korekt bez oscylacji. Typowe harmonogramy to zanik odwrotnie proporcjonalny do czasu lub adaptacja per-cecha w stylu AdaGrad, która automatycznie obsługuje cechy o bardzo różnych skalach.
Wzór
\eta_t = \eta_0 / (1 + \alpha t)
Częste pułapki
- Zapomnienie o standaryzacji cech: online SGD jest szczególnie wrażliwy na różnice w skali, ponieważ ta sama szybkość uczenia jest stosowana do wszystkich wymiarów.
- Używanie stałej szybkości uczenia przez cały czas trenowania: wagi oscylują w pobliżu optimum i nigdy się nie stabilizują.
- Ignorowanie niezbalansowania klas w strumieniu danych: niedoreprezentowane klasy otrzymują niewiele sygnałów gradientowych, a model przechyla się w stronę klasy większościowej.
- Traktowanie oszacowań wag z wczesnej fazy jako ostatecznych: model potrzebuje wystarczającej liczby przykładów, zanim jego wagi się ustabilizują; nie oceniaj zbyt wcześnie.
- Mylenie możliwości aktualizacji online z automatycznym wykrywaniem dryfu koncepcji: wagi dryfują wraz z danymi, ale nadal potrzebne jest jawne monitorowanie dryfu (np. ADWIN), aby wykryć nagłe przesunięcia.
Najczęściej zadawane pytania
Czym różni się regresja logistyczna online od standardowej regresji logistycznej?
Standardowa regresja logistyczna wykorzystuje wszystkie dane naraz (optymalizacja wsadowa) i zwraca dokładne współczynniki maksymalnego prawdopodobieństwa z błędami standardowymi. Regresja logistyczna online aktualizuje wagi po każdym przykładzie, wykorzystując tylko stałą pamięć i tolerując nieskończenie długie strumienie, ale jej oszacowania są bardziej zaszumione i nie generuje statystyk wnioskowań.
Jak wybrać szybkość uczenia?
Częstym punktem wyjścia jest mała stała szybkość (np. 0,01) w połączeniu z zanikiem odwrotnie proporcjonalnym do czasu, lub użycie AdaGrad, który automatycznie dostosowuje szybkości per-cecha. Zawsze najpierw standaryzuj cechy, a następnie dostrój początkową szybkość na wydzielonej partycji walidacyjnej lub monitorując bieżący log-loss na ostatnim oknie strumienia.
Czy regresja logistyczna online może obsługiwać problemy wieloklasowe?
Tak – rozszerz ją do klasyfikatorów binarnych typu jeden-przeciw-reszt, trenowanych równolegle, lub użyj uogólnienia softmax (wielomianowego) z funkcją straty entropii krzyżowej kategorycznej i wektorami wag per-klasa, stosując tę samą regułę aktualizacji SGD do każdej z nich.
Jakiej regularyzacji powinienem użyć?
Regularyzacja L2 (ridge) jest domyślna: płynnie zmniejsza wszystkie wagi i dobrze współpracuje z SGD. L1 (lasso) generuje rzadkie wagi i jest przydatna, gdy chcesz automatycznego wyboru cech w przestrzeniach o bardzo wysokiej wymiarowości, ale wymaga starannego obcinania lub aktualizacji FOBOS, aby pozostać dokładnie rzadką online.
Jak ocenić model, który jest stale aktualizowany?
Użyj ewaluacji prekwencyjnej (testuj-następnie-trenuj): przewiduj każdy przykład przed użyciem go do aktualizacji wag, a następnie raportuj bieżący log-loss lub AUC na przesuwającym się oknie. Daje to nieobciążone oszacowanie bieżącej jakości modelu bez stałego zbioru walidacyjnego.
Pokrewne metody
Źródła
Bottou, L. (2010). Large-Scale Machine Learning with Stochastic Gradient Descent. In Proceedings of COMPSTAT 2010, 177–186. Physica-Verlag.
Otwórz odnośnik do publikacjiSkopiowano.Shalev-Shwartz, S. (2012). Online Learning and Online Convex Optimization. Foundations and Trends in Machine Learning, 4(2), 107–194.
Otwórz odnośnik DOISkopiowano.