Aktywne uczenie w architekturze stosu (Active Learning Stacking Ensemble)
- Autor metody
- Wolpert, D. H. (stacking); Settles, B. (active learning survey)
- Rok
- 1992–2012
- Typ
- Hybrid (active learning + stacked ensemble)
- Rodzina
- Machine learning
Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku
Do czego służy?
Aktywne uczenie w architekturze stosu łączy pętlę zapytań aktywnego uczenia ze zgeneralizowaną estymacją stosową (stacked generalization): dostępna jest pula nieoznakowanych danych, a model iteracyjnie wybiera najbardziej informatywne przykłady do oznakowania przez człowieka, wykorzystując te oznakowania do trenowania i udoskonalania stosu uczących bazowych modeli (base learners) zwieńczonego meta-uczącym (meta-learner).
Podejście to redukuje koszty anotacji przy jednoczesnym maksymalizowaniu mocy predykcyjnej zespołu.
Intuicja stojąca za metodą
Oznakowywanie danych jest kosztowne. Aktywne uczenie pyta: które nieoznakowane przykłady najbardziej nauczą model? Mierząc niepewność lub niezgodność między uczącymi bazowymi modelami stosu, system może skierować ludzkiego anotatora do przykładów, w których zespół jest najbardziej zdezorientowany. Każdy nowo oznakowany punkt jest zwracany do potoku stosowania, aktualizując zarówno uczące bazowe, jak i meta-uczący. Wynikiem jest silny zespół zbudowany przy znacznie mniejszej liczbie oznakowań niż wymagałoby standardowe uczenie nadzorowane.
Historia
Uogólniona estymacja stosowa (stacked generalization) została wprowadzona przez Davida Wolperta w 1992 roku jako sposób łączenia różnorodnych uczących bazowych modeli za pomocą meta-uczącego. Aktywne uczenie jako systematyczne ramy wyboru informatywnych przykładów zostały kompleksowo omówione przez Burra Settlesa w 2012 roku. Połączenie — stosowanie strategii zapytań aktywnych do architektur zespołowych lub stosowych — pojawiło się w latach 2000. i 2010., gdy badacze starali się zmniejszyć koszty anotacji dla złożonych modeli, i jest obecnie ugruntowanym paradygmatem w uczeniu maszynowym o niskich zasobach i wysokiej efektywności anotacji.
Kiedy stosować
Używaj aktywnego uczenia w architekturze stosu, gdy oznakowane dane są rzadkie lub kosztowne do uzyskania, dostępna jest duża pula nieoznakowanych danych i potrzebna jest wysoka dokładność predykcyjna. Jest to szczególnie cenne w dziedzinach takich jak anotacja medyczna, klasyfikacja dokumentów prawnych i etykietowanie obrazów naukowych, gdzie czas eksperta jest ograniczony. Nie stosuj tego podejścia, gdy wszystkie dane można tanio oznakować — standardowe stosowanie będzie prostsze i równie skuteczne. Unikaj go, gdy pula nieoznakowanych danych jest mała (aktywny wybór przynosi niewielkie korzyści) lub gdy potrzebne są predykcje w czasie rzeczywistym podczas pętli zapytań, ponieważ ponowne trenowanie stosu po każdym zapytaniu jest kosztowne obliczeniowo.
Ograniczenia i uwagi
- Ponowne trenowanie całego zespołu stosowego po każdym zapytaniu jest kosztowne obliczeniowo dla dużych zbiorów uczących bazowych modeli.
- Projekt strategii zapytań jest niebanalny: słaba funkcja akwizycji może wybierać redundantne lub nieinformatywne przykłady.
- Meta-uczący wymaga wystarczającej ilości oznakowanych danych do nauczenia wiarygodnych wag kombinacji; przy bardzo niewielu oznakowaniach, meta-cechy są zaszumione.
- Opóźnienie sprzężenia zwrotnego od ludzkiej wyroczni może w praktyce spowolnić pętlę iteracyjną.
- Wydajność silnie zależy od różnorodności uczących bazowych modeli i wybranego meta-uczącego.
Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.
Mocne strony
- Osiąga wysoką dokładność predykcyjną przy mniejszej liczbie oznakowanych przykładów niż pasywne nadzorowane stosowanie.
- Różnorodność zespołu wynikająca z wielu uczących bazowych modeli sprawia, że estymaty niepewności zapytań są bardziej wiarygodne.
- Meta-uczący adaptacyjnie łączy uczące bazowe modele, korygując błąd systematyczny każdego z nich.
- Kompatybilny z praktycznie każdą kombinacją uczących bazowych modeli i meta-uczącego.
- Systematycznie redukuje budżet anotacji, czyniąc czas eksperta bardziej efektywnym.
Zastosowania
- Klasyfikacja obrazów medycznych lub zapisów klinicznych z ograniczoną liczbą oznakowanych przypadków.
- Klasyfikacja dokumentów prawnych i regulacyjnych, gdzie anotacja ekspercka jest kosztowna.
- Etykietowanie danych naukowych w biologii, chemii i teledetekcji.
- Analiza sentymentu i klasyfikacja tekstu przy rzadkich oznakowanych danych specyficznych dla domeny.
- Wykrywanie oszustw, gdzie etykiety prawdy podstawowej (ground-truth) wymagają ręcznego dochodzenia.
- Każde zadanie predykcyjne na danych tabelarycznych z dużą pulą nieoznakowanych danych i ograniczonym budżetem na etykietowanie.
Jak to działa
Jak to działa
Niewielki początkowy zbiór oznakowanych przykładów służy do dopasowania początkowych uczących bazowych modeli w stosie. Pozostałe dane pozostają nieoznakowane w puli kandydatów. Ten początkowy zbiór definiuje punkt wyjścia dla wszystkich kolejnych zapytań aktywnych.
Funkcja akwizycji — taka jak niepewność predykcji, próbkowanie marginesowe lub niezgodność zapytań według komitetu (query-by-committee) między uczącymi bazowymi modelami — ocenia każdego nieoznakowanego kandydata. Przykład o najwyższej ocenie jest wybierany jako najbardziej informatywny do oznakowania.
Wybrany przykład jest prezentowany ludzkiemu anotatorowi lub automatycznemu wyroczni (oracle), który przypisuje jego prawdziwą etykietę. Ten oznakowany przykład jest dodawany do zbioru treningowego na potrzeby następnej rundy treningowej.
Przy zaktualizowanym zbiorze oznakowań, każdy uczący bazowy model (np. drzewo decyzyjne, SVM, regresja logistyczna) jest ponownie trenowany. Predykcje poza fałdami (out-of-fold) z uczących bazowych modeli na zbiorze treningowym tworzą macierz meta-cech (meta-feature matrix) używaną do trenowania meta-uczącego.
Meta-uczący (zazwyczaj regresja logistyczna lub model liniowy) jest trenowany na meta-cechach wyprodukowanych przez uczące bazowe modele. Uczy się on, jak najlepiej łączyć ich predykcje, korygując systematyczne błędy każdego uczącego bazowego modelu.
Kroki 2–5 powtarza się dla ustalonego budżetu zapytań lub do momentu, gdy wydajność modelu na wydzielonym zbiorze walidacyjnym ustabilizuje się. Ostateczny zespół stosowy to model wytrenowany na wszystkich zgromadzonych oznakowanych danych.
Częste pułapki
- Używanie tylko jednego uczącego bazowego modelu — eliminuje to różnorodność zespołu, która sprawia, że sygnały zapytań aktywnych są wiarygodne.
- Wykonywanie zapytań w dużych partiach bez ponownego trenowania w międzyczasie, co marnuje korzyść z informacji zwrotnej przyrostowej.
- Ocena tylko na danych treningowych po każdej rundzie, zamiast na wydzielonym zbiorze walidacyjnym.
- Ignorowanie niezbalansowania klas przy wyborze zapytań, co może spowodować, że pętla aktywna nadmiernie wybiera klasę większościową.
- Mylenie wydajności początkowego zbioru oznakowanego z wydajnością końcowego modelu.
Najczęściej zadawane pytania
Która strategia zapytań najlepiej działa ze stosem?
Zapytanie według komitetu (query-by-committee), które mierzy niezgodność między uczącymi bazowymi modelami, jest naturalnym dopasowaniem, ponieważ uczące bazowe modele już tworzą komitet. Niepewność próbkowania na wyjściu meta-uczącego jest również powszechna i prostsza w implementacji.
Ile oznakowanych przykładów potrzebuję na początek?
Wymagany jest początkowy zbiór co najmniej jednego reprezentatywnego przykładu na klasę; w praktyce 10–50 oznakowanych przykładów na klasę daje uczącym bazowym modelom wystarczający sygnał do generowania znaczących estymacji niepewności dla pierwszej rundy zapytań.
Czy lepiej zapytać o jeden przykład naraz, czy w partiach?
Aktualizacje pojedynczych zapytań maksymalizują informatywność, ale wymagają ponownego trenowania po każdej etykiecie, co jest kosztowne. Aktywne uczenie w trybie wsadowym wybiera jednocześnie zróżnicowaną partię zapytań i trenuje ponownie raz na partię, oferując praktyczny kompromis między kosztem a zyskiem informacyjnym.
Czy mogę używać głębokich uczących (deep learners) jako modeli bazowych w stosie?
Tak, ale ponowne trenowanie głębokich uczących po każdej rundzie zapytań aktywnych jest bardzo kosztowne. Powszechnym kompromisem jest okresowe zamrażanie lub dostrajanie (fine-tuning) uczących bazowych modeli, podczas gdy pętla zapytań działa częściej z meta-uczącym.
Skąd mam wiedzieć, kiedy przestać zadawać pytania?
Przestań, gdy wydajność walidacyjna ustabilizuje się przez kilka rund, gdy budżet na etykietowanie zostanie wyczerpany, lub gdy funkcja akwizycji przypisze jednolicie niskie oceny informatywności wszystkim pozostałym kandydatom — wskazując, że model nauczył się większości tego, co pula może zaoferować.
Pokrewne metody
Źródła
Wolpert, D. H. (1992). Stacked generalization. Neural Networks, 5(2), 241–259.
Otwórz odnośnik DOISkopiowano.Settles, B. (2012). Active Learning. Synthesis Lectures on Artificial Intelligence and Machine Learning. Morgan & Claypool Publishers.
Otwórz odnośnik DOISkopiowano.