Głosowanie w ramach aktywnego uczenia (Active Learning Voting Ensemble)
- Autor metody
- Seung, H. S., Opper, M., & Sompolinsky, H.
- Rok
- 1992
- Typ
- Active learning with ensemble voting
- Rodzina
- Machine learning
Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku
Do czego służy?
Głosowanie w ramach aktywnego uczenia — formalnie znane jako Query by Committee — jest strategią aktywnego uczenia, która trenuje zespół różnorodnych modeli i wybiera nieoznakowane przykłady, w których członkowie zespołu najbardziej się nie zgadzają, do adnotacji przez człowieka.
Koncentrując wysiłek etykietowania na najbardziej informatywnych punktach, osiąga wysoką dokładność przy znacznie mniejszej liczbie oznakowanych przykładów niż wymaga tego uczenie pasywne.
Intuicja stojąca za metodą
Wyobraźmy sobie prośbę o sklasyfikowanie nieoznakowanego przykładu przez pięciu ekspertów. Jeśli czterech się zgodzi, a jeden się sprzeciwi, odpowiedź jest prawdopodobnie jasna — nie ma potrzeby płacenia za etykietę. Ale jeśli podział wynosi trzy do dwóch, ten przykład leży tuż na granicy decyzyjnej, gdzie jego oznakowanie najbardziej czegoś nauczy wszystkie modele. Głosowanie w ramach aktywnego uczenia precyzuje tę intuicję: zbuduj zespół modeli, pozwól im głosować i płać za etykiety tylko wtedy, gdy głosowanie jest wyrównane. Wynikiem jest wysoce wydajna pętla uczenia, która maksymalnie wykorzystuje niewielki budżet na adnotacje.
Historia
Ramy Query by Committee (QBC) zostały wprowadzone przez Seung, Opper i Sompolinsky na konferencji COLT w 1992 roku jako metodyczne podejście do aktywnego uczenia z zespołami przestrzeni wersji. Było to jedno z pierwszych teoretycznych uzasadnień wykorzystania niezgody zespołu do kierowania gromadzeniem danych i pozostaje kanonicznym odniesieniem dla aktywnego uczenia opartego na zespołach. Szersza literatura dotycząca aktywnego uczenia została skonsolidowana w szeroko cytowanym przeglądzie technicznym Burra Settlesa z 2009 roku, który usystematyzował scenariusze oparte na puli, strumieniowe i z zapytaniem o członkostwo oraz ustanowił QBC jako strategię kamienia węgielnego obok próbkowania niepewności.
Kiedy stosować
Używaj głosowania w ramach aktywnego uczenia, gdy etykietowanie jest kosztowne lub czasochłonne — adnotacje kliniczne, tagowanie dokumentów prawnych, specjalistyczna analiza obrazów — i dostępna jest duża pula nieoznakowanych danych wraz z małym początkowym zestawem oznakowanych danych. Dobrze sprawdza się w zadaniach klasyfikacji, gdzie niezgoda zespołu jest znaczącym sygnałem, i gdy można wdrożyć co najmniej 3–5 różnorodnych modeli. Unikaj go, gdy etykiety są tanie i liczne (wtedy uczenie pasywne na pełnym zbiorze danych będzie równie lub bardziej wydajne), gdy pula nieoznakowanych danych jest bardzo mała, gdy adnotacja online w czasie rzeczywistym jest niewykonalna, lub gdy wymagany jest jeden interpretowalny model zamiast zespołu.
Ograniczenia i uwagi
- Wymaga pętli adnotacyjnej, która zwiększa złożoność infrastruktury: menedżera puli, interfejsu orakulum i potoku ponownego trenowania.
- Wydajność zależy w dużej mierze od różnorodności zespołu; jednorodny zespół generuje nieinformatywną niezgodę.
- Aktywne uczenie oparte na puli zakłada, że cała nieoznakowana pula mieści się w pamięci; bardzo duże pule wymagają przybliżeń.
- Zbieżność nie jest gwarantowana, jeśli orakulum popełnia systematyczne błędy etykietowania.
Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.
Mocne strony
- Dramatycznie zmniejsza liczbę oznakowanych przykładów potrzebnych do osiągnięcia docelowej dokładności w porównaniu z próbkowaniem losowym.
- Głosowanie zespołowe zapewnia podwójną korzyść w postaci niższych wariancji predykcji w czasie wnioskowania.
- Model-agnostyczny: dowolny zestaw różnorodnych klasyfikatorów może tworzyć zespół.
- Wynik niezgody zapewnia wbudowany sygnał niepewności, który jest łatwy do monitorowania i wizualizacji.
- Dobrze ugruntowany teoretycznie dzięki ramom Query by Committee wprowadzonej w 1992 roku.
Zastosowania
- Adnotacja obrazów medycznych, gdzie radiologów-ekspertów jest mało, a etykietowanie jest kosztowne.
- Rozpoznawanie jednostek nazwanych i klasyfikacja tekstu przy ograniczonych korpusach oznakowanych.
- Analiza sentymentu z żargonem specyficznym dla domeny wymagającym specjalistycznej weryfikacji.
- Odkrywanie leków i przewidywanie właściwości molekularnych z kosztowną walidacją w laboratorium.
- Klasyfikacja obrazów satelitarnych, gdzie tylko ułamek kafelków można ręcznie przejrzeć.
Jak to działa
Jak to działa
Zespół k różnorodnych modeli bazowych (zespół głosujący) jest inicjowany na małym zestawie początkowym oznakowanych przykładów. Różnorodność jest kluczowa: modele mogą różnić się architekturą, hiperparametrami lub podzbiorem treningowym, aby ich niezgody były informatywne, a nie losowe.
Dla każdego nieoznakowanego kandydata x w puli U mierzy się niezgodę D(C, x) w ramach zespołu — powszechne metryki obejmują entropię głosów (jak bardzo rozproszone są głosy) lub dywergencję KL między predykcjami. Wybierany jest przykład z najwyższym wynikiem niezgody: x* = argmax D(C, x).
Wzór
x^* = \arg\max_{x \in U} D(C, x)Wybrany nieoznakowany przykład jest przesyłany do ludzkiego orakulum (eksperta adnotującego, platformy crowdsourcingowej lub zautomatyzowanego etykietującego) w celu uzyskania prawdziwej etykiety. Jest to jedyny krok, który generuje koszt adnotacji.
Nowo oznakowany przykład jest dodawany do zestawu treningowego i wszyscy członkowie zespołu są ponownie trenowani (lub aktualizowani przyrostowo). Pętla wraca do kroku zapytania, dopóki budżet na adnotacje nie zostanie wyczerpany lub nie zostanie osiągnięty próg wydajności.
W czasie wnioskowania wytrenowany zespół produkuje większość głosów spośród wszystkich k członków: przewidywana klasa to dominanta indywidualnych predykcji h_1(x) do h_k(x), łącząc zarówno zysk z wydajności aktywnego uczenia, jak i redukcję wariancji zespołu.
Wzór
\hat{y} = \text{mode}(h_1(x), h_2(x), \ldots, h_k(x))Częste pułapki
- Używanie identycznych lub prawie identycznych członków zespołu — różnorodność jest motorem metody, a bez niej niezgoda załamuje się.
- Ponowne trenowanie od zera po każdym pojedynczym zapytaniu; zapytania w trybie wsadowym (wybieranie b przykładów na rundę) są znacznie bardziej praktyczne.
- Zapominanie o ocenie na stałym, wydzielonym zestawie testowym przez całą pętlę — mierzenie tylko na rosnącym zestawie treningowym ukrywa przeuczenie.
- Traktowanie wyniku niezgody jako miary pewności w czasie wnioskowania bez odpowiedniej kalibracji.
- Ignorowanie kompromisu między informatywnością a reprezentatywnością: wysoce niepewne przykłady blisko granicy mogą być wartościami odstającymi, a nie typowymi przykładami.
Najczęściej zadawane pytania
Ilu członków zespołu powinienem użyć?
Od trzech do dziesięciu różnorodnych modeli to powszechny praktyczny zakres. Mniejsza liczba członków daje bardziej zaszumione oszacowania niezgody; większa liczba członków zwiększa koszty obliczeniowe. Empirycznie pięć różnorodnych klasyfikatorów często zapewnia dobry balans między stabilnością a wydajnością.
Jak mierzyć niezgodę w zespole?
Entropia głosów jest najczęstszą miarą: H = -sum_c p(c) log p(c), gdzie p(c) to ułamek członków zespołu przewidujących klasę c. Dla modeli probabilistycznych alternatywą jest średnia dywergencja KL od średniej predykcji. Wyższe wyniki wskazują na bardziej informatywne przykłady.
Czy mogę tego użyć z modelami głębokiego uczenia?
Tak. Zespoły głębokie lub przybliżenia MC-dropout mogą służyć jako zespół. Głównym wyzwaniem są koszty ponownego trenowania — strategie takie jak dostrajanie wspólnego rdzenia z różnorodnymi głowicami znacznie je zmniejszają.
Co jeśli mój budżet na adnotacje jest bardzo napięty — powiedzmy, mniej niż 20 etykiet?
Przy bardzo małej liczbie etykiet, próbkowanie losowe lub stratyfikowany wybór początkowy często działa porównywalnie z QBC, ponieważ wszystkie metody zaczynają od prawie tej samej, ubogiej w informacje bazy. Przewaga QBC staje się wyraźniejsza, gdy zestaw początkowy zawiera co najmniej 20–50 przykładów na klasę.
Czy głosowanie w ramach aktywnego uczenia działa dla regresji?
Tak, z niezgodą mierzoną jako wariancja lub odchylenie standardowe predykcji zespołu zamiast entropii głosów. Obowiązuje ta sama pętla zapytania-ponownego trenowania; ostateczny wynik to średnia predykcji zespołu.
Pokrewne metody
Źródła
Seung, H. S., Opper, M., & Sompolinsky, H. (1992). Query by committee. In Proceedings of the Fifth Annual Workshop on Computational Learning Theory (COLT '92), pp. 287–294. ACM.
Otwórz odnośnik DOISkopiowano.Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
Otwórz odnośnik do publikacjiSkopiowano.