Aktywna nauka
- Autor metody
- Burr Settles
- Rok
- 2009
- Typ
- Interactive supervised learning framework
- Rodzina
- Interactive ML
Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku
Do czego służy?
Aktywna nauka to iteracyjny paradygmat uczenia maszynowego, w którym algorytm uczący się selektywnie zwraca się do wyroczni – zazwyczaj ludzkiego anotatora – o etykiety dla najbardziej informatywnych nieoznakowanych przykładów.
Sformalizowana przez Burra Settlesa w jego przełomowym przeglądzie literatury z 2009 roku, aktywna nauka rozwiązuje praktyczny problem kosztów anotacji, osiągając wysoką dokładność modelu przy znacznie mniejszej liczbie oznakowanych przykładów niż wymaga tego pasywne uczenie nadzorowane.
Intuicja stojąca za metodą
Wyobraźmy sobie studenta medycyny, który zamiast zapamiętywać każdą stronę podręcznika, pyta lekarza prowadzącego tylko o najbardziej zagadkowe przypadki. Student uczy się szybciej, koncentrując się na niepewności, zamiast przeglądać przykłady, które już rozumie. Aktywna nauka działa w ten sam sposób: model identyfikuje przykłady, co do których jest najbardziej zdezorientowany, prosi o ludzkie etykiety dla tych konkretnych instancji i aktualizuje się – powtarzając ten cykl, aż wydajność będzie zadowalająca.
Historia
Koncepcja selektywnego zapytania o informatywne przykłady treningowe sięga optymalnego projektowania eksperymentów Fedorova (1972) i uczenia przez zapytania Cohn et al. (1994). Dziedzina została znacząco ujednolicona i spopularyzowana przez raport techniczny Burra Settlesa z 2009 roku, który katalogował strategie zapytań, granice teoretyczne i zastosowania w NLP, bioinformatyce i wizji komputerowej. Głęboka aktywna nauka wyłoniła się po 2016 roku, gdy sieci neuronowe stały się dominującą klasą modeli, co doprowadziło do powstania nowych technik szacowania niepewności.
Kiedy stosować
Aktywna nauka jest najbardziej korzystna, gdy nieoznakowane dane są obfite, ale anotacja ekspercka jest kosztowna, powolna lub rzadka – co jest częste w obrazowaniu medycznym, klasyfikacji dokumentów prawnych, kuracji danych naukowych i przetwarzaniu języka naturalnego. Zakłada dostępność wyroczni i możliwość sensownego zidentyfikowania informatywnych przykładów przez strategię zapytań. Jest mniej odpowiednia, gdy koszt anotacji jest znikomy, pula nieoznakowanych danych jest mała, lub rozkład zadań znacznie się zmienia między zapytaniami. Alternatywy obejmują uczenie częściowo nadzorowane (gdy etykiet nie można uzyskać interaktywnie) i samo-uczenie (gdy zapytania do wyroczni są niewykonalne).
Ograniczenia i uwagi
- Strategie zapytań mogą wprowadzać błąd próbkowania, powodując, że oznakowany zbiór nie jest reprezentatywny dla rzeczywistego rozkładu danych.
- Zyski wydajności silnie zależą od wyboru strategii zapytań, która jest specyficzna dla zadania i modelu.
- Ponowne trenowanie modelu po każdym zapytaniu jest kosztowne obliczeniowo dla dużych sieci neuronowych.
- Szum wyroczni (niezgodność lub błędy anotatora) może obniżyć wydajność, jeśli nie jest jawnie modelowany.
Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.
Mocne strony
- Drastycznie redukuje koszt etykietowania, koncentrując wysiłek anotacji na najbardziej informatywnych przykładach.
- Możliwość zastosowania do dowolnego uczącego się nadzorowanego – klasyfikacji, regresji, predykcji strukturalnej – bez modyfikowania podstawowej architektury modelu.
- Ugruntowana teoretycznie: próbkowanie niepewności i zapytanie do komitetu mają uzasadnienia PAC-learning i bayesowskie.
- Kompatybilna z przepływami pracy crowdsourcingowej i nowoczesnymi platformami anotacji.
Zastosowania
- Anotacja obrazów medycznych (radiologia, patologia), gdzie etykietowanie przez ekspertów jest kosztowne i rzadkie.
- Rozpoznawanie nazw własnych i ekstrakcja relacji w NLP, zmniejszając zapotrzebowanie na korpusy ręcznie etykietowane.
- Odkrywanie leków: wybór, które kandydaty molekularne należy syntetyzować i badać.
- Klasyfikacja danych z teledetekcji i obrazów satelitarnych z ograniczoną liczbą etykiet prawdy terenowej.
- Jazda autonomiczna: priorytetyzacja anotacji rzadkich lub krytycznych dla bezpieczeństwa scenariuszy jazdy.
Jak to działa
Jak to działa
Proces rozpoczyna się od dużej puli nieoznakowanych przykładów U i początkowo pustego zbioru oznakowanych L. Podstawowy model może być wstępnie wytrenowany na dostępnych oznakowanych danych początkowych lub zainicjowany losowo. To rozdzielenie danych oznakowanych i nieoznakowanych jest definiującym założeniem strukturalnym aktywnej nauki opartej na puli.
Wzór
\mathcal{U} = \{\mathbf{x}_1, \mathbf{x}_2, \ldots, \mathbf{x}_n\}, \quad \mathcal{L} = \emptysetW każdej iteracji algorytm uczący się ocenia każdą nieoznakowaną instancję zgodnie z kryterium informacyjności – tutaj próbkowanie niepewności wybiera przykład, którego maksymalne prawdopodobieństwo a posteriori klasy jest najniższe, wskazując na maksymalną niepewność modelu. Alternatywne kryteria obejmują niezgodność w ramach zapytania do komitetu i oczekiwaną zmianę modelu.
Wzór
\mathbf{x}^* = \arg\max_{\mathbf{x} \in \mathcal{U}} \phi(\mathbf{x}; \theta), \quad \phi(\mathbf{x}) = 1 - \max_{y} P_\theta(y \mid \mathbf{x})Wybrana instancja x* jest prezentowana wyroczni (ekspertowi ludzkiemu, platformie crowdsourcingowej lub zautomatyzowanemu anotatorowi), która dostarcza etykietę y*. Nowo oznakowana para jest przenoszona z U do L, a licznik budżetu zapytań jest zmniejszany. Koszt wyroczni jest zazwyczaj traktowany jako jednolity na zapytanie.
Wzór
y^* = \mathcal{O}(\mathbf{x}^*), \quad \mathcal{L} \leftarrow \mathcal{L} \cup \{(\mathbf{x}^*, y^*)\}, \quad \mathcal{U} \leftarrow \mathcal{U} \setminus \{\mathbf{x}^*\}Parametry modelu są ponownie trenowane (lub dostrajane) na bieżącym zbiorze oznakowanych L poprzez minimalizację błędu empirycznego. Zaktualizowany model następnie ponownie ocenia pozostałą pulę, a cykl zapytanie-wybór-etykietowanie-ponowne trenowanie powtarza się, aż do wyczerpania budżetu lub osiągnięcia docelowego progu dokładności.
Wzór
\theta^* = \arg\min_\theta \frac{1}{|\mathcal{L}|} \sum_{(\mathbf{x},y) \in \mathcal{L}} \mathcal{L}_{\text{loss}}(f_\theta(\mathbf{x}), y)Częste pułapki
- Problem zimnego startu: przy bardzo niewielu początkowych etykietach szacunki niepewności są niewiarygodne, co prowadzi do słabych wczesnych zapytań.
- Aktywna nauka w trybie wsadowym może wybierać redundantne instancje, jeśli ignorowane są korelacje między zapytaniami.
- Zastosowanie aktywnej nauki do głębokich sieci neuronowych z niepewnością opartą na dropout (np. MC Dropout) może nie doceniać niepewności w regionach poza rozkładem.
- Porównywanie przebiegów aktywnej nauki między ziarnami lub budżetami zapytań bez przedziałów ufności prowadzi do mylących wniosków o wyższości strategii.
Najczęściej zadawane pytania
Czym aktywna nauka różni się od uczenia częściowo nadzorowanego?
Uczenie częściowo nadzorowane wykorzystuje strukturę nieoznakowanych danych (np. klastrowanie, założenia dotyczące rozmaitości) bez zwracania się do wyroczni, aktualizując model za pomocą pseudo-etykiet lub regularyzacji spójności. Aktywna nauka jawnie żąda prawdziwych etykiet od wyroczni dla wybranych przykładów. Oba podejścia są komplementarne i mogą być łączone.
Jaką strategię zapytań powinienem zastosować w praktyce?
Próbkowanie niepewności jest najczęściej stosowaną strategią bazową i dobrze sprawdza się w klasyfikatorach binarnych i wieloklasowych. Zapytanie do komitetu jest preferowane, gdy zespół jest już dostępny. Oczekiwana zmiana modelu lub BALD (Bayesian Active Learning by Disagreement) zazwyczaj działają lepiej dla modeli głębokich, ale są cięższe obliczeniowo. Zacznij od próbkowania niepewności i porównaj z alternatywami.
Czy aktywną naukę można zastosować do zadań regresji?
Tak. W przypadku regresji informatywność jest zazwyczaj mierzona wariancją predykcyjną (np. z procesu Gaussa lub zespołu) zamiast entropią prawdopodobieństwa klasy. Algorytm uczący się zapytuje o punkty, w których wariancja jest najwyższa. Jest to standardowa praktyka w optymalizacji bayesowskiej i projektowaniu eksperymentów opartych na modelach zastępczych.
Pokrewne metody
Źródła
Settles, B. (2009). Active learning literature survey. University of Wisconsin-Madison Computer Sciences Technical Report 1648.
Otwórz odnośnik do publikacjiSkopiowano.