Uczenie transferowe
- Autor metody
- Pan, S. J. & Yang, Q. (survey); Bengio, Y. (deep learning framing)
- Rok
- 2010 (formalized); 1990s (early roots)
- Typ
- Learning paradigm
- Rodzina
- Machine learning
Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku
Do czego służy?
Uczenie transferowe to paradygmat uczenia maszynowego, w którym wiedza zdobyta podczas trenowania modelu na zadaniu lub w domenie źródłowej jest ponownie wykorzystywana do poprawy uczenia na innym, ale powiązanym zadaniu lub w domenie docelowej.
Jest szczególnie skuteczne, gdy oznakowane dane dla zadania docelowego są rzadkie i stanowi podstawę większości nowoczesnych zastosowań głębokiego uczenia w wizji komputerowej, przetwarzaniu języka naturalnego i nie tylko.
Intuicja stojąca za metodą
Wyobraź sobie naukę jazdy na rowerze, a następnie zastosowanie tej wiedzy o równowadze i koordynacji do nauki jazdy na motocyklu — nie zaczynasz od zera. Uczenie transferowe działa w ten sam sposób: model wytrenowany na dużym, bogatym zbiorze danych (domena źródłowa) nauczył się już użytecznych reprezentacji, takich jak krawędzie, tekstury czy wzorce gramatyczne. Po zastosowaniu do nowego, mniejszego zbioru danych docelowych, model potrzebuje znacznie mniej oznakowanych danych, aby osiągnąć dobrą wydajność, ponieważ trudna praca związana z reprezentacją została już wykonana.
Historia
Koncepcja transferu wiedzy między zadaniami pojawiła się w latach 90. (Pratt 1993; Thrun 1996). Dziedzina została formalnie podsumowana i usystematyzowana przez Pan i Yang w ich artykule IEEE TKDE z 2010 roku, który pozostaje kanonicznym odniesieniem. Paradygmat został wzmocniony przez sukces głębokiego uczenia: Bengio i współpracownicy pokazali, że głębokie sieci uczą się transferowalnych reprezentacji, a wstępne trenowanie na ImageNet (Krizhevsky et al., 2012) uczyniło transfer domyślną praktyką w wizji komputerowej. Wprowadzenie dużych modeli językowych, takich jak BERT (2018) i GPT (2018–), rozszerzyło uczenie transferowe na NLP i przekształciło je w dominujący paradygmat w praktycznie wszystkich zastosowaniach głębokiego uczenia.
Kiedy stosować
Uczenie transferowe jest właściwym wyborem, gdy oznakowane dane dla zadania docelowego są ograniczone, ale istnieje powiązana domena źródłowa z obfitymi etykietami lub duży wstępnie wytrenowany model — na przykład dostrajanie BERT do klasyfikatora tekstowego specyficznego dla domeny lub adaptacja sieci CNN wstępnie wytrenowanych na ImageNet do obrazowania medycznego. Znacząco zmniejsza to dane i moc obliczeniową potrzebną do osiągnięcia silnej wydajności. Należy go unikać, gdy domeny źródłowa i docelowa są fundamentalnie niepowiązane, ponieważ negatywny transfer może pogorszyć wydajność w porównaniu z treningiem od zera. Jest również mniej uzasadnione, gdy docelowy zbiór danych jest wystarczająco duży, aby samodzielnie wytrenować zdolny model.
Ograniczenia i uwagi
- Może wystąpić negatywny transfer, gdy domeny źródłowa i docelowa są zbyt różne, co może pogorszyć wydajność w porównaniu z treningiem od zera.
- Dostrajanie dużych wstępnie wytrenowanych modeli wymaga znacznej pamięci, a w przypadku bardzo dużych modeli — znaczących zasobów GPU.
- Odpowiednia ilość modelu do zamrożenia w porównaniu do dostrojenia jest zależna od zadania i wymaga eksperymentów.
- Przesunięcie domeny między źródłem a celem może nie być oczywiste i może cicho obniżyć wydajność.
- Ograniczenia prawne i etyczne dotyczące wstępnie wytrenowanych modeli (licencja, stronniczość danych treningowych) mogą ograniczać ich użycie w niektórych zastosowaniach.
Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.
Mocne strony
- Znacząco zmniejsza zapotrzebowanie na oznakowane dane dla zadania docelowego poprzez ponowne wykorzystanie reprezentacji źródłowych.
- Skraca czas treningu i koszty obliczeniowe w porównaniu do trenowania dużych modeli od zera.
- Często osiąga najnowocześniejszą wydajność na małych i średnich zbiorach danych docelowych.
- Ogólne wstępnie wytrenowane modele (np. ResNet, BERT, GPT) stanowią silne punkty wyjścia w wielu domenach.
- Tryb ekstrakcji cech umożliwia wykorzystanie głębokich reprezentacji nawet bez intensywnego treningu dostrajającego na GPU.
Zastosowania
- Dostrajanie wstępnie wytrenowanych modeli językowych (BERT, GPT) do specyficznej dla domeny klasyfikacji tekstu, NER lub odpowiadania na pytania.
- Adaptacja sieci CNN wstępnie wytrenowanych na ImageNet (ResNet, VGG) do analizy obrazów medycznych, gdzie oznakowane skany są rzadkie.
- Systemy rozpoznawania mowy adaptowane z dużych modeli wielojęzycznych do języków o niskich zasobach.
- Między-domenowa analiza sentymentu poprzez transfer reprezentacji nauczonych na recenzjach produktów do tekstu z mediów społecznościowych.
- Dane tabelaryczne: wykorzystanie cech sieci neuronowych wstępnie wytrenowanych na powiązanych zbiorach danych w celu poprawy przewidywań na małej docelowej tabeli.
- Dziedziny naukowe (odkrywanie leków, nauka o materiałach), gdzie oznakowane dane eksperymentalne są kosztowne, a modele źródłowe z literatury chemicznej dostarczają silnych założeń.
Jak to działa
Jak to działa
Model jest trenowany na dużym zbiorze danych źródłowych, gdzie dostępne są obfite oznakowane dane. Podczas tej fazy model uczy się ogólnych reprezentacji cech — na przykład sieć konwolucyjna uczy się hierarchii wizualnych z milionów obrazów, a model językowy uczy się wzorców składniowych i semantycznych z miliardów tokenów.
Oceniana jest relacja między domenami źródłową a docelową. Jeśli domeny są bliskie (np. obie obejmują obrazy naturalne), nauczone reprezentacje przenoszą się bardziej bezpośrednio. Jeśli przesunięcie domeny jest duże, stosuje się techniki takie jak trening adwersarialny domenowy lub ważenie instancji, aby zmniejszyć niedopasowanie dystrybucyjne przed rozpoczęciem adaptacji.
Model wstępnie wytrenowany jest stosowany do zadania docelowego. W ekstrakcji cech wcześniejsze warstwy są zamrożone, a tylko późniejsze warstwy specyficzne dla zadania są zastępowane i trenowane. W pełnym dostrajaniu wszystkie warstwy są aktualizowane na danych docelowych, zazwyczaj z niższym współczynnikiem uczenia, aby zachować wcześniej nauczone reprezentacje i uniknąć katastrofalnego zapominania.
Zaadaptowany model jest trenowany na (zazwyczaj małym) oznakowanym zbiorze danych docelowych. Strategie regularyzacji — takie jak L2-SP (kara w kierunku wag źródłowych), dropout lub wczesne zatrzymanie — zapobiegają przeuczeniu na ograniczonych etykietach docelowych. Planowanie współczynnika uczenia warstwa po warstwie jest powszechne w sieciach głębokich.
Wydajność jest mierzona na odłożonym zestawie testowym docelowym przy użyciu metryk odpowiednich dla zadania (dokładność, F1, RMSE itp.). Porównania z treningiem od zera i z bazowym modelem źródłowym kwantyfikują zysk z transferu i ujawniają, czy wystąpił negatywny transfer.
Częste pułapki
- Zakładanie, że każdy wstępnie wytrenowany model będzie dobrze przenosił wiedzę bez sprawdzania podobieństwa domen — zawsze porównuj z treningiem od zera.
- Używanie zbyt wysokiego współczynnika uczenia podczas dostrajania, powodujące katastrofalne zapominanie reprezentacji źródłowych.
- Ocena tylko na docelowym zbiorze treningowym lub ignorowanie prawidłowego podziału na zbiór testowy.
- Przeoczenie stronniczości zbioru danych odziedziczonej z domeny źródłowej, która może przenieść się na przewidywania docelowe.
- Dostrajanie na skrajnie małym zbiorze docelowym bez regularyzacji, prowadzące do poważnego przeuczenia.
Najczęściej zadawane pytania
Jaka jest różnica między ekstrakcją cech a dostrajaniem w uczeniu transferowym?
W ekstrakcji cech wagi wstępnie wytrenowanego modelu są zamrożone, a trenowana jest tylko nowa głowica specyficzna dla zadania. W dostrajaniu niektóre lub wszystkie wagi wstępnie wytrenowane są również aktualizowane na danych docelowych — zazwyczaj z małym współczynnikiem uczenia, aby uniknąć katastrofalnego zapominania. Ekstrakcja cech jest szybsza i mniej podatna na przeuczenie na bardzo małych zbiorach danych; dostrajanie zazwyczaj daje lepszą wydajność, gdy dostępnych jest wystarczająco dużo danych docelowych.
Skąd mam wiedzieć, czy uczenie transferowe pomoże, czy zaszkodzi?
Kluczowe pytanie to podobieństwo domen. Jeśli rozkłady źródłowy i docelowy dzielą znaczącą strukturę (ta sama modalność, podobne słownictwo, powiązane koncepcje wizualne), transfer prawie zawsze pomaga. Wytrenuj model bazowy od zera i porównaj: jeśli przeniesiony model nie jest lepszy, domeny mogą być zbyt różne lub możesz potrzebować technik wyrównywania adwersarialnego domen.
Czym jest negatywny transfer?
Negatywny transfer występuje, gdy wiedza z domeny źródłowej aktywnie pogarsza wydajność w zadaniu docelowym — wstępnie wytrenowane reprezentacje nie pasują do struktury docelowej i wprowadzają w błąd optymalizację. Jest najczęstszy, gdy źródło i cel są semantycznie lub statystycznie różne. Regularyzacja w kierunku wag źródłowych (np. L2-SP) lub użycie tylko płytszych warstw może go złagodzić.
Ile danych docelowych potrzebuję do dostrajania?
Nie ma uniwersalnego progu, ale uczenie transferowe jest najbardziej wartościowe, gdy liczba oznakowanych przykładów docelowych wynosi od kilkudziesięciu do kilku tysięcy. Przy bardzo małej liczbie przykładów (mniej niż ~100) bezpieczniejsze jest zamrożenie większości warstw i trenowanie tylko głowicy (ekstrakcja cech). Przy tysiącach przykładów głębsze dostrajanie jest wykonalne i zazwyczaj korzystne.
Czy uczenie transferowe ma zastosowanie do danych tabelarycznych, a nie tylko do obrazów i tekstu?
Tak, chociaż jest mniej gotowe do użycia. Podejścia obejmują wstępne trenowanie sieci neuronowych na dużych korpusach danych tabelarycznych z powiązanych domen lub wykorzystanie osadzeń z modeli podstawowych jako dodatkowych cech. Biblioteki takie jak SAINT i TabPFN badają ten kierunek. W przypadku klasycznych zadań tabelarycznych gradient boosting często pozostaje silnym konkurentem nawet bez transferu.
Pokrewne metody
Źródła
Pan, S. J., & Yang, Q. (2010). A Survey on Transfer Learning. IEEE Transactions on Knowledge and Data Engineering, 22(10), 1345–1359.
Otwórz odnośnik DOISkopiowano.Bengio, Y. (2012). Deep Learning of Representations for Unsupervised and Transfer Learning. In Proceedings of ICML Workshop on Unsupervised and Transfer Learning, PMLR 27, 17–36.
Otwórz odnośnik do publikacjiSkopiowano.