Aktif Öğrenme Güçlendirme
- Ortaya koyan
- Abe, N. & Mamitsuka, H.
- Yıl
- 1998
- Tür
- Hybrid active-learning ensemble
- Aile
- Machine learning
Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku
Ne işe yarar?
Aktif Öğrenme Güçlendirme, aktif öğrenmenin sorgu güdümlü etiket edinmesini, AdaBoost gibi güçlendirme algoritmalarının ağırlıklı topluluk mantığıyla birleştirir.
Model, güçlendirme topluluğu içindeki anlaşmazlık veya belirsizlik tarafından yönlendirilerek, etiketlenecek en bilgilendirici etiketlenmemiş örnekleri yinelemeli olarak seçer ve her yeni etiketten sonra yeniden eğiterek, pasif öğrenmeden çok daha az etiketlenmiş örnekle yüksek doğruluk elde eder.
Yöntemin mantığı
Veri etiketlemek pahalıdır. Güçlendirme, en zor örneklere uyarlanabilir yeniden ağırlıklandırma yoluyla odaklanarak zaten zayıf öğrenicilerden güçlü bir sınıflandırıcı oluşturur. Aktif öğrenme, veri toplama aşamasında benzer bir fikirden yararlanır: her şeyi etiketlemek yerine, mevcut güçlendirme topluluğunun en belirsiz olduğu veya en çok bölündüğü örneklere bir oracle'dan etiketlemesini isteyin. İki ilke birbirini güçlendirir — güçlendirme hangi bölgelerin zor olduğunu belirler ve aktif öğrenme etiketleme çabasını tam olarak oraya yoğunlaştırır, böylece model küçük bir etiketli bütçeden verimli bir şekilde öğrenir.
Tarih
Güçlendirme ve bagging'i birleştiren sorgu öğrenme stratejileri Abe ve Mamitsuka tarafından ICML 1998'de tanıtıldı ve topluluk marjlarının aktif sorgulama için ilkeli bir belirsizlik sinyali sağladığı belirlendi. Settles'ın 2009 anketinde alan konsolide edildi ve SVM ve Gauss süreci yaklaşımlarının yanı sıra güçlendirme tabanlı stratejiler kataloglandı. O zamandan beri, gradyan güçlendirme varyantları (XGBoost, LightGBM), tıp, NLP ve uzaktan algılama alanlarındaki uygulamalı aktif öğrenme işlem hatlarında topluluk omurgası olarak kullanılmıştır.
Ne zaman kullanılır?
Etiketlemenin pahalı olduğu (klinik annotasyon, uzman incelemesi, yasal kodlama) ancak büyük bir etiketlenmemiş veri havuzunun mevcut olduğu ve basit bir model yerine güçlü topluluk doğruluğu istediğinizde Aktif Öğrenme Güçlendirmeyi kullanın. Güçlendirmenin yeniden ağırlıklandırması doğal olarak zor örneklere odaklandığı için, orta derecede sınıf dengesizliğine sahip tablo sınıflandırma görevleri için uygundur. Etiketlemenin ucuz olduğu (tam küme üzerinde pasif öğrenme daha basit olabilir), etiketlenmemiş havuzun küçük olduğu (anlamlı sorgu kazancı yok), görevin gerçek zamanlı veya akış kararları gerektirdiği (standart güçlendirme yığın tabanlıdır) veya katsayıların tam yorumlanabilirliğinin gerekli olduğu durumlarda daha az uygundur.
Sınırlar ve dikkat edilmesi gerekenler
- Her sorgu döngüsünde bir oracle (insan veya otomatik) gerektirir, bu da tam otomatik işlem hatlarını karmaşık hale getirir.
- İlk başlangıç etiketli kümesi temsil edici olmalıdır; önyargılı bir başlangıç, önyargılı erken sorgulara ve yavaş yakınsamaya yol açar.
- En belirsiz örnekleri sorgulamak, etiketlenmiş kümenin artık doğal veri dağılımını yansıtmamasıyla dağılım kaymasına neden olabilir.
- Hesaplama maliyeti, özellikle büyük havuzlardaki derin güçlendirme toplulukları için her yeniden eğitim döngüsüyle artar.
- Pasif öğrenmeye göre performans artışları, etiketleme bütçesi büyüdükçe azalır.
Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.
Güçlü yönleri
- Rastgele örneklemeye kıyasla belirli bir doğruluk hedefine ulaşmak için gereken etiketleme maliyetini önemli ölçüde azaltır.
- Uyarlanabilir örnek ağırlıklandırması yoluyla güçlendirmenin güçlü genelleme ve sınıf dengesizliğine karşı direncini miras alır.
- Sorgu stratejisi doğrudan modelin kendi belirsizliğine dayanır, bu da onu ilkeli ve uyarlanabilir hale getirir.
- Dağılım varsayımları gerektirmeden karışık özellik türleri içeren tablo verileriyle iyi çalışır.
- Temel öğrenici olarak herhangi bir güçlendirme varyantıyla (AdaBoost, gradyan güçlendirme, XGBoost) uyumludur.
Uygulama alanları
- Uzman etiketlemenin kıt ve pahalı olduğu tıbbi kayıt annotasyonu.
- Sınırlı etiketlenmiş veri kümeleriyle belge ve metin sınıflandırması.
- Arazi gerçeği toplamanın saha işçiliği yoğun olduğu uzaktan algılama arazi örtüsü haritalaması.
- Onaylanmış dolandırıcılık etiketlerinin manuel inceleme gerektirdiği dolandırıcılık tespiti modeli oluşturma.
- Kusur etiketlemenin uzman denetimi gerektirdiği endüstriyel kalite kontrol.
Nasıl çalışır?
Nasıl çalışır?
Etiketlenmemiş örneklerden oluşan büyük bir havuz ve etiketlenmiş örneklerden oluşan küçük bir başlangıç kümesi bir araya getirilir. Başlangıç kümesi, ilk zayıf güçlendirme topluluğunu eğitmek için yeterince temsil edici olmalıdır; genellikle döngüyü başlatmak için birkaç düzine etiketlenmiş örnek yeterlidir.
Mevcut etiketlenmiş küme üzerinde bir güçlendirme algoritması (örneğin, AdaBoost veya gradyan güçlendirme) eğitilir. Bu, zayıf öğrenicilerden oluşan bir topluluk, ağırlıkları ve önemlisi, sorgu stratejisinin yararlanacağı örnek başına tahmin marjları veya güven puanları üretir.
Güçlendirme topluluğundan türetilen bir bilgililik kriteri, her etiketlenmemiş örnek için hesaplanır. Yaygın stratejiler arasında en düşük topluluk marjına (yani, marj örneklemesi), en yüksek topluluk anlaşmazlığına sahip örnekleri sorgulama veya zor sınıflandırılan bölgeleri belirlemek için güçlendirme ağırlıklarını kullanma yer alır. En üst sıralarda yer alan örneklerden sabit bir yığın etiketleme için seçilir.
Seçilen örnekler, etiketleme için bir insan etiketleyiciye veya bir oracle'a sunulur. Bu, harici çaba gerektiren tek adımdır; maliyeti sorgu yığın boyutuna orantılıdır. Yeni etiketlenen örnekler, etiketlenmiş eğitim kümesine eklenir.
Güçlendirme modeli, genişletilmiş etiketlenmiş küme üzerinde sıfırdan yeniden eğitilir — veya artımlı olarak güncellenir. Döngü, etiketleme bütçesi tükenene veya bir performans eşiğine ulaşılana kadar (3. adımdan itibaren) tekrarlanır. Nihai tahminler, tam olarak eğitilmiş güçlendirme topluluğu tarafından üretilir.
Sık yapılan hatalar
- Çok küçük veya temsilci olmayan bir başlangıç kümesi kullanmak, ilk sorgu döngüsünün gürültülü sınır bölgelerine odaklanmasına neden olur.
- Sorgu döngüsünde hiçbir zaman kullanılmayan ayrılmış bir test kümesini değerlendirmeyi unutmak, iyimser doğruluk tahminlerine yol açar.
- Aktif olarak seçilen etiketli küme üzerindeki doğruluk raporlanırken, doğal dağılım üzerindeki test doğruluğunu göz ardı ederek dağılım kaymasını göz ardı etmek.
- Etiketleme maliyetinin ihmal edilebilir olduğu durumlarda aktif öğrenme güçlendirmeyi uygulamak — ek karmaşıklık gereksizdir.
- Marj tabanlı sorgulamayı aykırı değer seçimiyle karıştırmak; sorgulanan örneklerin gerçekten bilgilendirici olup olmadığını, yalnızca gürültülü olup olmadığını kontrol etmek.
Sık sorulan sorular
Temel öğrenici olarak hangi güçlendirme algoritması en iyi sonucu verir?
Örnek başına güven veya marj puanları sağlayan herhangi bir güçlendirme varyantı işe yarar. AdaBoost, orijinal aktif öğrenme literatüründe en çok incelenenidir; gradyan güçlendirme (XGBoost, LightGBM) pratikte daha güçlü doğruluk eğilimindedir ve modern işlem hatlarında giderek yaygınlaşmaktadır.
İlk etiketli başlangıç kümesi ne kadar büyük olmalıdır?
Yaygın bir kılavuz, toplam havuzun %1-5'i veya en azından sınıf başına birkaç örnektir, hangisi daha büyükse. Çok küçük bir başlangıç, erken sorguları yanıltıcı olabilecek kararsız bir ilk model üretir.
Aktif öğrenme güçlendirme her zaman rastgele örneklemeyi geride bırakır mı?
Her zaman değil. Etiketleme bütçesi havuzla orantılı olarak büyük olduğunda, rastgele örnekleme aynı doğruluğa yaklaşır. En büyük kazançlar, etiketlemenin pahalı olduğu ve etiketlenmemiş havuzun büyük olduğu düşük bütçeli rejimlerde ortaya çıkar.
Modeli adil bir şekilde nasıl değerlendiririm?
Aktif öğrenme döngüsü başlamadan önce bir test kümesini ayırın ve bunu asla sorgu kararlarına veya eğitime dahil etmeyin. Nihai güçlendirme topluluğunu bu dokunulmamış küme üzerinde değerlendirin; aktif olarak seçilen etiketli küme üzerindeki doğruluk iyimser bir şekilde yanlıdır.
Tek seferde bir örnek sorgulamak yerine yığın sorguları kullanabilir miyim?
Evet. Yığın modlu aktif öğrenme, oracle etkileşimlerini azaltmak için döngü başına bir dizi çeşitli yüksek belirsizlik örneği seçer. Çoğu pratik uygulama, bilgililiği ve çeşitliliği dengeleyerek çok benzer örnekleri sorgulamaktan kaçınmak için 10-100 arası yığınlar kullanır.
İlgili yöntemler
Kaynaklar
Abe, N. & Mamitsuka, H. (1998). Query Learning Strategies Using Boosting and Bagging. Proceedings of the 15th International Conference on Machine Learning (ICML 1998), pp. 1–9. Morgan Kaufmann.
Yayın kaynağını açKopyalandı.Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
Yayın kaynağını açKopyalandı.