Aktif Öğrenme
- Ortaya koyan
- Burr Settles
- Yıl
- 2009
- Tür
- Interactive supervised learning framework
- Aile
- Interactive ML
Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku
Ne işe yarar?
Aktif öğrenme, bir öğrenme algoritmasının en bilgilendirici etiketlenmemiş örnekler üzerinde seçici olarak bir oracle'dan (tipik olarak bir insan etiketleyici) etiketler sorguladığı iteratif bir makine öğrenimi paradigmasıdır.
Burr Settles tarafından 2009 tarihli temel literatür taramasında biçimlendirilen aktif öğrenme, pasif denetimli öğrenmenin gerektirdiğinden çok daha az etiketlenmiş örnekle yüksek model doğruluğu elde ederek etiketleme maliyetinin pratik darboğazını ele alır.
Yöntemin mantığı
Her ders kitabının sayfasını ezberlemek yerine, yalnızca en kafa karıştırıcı vakalar hakkında ilgili doktora soran bir tıp öğrencisi hayal edin. Öğrenci, zaten anladığı örnekleri gözden geçirmek yerine belirsizliğe odaklanarak daha hızlı öğrenir. Aktif öğrenme de aynı şekilde çalışır: model, en çok kafasını karıştıran örnekleri belirler, bu özel örnekler için insan etiketleri ister ve bu döngüyü performans tatmin edici olana kadar tekrarlayarak kendini günceller.
Tarih
Bilgilendirici eğitim örneklerini seçici olarak sorgulama kavramı, Fedorov'un optimal deneysel tasarımına (1972) ve Cohn ve ark.'nın sorgu öğrenmesine (1994) dayanmaktadır. Alan, sorgu stratejilerini, teorik sınırları ve NLP, biyoinformatik ve bilgisayar görüşmesindeki uygulamaları kataloglayan Burr Settles'ın 2009 tarihli teknik raporuyla önemli ölçüde birleştirilmiş ve popülerleştirilmiştir. Sinir ağlarının baskın model sınıfı haline gelmesinden sonra 2016'dan sonra derin aktif öğrenme ortaya çıktı ve yeni belirsizlik tahmin tekniklerini teşvik etti.
Ne zaman kullanılır?
Aktif öğrenme, etiketlenmemiş verinin bol olduğu ancak uzman etiketlemenin pahalı, yavaş veya kıt olduğu durumlarda en faydalıdır — tıbbi görüntüleme, yasal belge sınıflandırması, bilimsel veri kürasyonu ve doğal dil işlemede yaygındır. Oracle kullanılabilirliğini ve sorgu stratejisinin bilgilendirici örnekleri anlamlı bir şekilde tanımlayabileceğini varsayar. Etiketleme maliyetinin ihmal edilebilir olduğu, etiketlenmemiş havuzun küçük olduğu veya görev dağılımının sorgular arasında önemli ölçüde değiştiği durumlarda daha az uygundur. Alternatifler arasında yarı denetimli öğrenme (etiketler etkileşimli olarak elde edilemiyorsa) ve kendi kendine öğrenme (oracle sorguları uygulanamıyorsa) yer alır.
Sınırlar ve dikkat edilmesi gerekenler
- Sorgu stratejileri, etiketlenmiş kümenin gerçek veri dağılımının temsili olmamasına neden olan örnekleme yanlılığına neden olabilir.
- Performans kazanımları, göreve ve modele özgü olan sorgu stratejisinin seçimine büyük ölçüde bağlıdır.
- Her sorgudan sonra modeli yeniden eğitmek, büyük sinir ağları için hesaplama açısından pahalıdır.
- Oracle gürültüsü (etiketleyici anlaşmazlığı veya hataları), açıkça modellenmediği takdirde performansı düşürebilir.
Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.
Güçlü yönleri
- Etiketleme maliyetini, etiketleme çabasını en bilgilendirici örneklere odaklayarak önemli ölçüde azaltır.
- Temel model mimarisini değiştirmeden herhangi bir denetimli öğreniciye — sınıflandırma, regresyon, yapılandırılmış tahmin — uygulanabilir.
- Teorik olarak temellendirilmiş: belirsizlik örneklemesi ve komite yoluyla sorgulama, PAC-öğrenme ve Bayesci gerekçelere sahiptir.
- Kitle kaynak iş akışları ve modern etiketleme platformlarıyla uyumludur.
Uygulama alanları
- Uzman etiketlemenin pahalı ve kıt olduğu tıbbi görüntü etiketleme (radyoloji, patoloji).
- NLP'de adlandırılmış varlık tanıma ve ilişki çıkarma, el ile etiketlenmiş derlem gereksinimlerini azaltır.
- İlaç keşfi: hangi moleküler adayların sentezleneceğini ve analiz edileceğini seçme.
- Sınırlı yerinde doğruluk etiketleriyle uzaktan algılama ve uydu görüntü sınıflandırması.
- Otonom sürüş: nadir veya güvenlik açısından kritik sürüş senaryolarının etiketlenmesini önceliklendirme.
Nasıl çalışır?
Nasıl çalışır?
Süreç, büyük bir etiketlenmemiş örnek havuzu U ve başlangıçta boş bir etiketlenmiş küme L ile başlar. Bir temel model, mevcut etiketlenmiş tohum verileri üzerinde önceden eğitilebilir veya rastgele başlatılabilir. Etiketlenmiş ve etiketlenmemiş verilerin bu ayrımı, havuz tabanlı aktif öğrenmenin tanımlayıcı yapısal varsayımıdır.
Formül
\mathcal{U} = \{\mathbf{x}_1, \mathbf{x}_2, \ldots, \mathbf{x}_n\}, \quad \mathcal{L} = \emptysetHer iterasyonda öğrenici, her etiketlenmemiş örneği bir bilgilendiricilik kriterine göre puanlar — burada, belirsizlik örneklemesi, en düşük maksimum sınıf posterior olasılığına sahip, maksimum model belirsizliğini gösteren örneği seçer. Alternatif kriterler arasında komite anlaşmazlığı yoluyla sorgulama ve beklenen model değişikliği yer alır.
Formül
\mathbf{x}^* = \arg\max_{\mathbf{x} \in \mathcal{U}} \phi(\mathbf{x}; \theta), \quad \phi(\mathbf{x}) = 1 - \max_{y} P_\theta(y \mid \mathbf{x})Seçilen x* örneği, bir oracle'a (insan uzmanı, kitle kaynak platformu veya otomatik etiketleyici) sunulur ve bu da bir y* etiketi sağlar. Yeni etiketlenen çift, U'dan L'ye taşınır ve sorgu bütçe sayacı azaltılır. Oracle maliyeti tipik olarak sorgu başına tekdüze olarak kabul edilir.
Formül
y^* = \mathcal{O}(\mathbf{x}^*), \quad \mathcal{L} \leftarrow \mathcal{L} \cup \{(\mathbf{x}^*, y^*)\}, \quad \mathcal{U} \leftarrow \mathcal{U} \setminus \{\mathbf{x}^*\}Model parametreleri, ampirik bir kaybı en aza indirerek mevcut etiketlenmiş küme L üzerinde yeniden eğitilir (veya ince ayarlanır). Güncellenmiş model daha sonra kalan havuzu yeniden puanlar ve bütçe tükenene veya hedef doğruluk eşiğine ulaşılana kadar sorgu-seç-etiket-yeniden eğit döngüsü tekrarlanır.
Formül
\theta^* = \arg\min_\theta \frac{1}{|\mathcal{L}|} \sum_{(\mathbf{x},y) \in \mathcal{L}} \mathcal{L}_{\text{loss}}(f_\theta(\mathbf{x}), y)Sık yapılan hatalar
- Soğuk başlangıç sorunu: çok az başlangıç etiketiyle, belirsizlik tahminleri güvenilmezdir ve bu da kötü erken sorgulara yol açar.
- Yığın modlu aktif öğrenme, sorgular arası korelasyonlar göz ardı edilirse gereksiz örnekler seçebilir.
- Aktif öğrenmenin, dropout tabanlı belirsizliğe sahip derin sinir ağlarına (örneğin, MC Dropout) uygulanması, dağıtım dışı bölgelerdeki belirsizliği hafife alabilir.
- Güven aralıkları olmadan tohumlar veya sorgu bütçeleri boyunca aktif öğrenme çalıştırmalarını karşılaştırmak, strateji üstünlüğü hakkında yanıltıcı sonuçlara yol açar.
Sık sorulan sorular
Aktif öğrenme, yarı denetimli öğrenmeden nasıl farklıdır?
Yarı denetimli öğrenme, bir oracle'ı sorgulamadan etiketlenmemiş verinin yapısından (örneğin, kümeleme, manifold varsayımları) yararlanır, modeli sahte etiketler veya tutarlılık düzenlemesi kullanarak günceller. Aktif öğrenme, seçilen örnekler için açıkça bir oracle'dan gerçek etiketler ister. İki yaklaşım birbirini tamamlayıcıdır ve birleştirilebilir.
Uygulamada hangi sorgu stratejisini kullanmalıyım?
Belirsizlik örneklemesi en yaygın kullanılan temel yöntemdir ve ikili ve çok sınıflı sınıflandırıcılar için iyi çalışır. Bir topluluk zaten mevcut olduğunda komite yoluyla sorgulama tercih edilir. Beklenen model değişikliği veya BALD (Bayesci Aktif Öğrenme Anlaşmazlık Yoluyla) derin modeller için daha iyi performans gösterme eğilimindedir ancak hesaplama açısından daha ağırdır. Belirsizlik örneklemesi ile başlayın ve alternatiflere karşı kıyaslayın.
Aktif öğrenme regresyon görevlerine uygulanabilir mi?
Evet. Regresyon için, bilgilendiricilik tipik olarak sınıf olasılığı entropisi yerine tahminsel varyans (örneğin, bir Gauss süreci veya topluluktan) ile ölçülür. Öğrenici, varyansın en yüksek olduğu noktaları sorgular. Bu, Bayesci optimizasyon ve vekil model tabanlı deney tasarımında standart bir uygulamadır.
İlgili yöntemler
Kaynaklar
Settles, B. (2009). Active learning literature survey. University of Wisconsin-Madison Computer Sciences Technical Report 1648.
Yayın kaynağını açKopyalandı.