Aktif Öğrenme Yığınlama Topluluğu
- Ortaya koyan
- Wolpert, D. H. (stacking); Settles, B. (active learning survey)
- Yıl
- 1992–2012
- Tür
- Hybrid (active learning + stacked ensemble)
- Aile
- Machine learning
Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku
Ne işe yarar?
Aktif Öğrenme Yığınlama Topluluğu, bir aktif öğrenme sorgu döngüsünü yığınlanmış genelleme ile birleştirir: etiketlenmemiş verilerden oluşan bir havuz mevcuttur ve model, insan etiketlemesi için en bilgilendirici örnekleri iteratif olarak seçer, bu etiketleri birden çok temel öğreniciyi içeren ve bir meta-öğrenici ile sonlandırılan bir yığınlama topluluğunu eğitmek ve iyileştirmek için kullanır.
Bu yaklaşım, topluluğun tahmin gücünü en üst düzeye çıkarırken etiketleme maliyetini azaltır.
Yöntemin mantığı
Veri etiketlemek pahalıdır. Aktif öğrenme şunu sorar: hangi etiketlenmemiş örnekler modeli en çok eğitecektir? Bir yığınlama topluluğunun temel öğrenicileri arasındaki belirsizliği veya anlaşmazlığı ölçerek, sistem insan etiketleyiciyi, topluluğun en çok kafasının karıştığı örneklere yönlendirebilir. Yeni etiketlenen her nokta, hem temel öğrenicileri hem de meta-öğreniciyi güncelleyerek yığınlama işlem hattına geri beslenir. Sonuç, standart denetimli eğitime gerek duyulandan çok daha az etiketle oluşturulmuş güçlü bir topluluktur.
Tarih
Yığınlanmış genelleme, David Wolpert tarafından 1992'de meta-öğrenici aracılığıyla çeşitli temel öğrenicileri birleştirmenin bir yolu olarak tanıtıldı. Bilgilendirici örnekleri seçmek için sistematik bir çerçeve olarak aktif öğrenme, Burr Settles tarafından 2012'de kapsamlı bir şekilde incelendi. Karmaşık modeller için etiketleme maliyetlerini azaltmak isteyen araştırmacılar tarafından 2000'ler ve 2010'larda ortaya çıkan ve artık düşük kaynaklı ve etiketleme açısından verimli makine öğrenmesinde yerleşik bir paradigma haline gelen kombinasyon - aktif sorgu stratejilerini topluluk veya yığınlama mimarilerine uygulamak.
Ne zaman kullanılır?
Etiketlenmiş verinin kıt veya elde edilmesi maliyetli olduğu, büyük bir etiketlenmemiş veri havuzunun mevcut olduğu ve güçlü tahmin doğruluğu gerektiğinde Aktif Öğrenme Yığınlama Topluluğunu kullanın. Özellikle tıbbi etiketleme, hukuki belge sınıflandırma ve bilimsel görüntü etiketleme gibi uzman zamanının sınırlı olduğu alanlarda değerlidir. Tüm verilerin ucuz bir şekilde etiketlenebildiği durumlarda bu yaklaşımı kullanmayın - standart yığınlama daha basit ve eşit derecede etkili olacaktır. Etiketlenmemiş havuzun küçük olduğu (aktif seçim çok az fayda sağlar) veya sorgu döngüsü sırasında gerçek zamanlı tahminler gerektiğinde (her sorgudan sonra yığını yeniden eğitmek hesaplama açısından pahalı olduğundan) bundan kaçının.
Sınırlar ve dikkat edilmesi gerekenler
- Her sorgudan sonra tam yığınlama topluluğunu yeniden eğitmek, büyük temel öğrenici kümeleri için hesaplama açısından maliyetlidir.
- Sorgu stratejisi tasarımı önemsiz değildir: kötü bir edinme işlevi, gereksiz veya bilgilendirici olmayan örnekler seçebilir.
- Meta-öğrenicinin, güvenilir birleştirme ağırlıklarını öğrenmek için yeterli etiketlenmiş veriye ihtiyacı vardır; çok az etiketle, meta-özellikler gürültülüdür.
- İnsan oracle'ından gelen geri bildirim gecikmesi, iteratif döngüyü pratikte yavaşlatabilir.
- Performans, temel öğrenici çeşitliliğine ve seçilen meta-öğreniciye büyük ölçüde bağlıdır.
Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.
Güçlü yönleri
- Pasif denetimli yığınlamadan daha az etiketlenmiş örnekle yüksek tahmin doğruluğu elde eder.
- Birden çok temel öğreniciden gelen topluluk çeşitliliği, sorgu belirsizlik tahminlerini daha güvenilir hale getirir.
- Meta-öğrenici, temel öğrenicileri uyarlanabilir bir şekilde birleştirir ve her temel öğrenicinin yanlılığını düzeltir.
- Temel öğreniciler ve meta-öğrenici kombinasyonlarının neredeyse tamamıyla uyumludur.
- Etiketleme bütçesini sistematik olarak azaltır, uzman zamanını daha verimli hale getirir.
Uygulama alanları
- Sınırlı sayıda etiketlenmiş vakayla tıbbi görüntü veya klinik kayıt sınıflandırması.
- Uzman etiketlemesinin pahalı olduğu hukuki ve düzenleyici belge sınıflandırması.
- Biyoloji, kimya ve uzaktan algılama alanlarında bilimsel veri etiketleme.
- Kıt, alana özgü etiketlenmiş verilerle duygu analizi ve metin sınıflandırması.
- Doğruluk etiketleri manuel inceleme gerektiren dolandırıcılık tespiti.
- Büyük bir etiketlenmemiş havuz ve sıkı bir etiketleme bütçesi olan herhangi bir tablo tahmin görevi.
Nasıl çalışır?
Nasıl çalışır?
Yığındaki ilk temel öğrenicileri uydurmak için az sayıda etiketlenmiş örnekten oluşan bir başlangıç kümesi kullanılır. Kalan veriler, aday havuzunda etiketlenmemiş olarak kalır. Bu başlangıç kümesi, sonraki tüm aktif sorgular için başlangıç noktasını tanımlar.
Tahmin belirsizliği, marj örneklemesi veya temel öğreniciler arasındaki sorgu-komiteye-göre-anlaşmazlık gibi bir edinme işlevi, her etiketlenmemiş adayı puanlar. En yüksek puana sahip örnek, etiketleme için en bilgilendirici olarak seçilir.
Seçilen örnek, gerçek etiketini atayan bir insan etiketleyiciye veya otomatik bir oracle'a sunulur. Bu etiketlenmiş örnek, bir sonraki eğitim turu için eğitim setine eklenir.
Güncellenmiş etiketli küme ile her temel öğrenici (örneğin, karar ağacı, SVM, lojistik regresyon) yeniden eğitilir. Eğitim kümesindeki temel öğrenicilerin kat dışı tahminleri, meta-öğreniciyi eğitmek için kullanılan meta-özellik matrisini oluşturur.
Bir meta-öğrenici (yaygın olarak lojistik regresyon veya doğrusal bir model), temel öğreniciler tarafından üretilen meta-özellikler üzerinde eğitilir. Tahminlerini en iyi şekilde nasıl birleştireceğini öğrenir ve her temel öğrenicinin sistematik hatalarını düzeltir.
Adımlar 2–5, sabit bir sorgu bütçesi için veya model performansı tutulan bir doğrulama kümesinde durağanlaşana kadar tekrarlanır. Nihai yığınlama topluluğu, biriken tüm etiketlenmiş veriler üzerinde eğitilmiş modeldir.
Sık yapılan hatalar
- Yalnızca tek bir temel öğrenici kullanmak - bu, aktif sorgu sinyallerini güvenilir kılan topluluk çeşitliliğini ortadan kaldırır.
- Yeniden eğitim yapmadan büyük gruplar halinde sorgulama yapmak, artımlı geri bildirimin faydasını boşa harcar.
- Her turdan sonra yalnızca eğitim verileri üzerinde doğrulama yapmak yerine tutulan bir doğrulama kümesi üzerinde değerlendirme yapmak.
- Sorguları seçerken sınıf dengesizliğini göz ardı etmek, aktif döngünün çoğunluk sınıfını aşırı örneklemesine neden olabilir.
- Etiketlenmiş başlangıç kümesi performansını nihai model performansıyla karıştırmak.
Sık sorulan sorular
Yığınlama topluluğuyla hangi sorgu stratejisi en iyi çalışır?
Temel öğreniciler arasındaki anlaşmazlığı ölçen komiteye göre sorgulama, temel öğreniciler zaten bir komite oluşturduğu için doğal bir uyumdur. Meta-öğrenicinin çıktısı üzerindeki belirsizlik örneklemesi de yaygındır ve uygulanması daha basittir.
Başlamak için kaç etiketlenmiş örneğe ihtiyacım var?
Her sınıftan en az bir temsili örnekten oluşan bir başlangıç kümesi gereklidir; pratikte, her sınıftan 10-50 etiketlenmiş örnek, ilk sorgu turu için anlamlı belirsizlik tahminleri üretmek üzere temel öğrenicilere yeterli sinyal sağlar.
Tek seferde bir örnek sorgulamak mı yoksa gruplar halinde sorgulamak mı daha iyidir?
Tek sorgu güncellemeleri bilgilendiriciliği en üst düzeye çıkarır ancak her etiketten sonra yeniden eğitmeyi gerektirir, bu da maliyetlidir. Grup modu aktif öğrenme, tek seferde çeşitli sorgulardan oluşan bir grup seçer ve grup başına bir kez yeniden eğitir, bu da maliyet ve bilgi kazancı arasında pratik bir denge sunar.
Yığındaki temel modeller olarak derin öğrenicileri kullanabilir miyim?
Evet, ancak derin öğrenicileri her aktif sorgu turundan sonra yeniden eğitmek çok maliyetlidir. Yaygın bir uzlaşma, sorgu döngüsünü meta-öğrenici ile daha sık çalıştırırken, temel öğrenicileri yalnızca periyodik olarak dondurmak veya ince ayar yapmaktır.
Ne zaman sorgulamayı bırakacağımı nasıl anlarım?
Birkaç tur boyunca doğrulama performansı durağanlaştığında, etiketleme bütçesi tükendiğinde veya edinme işlevi kalan tüm adaylara tekdüze düşük bilgilendiricilik puanları atadığında - modelin havuzun sunabileceği en çok şeyi öğrendiğini gösterdiğinde durun.
İlgili yöntemler
Kaynaklar
Wolpert, D. H. (1992). Stacked generalization. Neural Networks, 5(2), 241–259.
DOI kaynağını açKopyalandı.Settles, B. (2012). Active Learning. Synthesis Lectures on Artificial Intelligence and Machine Learning. Morgan & Claypool Publishers.
DOI kaynağını açKopyalandı.