Lojistik Regresyon ile Aktif Öğrenme
- Ortaya koyan
- Lewis, D. D. & Gale, W. A.; Settles, B. (survey)
- Yıl
- 1994–2010
- Tür
- Active learning framework with logistic regression base learner
- Aile
- Machine learning
Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku
Ne işe yarar?
Lojistik Regresyon ile Aktif Öğrenme, lojistik regresyon modelinin en çok belirsiz olduğu etiketlenmemiş örnekleri seçtiği, bir oracle'ın (insan etiketleyici) bunları etiketlediği ve modelin yeniden eğitildiği iteratif, etiket-az verimli bir çerçevedir — etiketleme bütçesi veya doğruluk hedefi karşılanana kadar tekrarlanır.
Rastgele etiketlemeye kıyasla etiketleme maliyetini önemli ölçüde azaltır.
Yöntemin mantığı
Veri etiketlemek pahalıdır. Rastgele bir örneklem etiketlemek yerine, lojistik modelin yalnızca tahmin edilen olasılığının 0.5'e en yakın olduğu örnekleri işaret ettiğini hayal edin — bu, gerçekten karar veremediği anlamına gelir. Bir uzman yalnızca bu sınır durumları etiketler ve model yeniden eğitilir. Etiketlenen her örnek maksimum bilgi taşıdığı için, model pasif öğrenmeye göre çok daha az etiketle iyi bir doğruluk elde eder. Lojistik regresyon burada tercih edilir çünkü belirsizliği doğrudan yansıtan kalibre edilmiş olasılıklar sunar.
Tarih
Aktif öğrenme çerçevesi 1990'ların başında biçimlendirildi. Lewis ve Gale (1994), Naive Bayes öğrenici kullanarak metin sınıflandırması için belirsizlik örneklemesini tanıttı ve yaklaşım hızla lojistik regresyona uyarlandı. Settles'ın 2010'daki incelemesi, en az güven, marj örneklemesi ve entropi dahil olmak üzere sorgu stratejilerini kataloglayan kanonik referans haline geldi. Lojistik regresyon, olasılıkları kalibre edilmiş ve yeniden eğitim maliyeti düşük olduğu için havuz tabanlı aktif öğrenme karşılaştırmalarında en sık alıntılanan temel öğrenici olmaya devam etmektedir.
Ne zaman kullanılır?
Etiketlemenin pahalı olduğu (tıbbi kayıtlar, yasal belgeler, uzman anketleri) ve etiketlenmemiş verinin bol olduğu, ancak toplam etiketleme bütçesinin sınırlı olduğu durumlarda lojistik regresyon ile aktif öğrenmeyi kullanın. Özelliklerin makul ölçüde doğrusal olarak ayrılabilir olduğu ikili veya çok sınıflı metin sınıflandırma, duygu analizi ve klinik kodlama için mükemmeldir. (a) Karar sınırının yüksek derecede doğrusal olmadığı ve lojistik regresyonun özellik mühendisliği ile bile bunu modelleyemediği, (b) oracle'ın güvenilmez veya tekrar tekrar sorgulanmasının pahalı olduğu, (c) etiketlenmiş kümenin tam denetim için zaten yeterince büyük olduğu veya (d) etiketlenmemiş kümenin seçici sorgulamadan yararlanmak için çok küçük olduğu durumlarda kaçının.
Sınırlar ve dikkat edilmesi gerekenler
- Gerçek karar sınırı doğrusal olmadığında performans düşer; bu gibi durumlarda çekirdekli bir SVM veya sinirsel aktif öğrenici tercih edilir.
- Belirsizlik örneklemesi, sınır örneklerini aşırı temsil eden ve her sınıfın ana kütlesini eksik temsil eden yanlı bir etiketlenmiş küme oluşturabilir.
- Oracle ile tekrarlanan etkileşim gerektirir, bu da tek bir etiketleme grubuna kıyasla lojistik ek yük getirir.
- Soğuk başlangıç: başlangıç tohum kümesi erken sorguları güçlü bir şekilde etkiler, bu nedenle kötü seçilmiş bir tohum yakınsamayı yavaşlatabilir.
Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.
Güçlü yönleri
- Rastgele örneklemeye kıyasla hedef bir doğruluğa ulaşmak için gereken etiket sayısını önemli ölçüde azaltır.
- Lojistik regresyon, ek kalibrasyona gerek kalmadan belirsizlik tahminlerini güvenilir kılan, doğal olarak kalibre edilmiş olasılıklar sunar.
- Şeffaf ve denetlenebilir: hem doğrusal model hem de sorgu kriteri incelenebilir.
- Her sorgudan sonra yeniden eğitilmesi hesaplama açısından ucuzdur, bu da gerçek zamanlı veya gerçeğe yakın etiketleme iş akışlarını mümkün kılar.
- TF-IDF veya kelime torbası özellik temsilleriyle metin sınıflandırmasına sorunsuz bir şekilde aktarılır.
Uygulama alanları
- Sınırlı etiketlenmiş veri kümeleriyle metin sınıflandırma ve duygu analizi.
- Uzman etiketlemenin pahalı olduğu tıbbi kayıt kodlama ve klinik NLP.
- Sosyal bilim anketleri ve içerik denetimi için aktif etiketleme işlem hatları.
- Kullanıcıların yalnızca belirsiz belgeleri etiketlediği bilgi erişimi alaka geri bildirimi.
- Minimum tohum etiketleriyle biyomedikal varlık tanıma önyüklemesi.
Nasıl çalışır?
Nasıl çalışır?
Küçük bir etiketlenmiş örneklem tohumu oluşturulur — alana bağlı olarak genellikle 10 ila birkaç yüz örnek. Başlangıç karar sınırını belirlemek için bu tohum kümesi üzerinde bir lojistik regresyon modeli eğitilir. Kalan etiketlenmemiş örnekler, sorguların çekileceği havuzu oluşturur.
Lojistik regresyon, etiketlenmiş kümenin log-olasılığını maksimize ederek doğrusal bir karar sınırı uydurur. Her örnek için çıktı, P(y=1|x) = sigmoid(w^T x) olasılığıdır. Lojistik regresyon kalibre edilmiş olasılıklar ürettiği için, güven skorları doğrudan belirsizlik tahminleri olarak yorumlanabilir — bu, aktif öğrenme ile doğal olarak eşleşmesinin temel nedenidir.
Formül
P(y=1 \mid x) = \sigma(\mathbf{w}^\top x)Havuzdaki her etiketlenmemiş örnek, bir belirsizlik kriteri ile puanlanır. En yaygın olanı en az güven örneklemesidir: model, en düşük maksimum sınıf olasılığına sahip örneği seçer (yani, model en az emin). İkili problemler için bu, karar sınırına en yakın noktaları seçmeye indirgenir (olasılığa en yakın 0.5).
Formül
x^* = \arg\min_{x \in U} \max_y P(y \mid x, \hat{\theta})En belirsiz örnek (veya en belirsiz k örneğin bir grubu) etiketleme için bir insan etiketleyiciye veya oracle'a sunulur. Oracle, etiketlenmiş eğitim kümesine eklenen gerçek sınıf etiketini sağlar. Sabit bir etiketleme bütçesi, döngünün kaç sorgu yapmasına izin verildiğini belirler.
Lojistik regresyon modeli, genişletilmiş etiketlenmiş küme üzerinde yeniden eğitilir. Performans, tutulmuş bir doğrulama kümesi üzerinde değerlendirilir. Bütçe tükenmediyse ve doğruluk hedefine ulaşılmadıysa, döngü belirsizlik puanlama adımına döner. Süreç, bütçe tükendiğinde veya performans durağanlaştığında sona erer.
Sık yapılan hatalar
- Performansı, doğruluk tahminlerini şişiren ayrı bir i.i.d. tutulmuş küme yerine aktif olarak seçilen etiketlenmiş küme üzerinde değerlendirmek.
- Tohum kümesindeki sınıf dengesizliğini göz ardı etmek — dengesiz bir tohum, modelin neredeyse yalnızca azınlık sınıfı sınırından sorgulama yapmasına neden olur.
- Yoğunluk ağırlıklandırması veya temsilcilik düzeltmesi olmadan etiketlenmiş ve etiketlenmemiş veriler arasında dağılım kayması olan bir havuza belirsizlik örneklemesi uygulamak.
- Güven aralıklarını veya hipotez testlerini bildirirken yanlı örneklemeyi hesaba katmadan son modeli standart bir lojistik regresyon olarak ele almak.
Sık sorulan sorular
Daha güçlü bir model yerine neden lojistik regresyon kullanılır?
Lojistik regresyon, iyi kalibre edilmiş olasılıklar sunar, her sorgudan sonra hızla yeniden eğitilir ve yorumlanabilirdir — bunların hepsi, modelin birçok kez güncellendiği ve belirsizlik puanlarının güvenilir olması gereken aktif öğrenme döngülerinde kritiktir. Daha karmaşık modeller kullanılabilir ancak yeniden eğitim maliyetini artırır ve olasılık kalibrasyonu gerektirebilir (örneğin, SVM'ler için Platt ölçeklendirme).
Başlamak için kaç tohum etiketi gerekir?
Kesin bir kural yok, ancak literatürde sınıf başına 10-50 etiketlenmiş örnek yaygın başlangıç noktalarıdır. Çok az tohum, belirsizlik tahminleri güvenilmez olan kararsız bir başlangıç modeli üretir; çok fazlası aktif öğrenmenin amacını boşa çıkarır.
Belirsizlik örneklemesi ile komite tarafından sorgulama arasındaki fark nedir?
Belirsizlik örneklemesi, sorguları seçmek için tek bir modelin tahmin güvenini kullanır. Komite tarafından sorgulama, bir model komitesi eğitir ve en çok anlaştıkları noktaları seçer. Lojistik regresyon için, belirsizlik örneklemesi (en az güven veya entropi) daha yaygındır çünkü yalnızca bir modele ihtiyaç duyar.
Tek tek yerine toplu sorgular kullanabilir miyim?
Evet. Toplu mod aktif öğrenme, oracle etkileşim sıklığını azaltmak için tur başına en belirsiz k örneği seçer. Yaygın bir sezgisel yöntem, her tek sorgudan ziyade her toplu işlemden sonra yeniden eğiterek 10-50'lik bir toplu işlem boyutu kullanmaktır.
Aktif öğrenme eğrisi nasıl değerlendirilir?
Sorgulanan etiket sayısının bir fonksiyonu olarak sabit tutulmuş bir test kümesi üzerinde sınıflandırma doğruluğunu (veya F1, AUC) çizin. Bu eğriyi rastgele örnekleme tabanı çizgisiyle karşılaştırın. Rastgele örneklemeye göre öğrenme eğrisinin altındaki alan, etiketleme verimliliği kazancını ölçer.
İlgili yöntemler
Kaynaklar
Settles, B. (2010). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
Yayın kaynağını açKopyalandı.Lewis, D. D., & Gale, W. A. (1994). A sequential algorithm for training text classifiers. Proceedings of the 17th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval, 3–12.
DOI kaynağını açKopyalandı.