Yatay Sinir Ağı (Sınıflandırma)
- Ortaya koyan
- LeCun, Y. et al.
- Yıl
- 1998
- Tür
- Deep neural network (convolutional)
Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku
Ne işe yarar?
Yatay Sinir Ağı (CNN), LeCun ve meslektaşları tarafından 1998 yılında geliştirilen, görüntüleri ve yapılandırılmış verileri sınıflandırmak için doğrudan yerel örüntüleri öğrenen bir derin öğrenme modelidir.
Evrişimsel filtre yığınları giderek daha soyut özellikler keşfeder, böylece manuel özellik mühendisliği büyük ölçüde azaltılabilir.
Yöntemin mantığı
Özellikleri elle tasarlamak yerine, bir CNN kenarlar, dokular veya motifler gibi yerel örüntüleri tespit etmek için girdi üzerinde küçük öğrenilebilir filtreler kaydırır; bunlar nerede görünürse görünsünler. Erken katmanlar basit ipuçlarını toplar; daha derin katmanlar bunları daha üst düzey kavramlara birleştirir. Aynı filtre tüm girdi boyunca yeniden kullanıldığı için, ağ verimli bir şekilde öğrenir ve bir örüntüyü nerede olursa olsun tanır.
Tarih
Evrişimsel sinir ağları, 1998'de Yann LeCun ve meslektaşları tarafından belge tanıma üzerine yaptıkları çalışmada, LeNet mimarisinin el yazısı rakamları okuduğu gradyan tabanlı öğrenme üzerine yaptıkları çalışmada modern biçimde bir araya getirildi. Evrişim, havuzlama ve uçtan uca gradyan eğitiminin birleşimi, görüntü sınıflandırması için şablon haline geldi ve daha büyük veri kümeleri ve daha hızlı donanımla bilgisayar vizyonunda derin öğrenme devrimini yönlendirdi.
Ne zaman kullanılır?
Etiketlenmiş büyük bir veri kümeniz olduğunda — kabaca 1000 veya daha fazla gözlem — ve modelin özellikleri elle mühendislik yapmak yerine otomatik olarak öğrenmesini istediğinizde, görüntüleri ve yapılandırılmış ızgara benzeri verileri sınıflandırmak veya tahmin etmek için bir CNN kullanın. Normal dağılmış veriler gerektirmez ve sürekli ve kategorik girdileri işler. Yaklaşık 500 gözlemin altında ağ aşırı uyar ve Rastgele Orman daha güvenlidir; yaklaşık 200'ün altında evrişimsel filtreler anlamlı örüntüler öğrenemez ve SVM tercih edilir.
Sınırlar ve dikkat edilmesi gerekenler
- Güvenilir bir şekilde eğitmek için büyük bir etiketli veri kümesi (yaklaşık 1000+ gözlem) gerektirir.
- Küçük örneklerde (n yaklaşık 500'ün altında) ağ aşırı uyar ve sınıflandırma performansı düşer.
- Yaklaşık 200 gözlemin altında evrişimsel filtreler anlamlı örüntüler öğrenemez.
- Eğitimi hesaplama açısından yoğundur ve öğrenilen temsilin yorumlanması zordur.
Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.
Güçlü yönleri
- Manuel özellik mühendisliği ihtiyacını büyük ölçüde azaltarak yerel örüntüleri otomatik olarak öğrenir.
- Ağırlık paylaşımı, bir örüntüyü göründüğü her yerde tanır ve parametre sayısını yönetilebilir tutar.
- Basit kenarlardan soyut kavramlara kadar bir özellik hiyerarşisi oluşturur, görüntüler için çok uygundur.
- Varsayım hafif: normalite gereksinimi yoktur ve sürekli ve kategorik girdileri kabul eder.
- Büyük etiketli görüntü ve ızgara yapılı sınıflandırma görevlerinde son teknoloji doğruluğu.
Uygulama alanları
- Görüntü sınıflandırma ve tanıma görevleri.
- Yerel örüntülerin önemli olduğu yapılandırılmış, ızgara benzeri verilerin sınıflandırılması.
- Belge ve el yazısı karakter tanıma.
- Manuel özellik mühendisliğinin pratik olmadığı özellik öğrenme.
Nasıl çalışır?
Nasıl çalışır?
Öğrenilebilir filtreler (çekirdekler), özellik haritaları üretmek için girdi üzerinde evriştirilir ve yerel ağırlıklı toplamları hesaplar. Her filtre belirli bir yerel örüntüye — bir kenar, bir doku, bir şekil parçası — yanıt verir ve aynı ağırlıklar tüm konumlarda paylaşıldığı için, ağ bu örüntüyü girdinin herhangi bir yerinde tespit ederken parametre sayısını düşük tutar.
Formül
(I * K)(i,j) = \sum_{m}\sum_{n} I(i+m, j+n)\, K(m,n)Havuzlama katmanları (örneğin maksimum havuzlama), her özellik haritasını aşağı örnekler ve komşulukları tek bir değere özetler. Bu, uzamsal boyutları küçültür, temsili küçük kaymalara ve bozulmalara karşı daha sağlam hale getirir ve sonraki katmanların daha geniş bir alıcı alan üzerinde giderek daha soyut özellikler oluşturmasını sağlar.
Üst düzey özellik haritaları düzleştirilir ve bir softmax ile biten tam bağlı katmanlara iletilir, bu da sınıf olasılıklarını verir. Tüm ağ — filtreler ve ağırlıklar birlikte — gradyan tabanlı öğrenme ile uçtan uca eğitilir ve geri yayılım yoluyla sınıflandırma kaybını en aza indirir.
Formül
\hat{y} = \operatorname{softmax}(W h + b)Sık yapılan hatalar
- Çok az veride eğitim ve Rastgele Orman veya SVM'ye geri dönmek yerine aşırı uyma.
- Eğitim doğruluğuna güvenerek, ayrılmış bir doğrulama veya test bölümünü atlamak.
- Sınıfları yeniden ağırlıklandırmak veya yeniden örneklemek yerine sınıf dengesizliğini göz ardı etmek.
- Kesinlik, geri çağırma, F1 veya bir karışıklık matrisi olmadan yalnızca doğruluğu raporlamak.
- Girdileri normalleştirmeyi unutmak veya aşırı uymaya karşı herhangi bir düzenlileştirme uygulamamak.
Sık sorulan sorular
Bir CNN ne kadar veriye ihtiyaç duyar?
CNN'ler veriye açtır; kabaca bir alt sınır yaklaşık 1000 etiketli gözlemdir. Yaklaşık 500'ün altında aşırı uyma eğilimindedirler ve yaklaşık 200'ün altında filtreler anlamlı örüntüler öğrenemez — bu durumlarda Rastgele Orman veya SVM daha güvenli seçimlerdir.
Neden düz bir sinir ağı yerine evrişim?
Evrişim, aynı küçük filtreyi girdinin tüm konumlarında paylaşır, böylece bir örüntü göründüğü her yerde tespit edilir ve parametre sayısı düşük kalır. Tam bağlı bir ağın çok daha fazla ağırlığa ihtiyacı olurdu ve verinin uzamsal yapısından yararlanamazdı.
Havuzlama ne yapar?
Havuzlama, yerel komşulukları özetleyerek özellik haritalarını aşağı örnekler, bu da uzamsal boyutu azaltır, küçük kaymalara karşı sağlamlık katar ve daha derin katmanların daha geniş bir alıcı alan üzerinde daha soyut özellikler oluşturmasını sağlar.
Bir CNN'ye güvenmeden önce neyi kontrol etmeliyim?
Yeterince büyük bir etiketli veri kümeniz olduğundan emin olun, girdileri normalleştirin, uygun bir eğitim/doğrulama/test bölümü ayarlayın, herhangi bir sınıf dengesizliğini giderin ve yalnızca doğruluk yerine kesinlik, geri çağırma, F1 ve bir karışıklık matrisi ile değerlendirin.
İlgili yöntemler
Kaynaklar
LeCun, Y., Bottou, L., Bengio, Y. & Haffner, P. (1998). Gradient-Based Learning Applied to Document Recognition. Proceedings of the IEEE, 86(11), 2278–2324.
DOI kaynağını açKopyalandı.