Stokastik Optimizasyon — SGD ve Türevleri
- Yıl
- 1951 (SGD); 2014 (Adam)
- Tür
- Gradient-based iterative optimization
Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku
Ne işe yarar?
Stokastik optimizasyon, tüm veri kümesi yerine rastgele örneklenmiş veri alt kümeleri — yani mini-batch'ler — üzerinde gradyanları hesaplayarak bir amaç fonksiyonunu minimize eden iteratif yöntemler ailesidir. 1951'de Robbins ve Monro tarafından stokastik yaklaştırma olarak öncülüğü yapılan bu yaklaşım, SGD with momentum, AdaGrad, RMSProp ve Adam gibi türevleri aracılığıyla büyük ölçekli makine öğrenmesi modellerini eğitmek için standart motor haline gelmiştir.
Yöntemin mantığı
Devasa engebeli bir arazide en alçak noktayı bulmak istediğinizi hayal edin, ancak her adımda tüm arazinin eğimini ölçmek aşırı derecede pahalıdır. Stokastik optimizasyon, bunun yerine zeminin küçük rastgele bir yaması üzerindeki eğimi ölçerek, yokuş aşağı bir adım atarak ve süreci birçok kez tekrarlayarak çalışır. Her bireysel adım, tüm araziyi ölçmekten daha gürültülüdür, ancak ucuz adımların çokluğu, birkaç pahalı kesin ölçümden daha hızlı bir şekilde dibe ulaşmanızı sağlar. Adam gibi adaptif türevler, her yönün ne kadar inişli çıkışlı olduğunu hatırlayarak ve adımlarını buna göre ölçeklendirerek daha da ileri gider.
Tarih
Stokastik optimizasyon, hafif koşullar altında iteratif gradyan tahminlerinin bir fonksiyonun durağan noktasına yakınsadığını kanıtlayan Robbins ve Monro'ya (1951) dayanır — stokastik yaklaştırma alanını kurar. Stokastik gradyan inişi, 1990'larda Bottou'nun büyük ölçekli doğrusal modeller üzerindeki çalışmaları sayesinde makine öğrenmesinde yaygın olarak kullanılmaya başlandı. Derin öğrenme çağı, verimli adaptif yöntemlere olan talebi yoğunlaştırdı: Duchi ve ark. 2011'de AdaGrad'ı tanıttı, Tieleman ve Hinton 2012'de RMSProp'u önerdi ve Kingma ve Ba 2014'te Adam'ı yayınladı, bu da çeşitli mimariler ve görevler arasında sağlamlığı nedeniyle hızla sinir ağı eğitimi için varsayılan optimize edici haline geldi.
Ne zaman kullanılır?
Stokastik optimizasyon, tam veri kümesi üzerinde her adımda kesin gradyanları hesaplamanın hesaplama açısından engelleyici olduğu büyük bir veri kümesi üzerinde türevlenebilir (veya alt-türevlenebilir) bir kayıp fonksiyonunu minimize etmeniz gereken her durumda uygulanır. Sinir ağlarını, büyük veriye sahip doğrusal modelleri ve gradyan inişi ile uydurulan herhangi bir parametrik modeli eğitmek için standart yaklaşımdır. Amaç bir gradyan veya alt-gradyan kabul etmelidir; yöntem, türevlenemeyen kara kutu problemleri için geçerli değildir. Öğrenme oranı seçimi kritiktir — çok yüksek bir oran ıraksamaya, çok düşük bir oran yakınsamayı yavaşlatır.
Sınırlar ve dikkat edilmesi gerekenler
- Öğrenme oranı kritik bir hiperparametredir; kötü seçimler ıraksamaya veya son derece yavaş yakınsamaya yol açar.
- Mini-batch gradyan gürültüsü, kesin bir minimuma yakınsamayı engelleyebilir — optimize edici tipik olarak tam olarak yerleşmek yerine optimum civarında salınır.
- Eyer noktaları ve kötü yerel minimumlar, doğrusal olmayan engebeli arazilerde gerçek risklerdir, ancak gradyan gürültüsü ve momentum bunları azaltmaya yardımcı olur.
- Adam ve diğer adaptif yöntemler, dikkatli ayarlama ile düz SGD tarafından bulunan daha düz minimumlardan daha keskin minimumlara yakınsayabilir ve daha kötü genelleme yapabilir.
Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.
Güçlü yönleri
- Her güncelleme yalnızca bir mini-batch kullandığı için keyfi olarak büyük veri kümelerine ölçeklenir, tam veri değil.
- Mini-batch örneklemesinden gelen gradyan gürültüsü, sığ yerel minimumlardan ve eyer noktalarından kaçmaya yardımcı olabilir.
- Adaptif türevler (Adam, RMSProp), parametre başına adım boyutlarını otomatik olarak ayarlayarak manuel öğrenme oranı ayarlama yükünü azaltır.
- Tüm büyük derin öğrenme çerçevelerinde yaygın olarak desteklenir ve teorik olarak iyi anlaşılmıştır.
Uygulama alanları
- Tüm derinliklerdeki sinir ağlarını eğitmek — lojistik regresyondan büyük dil modellerine kadar.
- Tam toplu gradyan inişinin hesaplama açısından mümkün olmadığı büyük ölçekli doğrusal ve genelleştirilmiş doğrusal modelleri uydurmak.
- Verilerin bir akış halinde geldiği ve modelin artımlı olarak güncellenmesi gereken çevrimiçi öğrenme ortamları.
- Adam ve RMSProp'un standart seçimler olduğu pekiştirmeli öğrenme politika gradyan yöntemleri.
- Büyük seyrek veri kümeleri üzerinde eğitilmiş öneri sistemleri ve gömme modelleri.
Nasıl çalışır?
Nasıl çalışır?
Parametre vektörü — tipik olarak küçük rastgele değerlerle — başlatılır. Öğrenme oranı (adım boyutu) ve adaptif türevler için moment bozunma oranları, eğitim başlamadan önce hiperparametre olarak ayarlanır. Bu seçimler, yakınsama hızı ve nihai performans üzerinde büyük bir etkiye sahiptir.
Her iterasyonda, tam veri kümesinin küçük rastgele bir alt kümesi olan bir mini-batch çekilir. Mini-batch boyutu bir ödünleşmeyi kontrol eder: daha küçük batch'ler daha fazla gradyan gürültüsü getirir ancak parametreleri daha sık günceller ve genellikle daha iyi genelleme yapar, daha büyük batch'ler ise daha yüksek iterasyon başına maliyetle daha düşük varyanslı tahminler sağlar.
Amaç (kayıp) fonksiyonunun mevcut parametrelere göre gradyanı, mini-batch kullanılarak hesaplanır. Adaptif optimize ediciler için, gradyanın birinci ve ikinci moment tahminleri, parametre başına ölçek ve eğrilik bilgisini izlemek üzere iterasyonlar boyunca da korunur.
Parametreler, öğrenme oranı ile ölçeklenmiş gradyan yönünün tersine hareket edilerek güncellenir. Adaptif türevler (AdaGrad, RMSProp, Adam), her parametrenin adımını geçmiş gradyan büyüklüklerinin çalışma tahminine bölerek, seyrek güncellenen parametrelere daha büyük adımlar ve gradyanın büyük ve tutarlı olduğu yerlere daha küçük adımlar verir.
Süreç tekrarlanır — örnekleme, gradyan hesaplama ve parametre güncelleme — bir yakınsama kriteri karşılanana kadar: kayıp azalmayı durdurur, maksimum iterasyon sayısına ulaşılır veya doğrulama performansı iyileşmeyi durdurur. Tutulmuş bir doğrulama kümesinde erken durdurma, aşırı uydurmayı önler.
Sık yapılan hatalar
- Öğrenme oranını çok yükseğe ayarlamak, kaybın ıraksamasına veya çılgınca salınmasına neden olur; eğitim sırasında her zaman kayıp eğrisini izleyin.
- Her epoktan önce veriyi karıştırmayı unutmak, gradyan tahminlerine periyodik yanlılık getirebilir.
- Eğitim boyunca sabit bir öğrenme oranı kullanmak genellikle performanstan ödün verir — öğrenme oranı çizelgeleri (ısınma, kosinüs bozunması) tutarlı bir şekilde nihai sonuçları iyileştirir.
- Optimize edicileri adil bir şekilde karşılaştırmak, yalnızca epok sayısını değil, toplam gradyan değerlendirmesi sayısını (veya duvar saati süresini) eşleştirmeyi gerektirir.
- Adam'ın adaptif oranları, seyrek ayarlarda yararlı gradyan sinyalini bastırabilir; momentumlu SGD bazen görüntü sınıflandırma görevleri için daha iyi genelleme yapar.
Sık sorulan sorular
Hangi optimize ediciyi seçmeliyim — SGD, Adam veya başka bir şey?
Adam, çoğu derin öğrenme görevi için güvenli bir varsayılan değerdir: öğrenme oranı seçimine karşı dayanıklıdır ve hızlı yakınsar. Momentumlu ve ayarlanmış bir öğrenme oranı çizelgesine sahip SGD, görüntü sınıflandırma kıyaslamalarında biraz daha iyi nihai genelleme elde eder, ancak daha dikkatli ayarlama gerektirir. AdaGrad, seyrek gradyan sorunları için uygundur (örneğin, torba kelime özelliklerine sahip NLP), RMSProp ise tekrarlayan ağ eğitiminde iyi çalışır.
Öğrenme oranını nasıl seçerim?
Öğrenme oranı en önemli hiperparametredir. Adam için 1e-3 ve SGD için 1e-1 ile başlamak yaygın bir uygulamadır, ardından bir öğrenme oranı bulucu veya ızgara araması kullanılır. Bir ısınma aşaması ve ardından kosinüs veya adım bozunması uygulamak, sabit bir orana göre sonuçları neredeyse her zaman iyileştirir.
Hangi mini-batch boyutunu kullanmalıyım?
32 ile 256 arasındaki batch boyutları yaygındır. Daha küçük batch'ler daha fazla gradyan gürültüsü getirir (bu genelleştirmeye yardımcı olabilir) ve daha sık güncellemeler sağlar; daha büyük batch'ler gürültüyü azaltır ancak daha az iyi genelleme yapabilir ve daha dikkatli öğrenme oranı ölçeklendirmesi gerektirebilir. Batch boyutunu ikiye katladığınızda, bir başlangıç noktası olarak öğrenme oranını orantılı olarak ölçeklendirin (doğrusal ölçeklendirme kuralı).
Eğitimi ne zaman durduracağımı nasıl anlarım?
Doğrulama kaybını izleyin ve bir dizi ardışık epok boyunca iyileşmeyi durdurduğunda durun — erken durdurma adı verilen bir teknik. Bu, sabit sayıda epokta durmaktan daha güvenilirdir ve aşırı uydurmaya karşı koruma sağlar.
İlgili yöntemler
Kaynaklar
Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. Annals of Mathematical Statistics, 22(3), 400-407.
DOI kaynağını açKopyalandı.Kingma, D.P. & Ba, J. (2015). Adam: A Method for Stochastic Optimization. International Conference on Learning Representations (ICLR 2015).
Yayın kaynağını açKopyalandı.