İçeriğe atla
Arama sonuçlarına dön

Bayesçi Optimizasyon — Sıralı Model Tabanlı Hiperparametre Ayarlaması

Ortaya koyan
Mockus (1975); popularised for ML by Snoek, Larochelle & Adams (2012)
Yıl
1975 (foundational); 2012 (ML standard)
Tür
Sequential model-based black-box optimization

Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku

Yazı boyutu

Ne işe yarar?

Bayesçi Optimizasyon, maliyetli "kara kutu" fonksiyonlarının optimumunu mümkün olan en az değerlendirme ile bulmaya yönelik sıralı, model tabanlı bir stratejidir.

Mockus'un (1975) çalışmalarıyla temellenen ve Snoek, Larochelle ve Adams (2012) tarafından ana akım makine öğrenimi uygulamalarına taşınan bu yöntem, geçmiş gözlemlere olasılıksal bir vekil model —tipik olarak bir Gauss Süreci— uydurur ve keşfedilmemiş bölgelerin keşfi ile umut vadeden bölgelerin sömürüsü arasında denge kurarak bir edinim fonksiyonu kullanarak bir sonraki denemenin nerede yapılacağına karar verir.

Yöntemin mantığı

Bir makine öğrenimi modeli için en iyi ayarları bulmanız gerektiğini, ancak her denemenin saatler sürdüğünü hayal edin. Her kombinasyonu test etmeye gücünüz yetmez. Bayesçi Optimizasyon, dikkatli bir bilim insanı gibi hareket eder: denenmiş olanların ve elde edilen sonuçların bir haritasını çıkarır, bu haritayı kullanarak optimumun muhtemelen nerede olduğunu tahmin eder ve ardından şimdiye kadar görülen en iyi sonucu iyileştirmesi en muhtemel bir sonraki deneyi seçer. Daha fazla deney tamamlandıkça, harita daha doğru hale gelir ve seçimler daha akıllı olur — tüm bunlar kara kutunun içindeki matematiksel formülü bilmeye gerek kalmadan gerçekleşir.

Tarih

Bayesçi Optimizasyonun teorik temelleri, Jonas Mockus ve meslektaşları tarafından 1970'lerde sıralı deneysel tasarım için beklenen iyileşme kavramı aracılığıyla atılmıştır. Yaklaşım, 2012 yılına kadar büyük ölçüde akademik kaldı; bu tarihte Snoek, Larochelle ve Adams, NeurIPS'te "Makine Öğrenimi Algoritmalarının Pratik Bayesçi Optimizasyonu" başlıklı makaleyi yayınlayarak, GP tabanlı Bayesçi Optimizasyonun standart ML kıyaslamalarında uzman el ayarını ve rastgele aramayı sürekli olarak geride bıraktığını gösterdi. Bu çalışma, özel kütüphanelerin geliştirilmesini hızlandırdı ve Bayesçi Optimizasyonu derin öğrenme ve Otomatik Makine Öğrenimi (AutoML) işlem hatlarında hiperparametre araması için fiili standart olarak belirledi. Peter Frazier'in 2018 tarihli eğitimi (arXiv:1807.02811) daha sonra yöntemin ML topluluğu dışına yayılmasını sağlayan birleşik bir pedagojik yaklaşım sundu.

Ne zaman kullanılır?

Bayesçi Optimizasyon, hedef fonksiyonun değerlendirilmesi pahalı veya yavaş olduğunda —büyük bir modelin eğitilmesi, fiziksel bir simülasyonun çalıştırılması veya bir laboratuvar deneyinin yapılması gibi— ve bütçe onlarca veya yüzlerce değerlendirme ile sınırlı olduğunda doğru seçimdir. Arama uzayı, her parametre için açık sınırlar ile tanımlanmalıdır. Yöntem, sürekli ve sıralı parametreleri doğal olarak ele alır; tamamen kategorik veya çok yüksek boyutlu uzaylar (yaklaşık 20'den fazla parametre) vekil model kalitesini düşürebilir ve vekil olarak rastgele ormanlar veya boyut azaltma ön işleme gibi uzantılar gerektirebilir. Değerlendirmeler ucuzsa ve paralellik mevcutsa, daha basit rastgele arama veya ızgara araması rekabetçi olabilir.

Sınırlar ve dikkat edilmesi gerekenler

  • Çok yüksek boyutlu hiperparametre uzaylarına kötü ölçeklenir: Gauss Süreci uydurması hesaplama açısından pahalı hale gelir ve vekil model yaklaşık 10-20 boyutun ötesinde doğruluğunu kaybeder.
  • Vekil çekirdeği ve edinim fonksiyonu seçimine duyarlıdır: kötü varsayılanlar, özellikle durağan olmayan veya çok modlu hedeflerde yakınsamayı engelleyebilir.
  • Varsayılan olarak sıralı: bir sonraki aday seçilmeden önce her değerlendirme tamamlanmalıdır, bu da toplu mod veya eşzamansız uzantılar kullanılmadıkça paralelliği sınırlar.
  • Sınırlı arama uzayları gerektirir: açık aralıkları olmayan parametreler doğrudan ele alınamaz.

Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.

Güçlü yönleri

  • Örneklem verimli: ızgara araması veya rastgele aramadan çok daha az değerlendirme ile iyi konfigürasyonlar bulur, bu da her değerlendirme yavaş veya maliyetli olduğunda önemlidir.
  • İlkeli keşif-sömürü dengesi: edinim fonksiyonu, bir sonraki aramanın nerede yapılacağına dair resmi, yorumlanabilir bir kriter sağlar.
  • Model tabanlı belirsizlik: Gauss Süreci sadece performansı tahmin etmekle kalmaz, aynı zamanda kendi güvenini de nicelleştirir, bu da bilinçli durdurma kararları alınmasını sağlar.
  • Herhangi bir "kara kutu" hedefine uygulanabilir: yöntem, gradyan bilgisi veya hedefin iç yapısı hakkında matematiksel bilgi gerektirmez.

Uygulama alanları

  • Her eğitim çalıştırmasının hesaplama açısından pahalı olduğu makine öğrenimi ve derin öğrenme modellerinin hiperparametrelerini ayarlama.
  • Sinirsel Mimari Arama (NAS): katman genişlikleri, aktivasyon fonksiyonları ve atlama bağlantıları gibi mimari seçimleri belirleme.
  • Her fiziksel deneyin maliyetli veya zaman alıcı olduğu mühendislik ve doğa bilimlerinde deneysel tasarım.
  • Hem algoritmaları hem de hiperparametrelerini birlikte seçen Otomatik Makine Öğrenimi (AutoML) işlem hatları.
  • Aday bir konfigürasyonu değerlendirmenin laboratuvar çalışması gerektirdiği ilaç keşfi ve malzeme bilimi.

Nasıl çalışır?

Nasıl çalışır?

1

Uygulayıcı arama uzayını tanımlar: ayarlanacak her hiperparametreye bir tür (sürekli, sıralı) ve optimize edicinin arama yapabileceği bir aralık —alt ve üst sınırlar— verilir. Açık bir uzay tanımı, diğer her şey için ön koşuldur ve vekil modelin güvenli bölgelerin ötesine ekstrapolasyon yapmasını engeller.

2

Arama uzayındaki az sayıda nokta rastgele veya uzay doldurma tasarımı (örneğin, Latin hiperküp örneklemesi) yoluyla değerlendirilir. Bu ilk gözlemler —tipik olarak beş ila on— sıralı döngü başlamadan önce vekil modele hedef fonksiyon yüzeyinin ilk, kaba bir haritasını oluşturması için yeterli veri sağlar.

3

Şimdiye kadar toplanan tüm gözlemler, en yaygın olarak bir Gauss Süreci olan olasılıksal bir vekil modeli uydurmak için kullanılır. GP, uzaydaki her noktada hem ortalama bir tahmin hem de bir belirsizlik tahmini döndürür, böylece hem bilineni hem de modelin ne kadar emin olduğunu yakalar. Vekil modelin değerlendirilmesi ucuzdur, bu nedenle maliyetli gerçek hedef yerine binlerce kez sorgulanabilir.

4

Bir edinim fonksiyonu —Beklenen İyileşme (EI) veya Üst Güven Sınırı (UCB) gibi— bir sonraki aday noktayı seçmek için vekil model üzerinde maksimize edilir. EI, mevcut en iyiye göre beklenen kazancı nicelleştirir; UCB, güven ağırlıklı bir keşif bonusu ekler. Bu adım, keşif-sömürü dengesinin çözüldüğü yerdir: hem yüksek tahmini performansa sahip bölgeler hem de yüksek belirsizliğe sahip bölgeler dikkat çeker.

5

Edinim fonksiyonu tarafından seçilen aday nokta, gerçek hedefe iletilir — örneğin, bu hiperparametrelerle bir sinir ağını eğitmek ve doğrulamak. Bu değerlendirme maliyetli adımdır. Sonucu (skor) adayın koordinatlarıyla birlikte kaydedilir.

6

Yeni gözlem veri kümesine eklenir, vekil model yeniden uydurulur ve döngü edinim adımına geri döner. İterasyon bütçesi tükendikten sonra, gözlemlenen en iyi skoru üreten hiperparametre konfigürasyonu nihai öneri olarak döndürülür.

Sık yapılan hatalar

  • Çok az sayıda başlangıç rastgele denemesi, vekil modelin kötü kalibre olmasına neden olur; en az beş başlangıç noktası ve daha yüksek boyutlu uzaylarda daha fazlasını kullanın.
  • Optimize ediciyi çok az toplam iterasyon (yaklaşık ondan az) için çalıştırmak, vekil modelin asla güvenilir hale gelmemesi anlamına gelir; bu gibi durumlarda basit bir rastgele arama tercih edilir.
  • Edinim fonksiyonu seçimini göz ardı etmek: EI sömürüyü tercih eder ve erken iyi sonuçların yakınında takılıp kalabilir; UCB ayarlanabilir bir güven ağırlığı aracılığıyla keşif ekler — ikisi de evrensel olarak en iyi değildir ve varsayılan, problem yapısına göre doğrulanmalıdır.
  • Bayesçi Optimizasyonu kendi başına bir "kara kutu" olarak ele almak: durgunluğu erken tespit etmek için her zaman yakınsama izini (iterasyon başına görülen en iyi skor) inceleyin.
  • Değerlendirmeler ucuz olduğunda yöntemi uygulamak — rastgele veya ızgara araması, uygulama ek yükünün çok daha azıyla aynı derecede iyi yakınsayacaktır.

Sık sorulan sorular

Bayesçi Optimizasyon, ızgara araması veya rastgele aramadan nasıl farklıdır?

Izgara araması, sabit bir konfigürasyon kafesini değerlendirir ve rastgele arama, tekdüze rastgele örnekler alır — her ikisi de bir sonraki noktayı seçerken önceki denemelerin sonuçlarını göz ardı eder. Bayesçi Optimizasyon, bir vekil model oluşturmak için tüm geçmiş gözlemleri aktif olarak kullanır ve mevcut en iyi sonucu iyileştirmesi en muhtemel bir sonraki noktayı seçer, bu da değerlendirmeler pahalı olduğunda onu çok daha örneklem verimli hale getirir.

Hangi edinim fonksiyonunu kullanmalıyım?

Beklenen İyileşme (EI) en yaygın kullanılan varsayılandır: mevcut en iyiye göre beklenen kazancı ölçer ve problem türleri arasında güvenilir olma eğilimindedir. Üst Güven Sınırı (UCB), ayarlanabilir bir keşif bonusu ekler ve yüzeyin kötü anlaşıldığı durumlarda sıklıkla tercih edilir. İyileşme Olasılığı (PI) daha çok sömürü ağırlıklıdır ve erken yakınsayabilir. EI ile başlayın ve optimize edici durgunlaşırsa UCB'ye geçin.

Kaç iterasyon gereklidir?

Evrensel bir kural yoktur, ancak toplamda ondan az değerlendirme (başlangıç rastgele denemeleri dahil) vekil modele güvenilir olmak için çok az veri sağlar. Pratik uygulamalar tipik olarak beş ila on başlangıç rastgele noktası ve ardından yirmi ila elli sıralı Bayesçi adım kullanır. En iyi görülen skor birkaç ardışık iterasyon boyunca iyileşmeyi durdurduğunda, bütçe durdurulabilir.

Bayesçi Optimizasyon paralelleştirilebilir mi?

Standart Bayesçi Optimizasyon doğası gereği sıralıdır. Toplu mod uzantıları, bir dizi adayı eşzamanlı olarak önermeye izin verir — yaygın stratejiler arasında Yerel Cezalandırma ve Kriging Believer sezgiseli bulunur — bu da paralel değerlendirmeyi mümkün kılar. Eşzamansız varyantlar, tam toplu işi beklemek yerine bir çalışan boşaldığında yeni bir aday başlatır. Bu uzantılar Optuna ve BoTorch gibi kütüphanelerde mevcuttur.

İlgili yöntemler

Kaynaklar

  1. Snoek, J., Larochelle, H., & Adams, R.P. (2012). Practical Bayesian Optimization of Machine Learning Algorithms. Advances in Neural Information Processing Systems (NeurIPS), 25.

    Yayın kaynağını aç
    Kopyalandı.
  2. Frazier, P.I. (2018). A Tutorial on Bayesian Optimization. arXiv:1807.02811.

    Yayın kaynağını aç
    Kopyalandı.