İçeriğe atla
Arama sonuçlarına dön

Üretken Çekişmeli Ağ

Ortaya koyan
Goodfellow, I. et al.
Yıl
2014
Tür
Generative deep learning (adversarial two-network game)

Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku

Yazı boyutu

Ne işe yarar?

Ian Goodfellow ve meslektaşları tarafından 2014 yılında tanıtılan bir Üretken Çekişmeli Ağ (GAN), iki sinir ağının — bir üretici ve bir ayırt edici — rekabeti yoluyla gerçekçi sentetik veriler üretir.

Görüntü sentezi, veri artırımı ve dağılım tahmini için yaygın olarak kullanılır.

Yöntemin mantığı

Bir sahtekar ve bir dedektifin bir yarış içinde olduğunu düşünün. Üretici (sahtekar), gerçekmiş gibi geçebilecek kadar ikna edici sahte örnekler üretmeye çalışırken, ayırt edici (dedektif) gerçek veriyi sahtelerden ayırt etmeye çalışır. Her biri işinde ustalaştıkça, üretici giderek daha gerçekçi çıktılar üretmeye zorlanır, ta ki sahteleri gerçek verilerden ayırt etmek zorlaşana kadar.

Tarih

Üretken Çekişmeli Ağ, 2014 yılında Ian Goodfellow ve meslektaşları tarafından tanıtıldı ve üretimi bir üretici ve bir ayırt edici arasındaki iki oyunculu bir oyun olarak çerçeveledi. Bu fikir, görüntü sentezi ve çevirisi için büyük bir varyant ailesi doğurdu. Karras ve meslektaşları (2020), StyleGAN ile görüntü kalitesini önemli ölçüde ilerletti, üretken sadakatini analiz etti ve iyileştirdi. Daha yakın zamanda, difüzyon modelleri yüksek kaliteli üretim için önde gelen bir alternatif olarak ortaya çıktı.

Ne zaman kullanılır?

Gerçekçi sentetik örnekler — görüntü sentezi, veri artırımı veya dağılım tahmini — üretmeniz gerektiğinde, yüksek boyutlu sürekli verilerden (görüntüler veya ses gibi) ve yeterince büyük bir veri kümeniz olduğunda (minimum yaklaşık 500 gözlem, 1000 veya daha fazlası tercih edilir) bir GAN kullanın. Normal dağılımlı verileri varsaymaz, ancak GPU kaynakları gerektirir ve mod çökmesi için üretici-ayırt edici dengesi izlenmelidir. Küçük veri kümelerinde çekişmeli denge kurulamayabilir; varyasyonel bir otomatik kodlayıcı veya daha basit bir veri artırımı yaklaşımı daha güvenlidir.

Sınırlar ve dikkat edilmesi gerekenler

  • Eğitim dengesizdir ve mod çökmesine eğilimlidir, burada üretici veri dağılımının yalnızca bir kısmını kapsar.
  • Bir GPU ve önemli miktarda eğitim verisi gerektirir — tipik olarak minimum 500 gözlem ve pratikte 1000 veya daha fazla.
  • Yaklaşık 1000 örneğin altında üretici-ayırt edici dengesi kurulamayabilir ve mod çökmesi riski çok yüksek hale gelir.
  • Yaklaşık 500 örneğin altında model hiç gerçekçi veri üretemez ve artırım alternatifleri tercih edilir.

Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.

Güçlü yönleri

  • Görüntüler ve ses dahil olmak üzere yüksek gerçekçiliğe sahip sentetik veriler üretir.
  • Normal dağılımlı veri gerektirmez ve yüksek boyutlu sürekli girdileri işler.
  • Gerçek etiketli örneklerin kıt olduğu durumlarda veri artırımı için kullanışlıdır.
  • Hem tahmin hem de keşifsel dağılım tahmini amaçları için uygundur.

Uygulama alanları

  • Görüntü sentezi ve gerçekçi görsel içerik üretimi.
  • Kıt eğitim veri kümelerini genişletmek için veri artırımı.
  • Yüksek boyutlu sürekli veriler için dağılım tahmini.
  • Ses ve sinyal sentezi.

Nasıl çalışır?

Nasıl çalışır?

1

Zıt hedeflere sahip iki ağ kurulur. Üretici, rastgele gürültüyü gerçek veri dağılımını taklit etmeyi amaçlayan sentetik örneklere eşler. Ayırt edici, hem gerçek hem de üretilmiş örnekler alır ve hangisinin hangisi olduğunu sınıflandırmayı öğrenir. Veriler tipik olarak yüksek boyutlu (görüntüler, ses) olduğundan, eğitim genellikle bir GPU gerektirir.

2

İki ağ, minimax oyunu olarak birlikte eğitilir: ayırt edici, gerçek ile sahteyi ayırma yeteneğini en üst düzeye çıkarmak için güncellenirken, üretici, ayırt edicinin başarısını en aza indirmek — yani onu kandırmak — için güncellenir. Paylaşılan hedef, her iki ağı da birbirine bağlar, bu nedenle birini iyileştirmek diğerine baskı uygular.

Formül
\min_G \max_D \; \mathbb{E}_{x}[\log D(x)] + \mathbb{E}_{z}[\log(1 - D(G(z)))]
3

Eğitim, üreticinin örneklerinin ayırt edicinin artık güvenilir bir şekilde ayırt edemeyeceği kadar gerçek dağılıma benzemeye yaklaştığı bir dengeye ulaşılana kadar devam eder. İki ağ arasındaki denge yakından izlenmelidir, çünkü dengesizlik, üreticinin olası çıktıların yalnızca dar bir dilimini ürettiği mod çökmesine neden olabilir.

Sık yapılan hatalar

  • Çok az veride eğitim, çekişmeli dengenin başarısız olmasına ve mod çökmesine yol açar.
  • Mod çökmesini izlememek ve örnek çeşitliliğini kontrol etmeden çeşitli çıktılar varsaymak.
  • Yüksek boyutlu görüntü veya ses verileri için GPU kaynakları olmadan eğitim yapmaya çalışmak.
  • Varyasyonel bir otomatik kodlayıcının veya basit bir artırımın daha güvenilir olacağı küçük bir veri kümesinde GAN'a yönelmek.

Sık sorulan sorular

Mod çökmesi nedir?

Mod çökmesi, üreticinin gerçek verinin tam çeşitliliğini kapsaması yerine, ayırt ediciyi güvenilir bir şekilde kandıran dar bir çıktı kümesi üretmeyi öğrenmesi durumunda meydana gelir. GAN eğitiminin merkezi bir hata modudur, özellikle küçük veri kümelerinde ve eğitim boyunca örnek çeşitliliği izlenmelidir.

Ne kadar veriye ihtiyacım var?

Bir GAN önemli bir veri kümesi gerektirir: yaklaşık 500 gözlem pratik bir minimumdur, ancak kabaca 1000'in altında üretici-ayırt edici dengesi kurmak zordur ve mod çökmesi riski yüksektir. Çok az veriyle, varyasyonel bir otomatik kodlayıcı veya daha basit bir artırım yöntemi daha güvenli bir seçenektir.

GPU'ya ihtiyacım var mı?

Pratikte evet. GAN'lar görüntüler ve ses gibi yüksek boyutlu veriler üzerinde çalışır ve rekabet eden iki ağın eğitimi hesaplama açısından yoğundur, bu nedenle bir GPU etkin bir şekilde gereklidir.

GAN bir difüzyon modelinden nasıl farklıdır?

Bir GAN, eğitimin hızlı ancak dengesiz olmasını sağlayan iki ağın çekişmeli rekabeti yoluyla üretir. Difüzyon modelleri bunun yerine adım adım bir gürültü giderme sürecini tersine çevirmeyi öğrenir ve yüksek kaliteli üretim için güçlü bir alternatif haline gelmiştir.

İlgili yöntemler

Kaynaklar

  1. Goodfellow, I. et al. (2014). Generative Adversarial Nets. NeurIPS.

    Yayın kaynağını aç
    Kopyalandı.
  2. Karras, T. et al. (2020). Analyzing and Improving the Image Quality of StyleGAN. CVPR.

    DOI kaynağını aç
    Kopyalandı.