Model Generatif Berbasis Skor
- Diperkenalkan oleh
- Song, Y. & Ermon, S.
- Tahun
- 2019
- Jenis
- Score-based generative model (SDE framework)
Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris
Apa fungsinya?
Model generatif berbasis skor, yang diperkenalkan oleh Yang Song dan Stefano Ermon pada tahun 2019 dan digeneralisasi ke kerangka persamaan diferensial stokastik (SDE) pada tahun 2021, mempelajari gradien densitas data — yaitu skor — daripada memprediksi derau secara langsung, dan menggunakannya untuk menghasilkan sampel baru.
Ini adalah generalisasi matematis yang menyatukan model difusi di bawah formulasi waktu kontinu.
Intuisi di balik metode
Alih-alih menghafal seperti apa data itu, model mempelajari arah untuk mendorong setiap titik sehingga bergerak menuju wilayah di mana data riil padat. Arah itu adalah skor: gradien log-densitas. Setelah Anda dapat menunjuk ke densitas yang lebih tinggi dari mana saja, Anda dapat memulai dari derau murni dan mengikuti arah ini langkah demi langkah sampai Anda tiba pada sampel yang realistis.
Sejarah
Pemodelan generatif berbasis skor diperkenalkan oleh Song dan Ermon pada tahun 2019 sebagai pemodelan generatif dengan memperkirakan gradien distribusi data. Pada tahun 2021 Song dan rekan-rekannya merumuskan kembali gagasan tersebut dalam kerangka persamaan diferensial stokastik, menunjukkan bahwa pencocokan skor di seluruh tingkat derau kontinu menggeneralisasi model difusi dan menyatukan beberapa formulasi generatif sebelumnya di bawah satu pandangan waktu-kontinu.
Kapan digunakan
Cocok untuk generasi fidelitas tinggi dan estimasi densitas data kontinu ketika set pelatihan yang besar (sekitar 1000 observasi atau lebih) atau model praterlatih tersedia dan sumber daya GPU/TPU dapat digunakan. Ini tidak membuat asumsi normalitas, tetapi sampler harus disesuaikan dengan SDE yang dipilih. Di bawah sekitar 1000 observasi, autoencoder variasi adalah pilihan yang lebih aman, dan di bawah 500, metode yang lebih sederhana seperti PCA lebih disukai.
Batasan dan pertimbangan
- Membutuhkan kumpulan data yang besar (sekitar 1000+ observasi) atau model praterlatih untuk memperkirakan gradien densitas secara andal.
- Membutuhkan perangkat keras GPU/TPU untuk melatih dan mengambil sampel.
- Sampler harus dipilih agar sesuai dengan jenis SDE, menambah beban konfigurasi.
- Pada sampel kecil, estimasi skor buruk dan generasi menjadi tidak berarti.
Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.
Kelebihan
- Mempelajari gradien densitas data secara langsung, memberikan generalisasi matematis yang berprinsip dari model difusi.
- Kerangka SDE waktu-kontinu menyatukan berbagai formulasi difusi di bawah satu tujuan.
- Tidak ada asumsi normalitas pada data.
- Menghasilkan sampel data kontinu fidelitas tinggi dan mendukung estimasi densitas.
Penerapan
- Generasi data kontinu fidelitas tinggi seperti gambar.
- Estimasi densitas dan pemodelan distribusi data kompleks.
- Pemodelan generatif waktu-kontinu yang mencakup formulasi difusi diskrit.
- Tugas generatif prediksi dan penjelasan di mana data besar atau model praterlatih tersedia.
Cara kerjanya
Cara kerjanya
Jaringan saraf dilatih untuk memperkirakan skor distribusi data — gradien log-densitas terhadap input. Daripada memprediksi derau tambahan, ia mempelajari medan arah yang menunjuk ke tempat data terkonsentrasi, yang menjadikan pendekatan ini generalisasi matematis dari model difusi.
Rumus
s_\theta(x) \approx \nabla_x \log p(x)
Persamaan diferensial stokastik maju secara bertahap merusak data menjadi derau sepanjang waktu kontinu, dengan suku hanyutan dan suku difusi menyuntikkan derau Gaussian. Ini mendefinisikan keluarga distribusi yang semakin berderau secara mulus yang skornya dipelajari oleh jaringan di semua tingkat derau.
Rumus
dx = f(x,t)\,dt + g(t)\,dw
Generasi membalikkan proses dengan menyelesaikan SDE waktu-balik yang sesuai, yang menggunakan skor yang dipelajari untuk mengarahkan sampel dari derau kembali ke distribusi data. Pilihan jenis SDE menentukan sampler mana yang sesuai, dan integrasi dijalankan pada perangkat keras GPU atau TPU.
Rumus
dx = [f(x,t) - g(t)^2 \nabla_x \log p_t(x)]\,dt + g(t)\,d\bar{w}Kesalahan umum
- Menerapkannya di bawah ambang batas ~1000 observasi, di mana skor tidak dapat diperkirakan secara akurat.
- Menggunakan sampler yang tidak cocok dengan formulasi SDE yang dipilih.
- Mencoba melatih tanpa sumber daya GPU/TPU.
- Jatuh di bawah ~500 observasi, di mana generasi berbasis SDE tidak berarti dan model yang lebih sederhana harus digunakan.
Pertanyaan yang sering diajukan
Apa skor yang dipelajari model?
Skor adalah gradien log probabilitas densitas terhadap input. Mengetahuinya di setiap titik dan tingkat derau memungkinkan model mendorong sampel ke arah di mana data riil terkonsentrasi.
Bagaimana ini terkait dengan model difusi?
Ini adalah generalisasi matematis dari model difusi: dengan merumuskan korupsi maju dan generasi balik sebagai persamaan diferensial stokastik waktu-kontinu, pemodelan berbasis skor menyatukan pendekatan difusi di bawah satu kerangka kerja.
Berapa banyak data yang saya butuhkan?
Sekitar 1000 observasi atau lebih, atau model praterlatih. Di bawah 1000, autoencoder variasi lebih aman, dan di bawah 500, generasi berbasis SDE tidak berarti dan metode yang lebih sederhana seperti PCA lebih disukai.
Perangkat keras apa yang dibutuhkan?
Sumber daya GPU atau TPU diperlukan untuk pelatihan dan pengambilan sampel, dan sampler harus dipilih agar sesuai dengan jenis SDE yang digunakan.
Metode terkait
Sumber
Song, Y. & Ermon, S. (2019). Generative Modeling by Estimating Gradients of the Data Distribution. NeurIPS 32, 11895–11907.
Buka referensi publikasiDisalin.Song, Y. et al. (2021). Score-Based Generative Modeling through Stochastic Differential Equations. ICLR.
Buka referensi publikasiDisalin.