مدل مولد مبتنی بر امتیاز
- معرفیشده توسط
- Song, Y. & Ermon, S.
- سال
- 2019
- نوع
- Score-based generative model (SDE framework)
این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید
چه کاری انجام میدهد؟
یک مدل مولد مبتنی بر امتیاز، که در سال ۲۰۱۹ توسط یانگ سونگ و استفانو ارمون معرفی شد و در سال ۲۰۲۱ به چارچوب معادلات دیفرانسیل تصادفی (SDE) تعمیم یافت، به جای پیشبینی مستقیم نویز، گرادیان چگالی دادهها - یعنی امتیاز - را یاد میگیرد و از آن برای تولید نمونههای جدید استفاده میکند. این تعمیم ریاضی است که مدلهای انتشاری را تحت یک فرمولبندی زمان پیوسته یکپارچه میکند.
شهود پشت روش
این مدل به جای حفظ کردن ظاهر دادهها، یاد میگیرد که هر نقطه را به کدام سمت سوق دهد تا به مناطقی که دادههای واقعی در آنها متراکم هستند، حرکت کند. آن جهت، امتیاز است: گرادیان لگاریتم چگالی. هنگامی که بتوانید از هر نقطهای به سمت چگالی بالاتر اشاره کنید، میتوانید از نویز خالص شروع کرده و این جهتها را گام به گام دنبال کنید تا به یک نمونه واقعی برسید.
تاریخ
مدلسازی مولد مبتنی بر امتیاز در سال ۲۰۱۹ توسط سونگ و ارمون به عنوان مدلسازی مولد با تخمین گرادیانهای توزیع دادهها معرفی شد. در سال ۲۰۲۱، سونگ و همکاران این ایده را در چارچوب معادلات دیفرانسیل تصادفی بازنگری کردند و نشان دادند که تطبیق امتیاز در سطوح نویز پیوسته، مدلهای انتشاری را تعمیم میدهد و چندین فرمولبندی مولد قبلی را تحت یک دیدگاه واحد زمان پیوسته یکپارچه میکند.
چه زمانی استفاده شود
مناسب برای تولید با وفاداری بالا و تخمین چگالی دادههای پیوسته زمانی که مجموعه داده آموزشی بزرگ (حدود ۱۰۰۰ مشاهده یا بیشتر) یا یک مدل از پیش آموزش دیده در دسترس است و منابع GPU/TPU قابل استفاده هستند. این مدل هیچ فرض نرمالیتی را اعمال نمیکند، اما نمونهگیر باید با SDE انتخاب شده مطابقت داشته باشد. در حدود کمتر از ۱۰۰۰ مشاهده، یک خودرمزگذار متغیر (variational autoencoder) انتخاب امنتری است و در کمتر از ۵۰۰ مشاهده، روش سادهتری مانند PCA ترجیح داده میشود.
محدودیتها و ملاحظات
- برای تخمین قابل اعتماد گرادیان چگالی به مجموعه داده بزرگی (حدود ۱۰۰۰+ مشاهده) یا یک مدل از پیش آموزش دیده نیاز دارد.
- برای آموزش و نمونهگیری به سختافزار GPU/TPU نیاز دارد.
- نمونهگیر باید برای مطابقت با نوع SDE انتخاب شود که بار پیکربندی را افزایش میدهد.
- در نمونههای کوچک، تخمین امتیاز ضعیف است و تولید بیمعنی میشود.
شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.
نقاط قوت
- مستقیماً گرادیان چگالی دادهها را یاد میگیرد و تعمیم ریاضی اصولی از مدلهای انتشاری ارائه میدهد.
- چارچوب SDE زمان پیوسته، چندین فرمولبندی انتشاری را تحت یک هدف واحد یکپارچه میکند.
- هیچ فرض نرمالیتی بر روی دادهها اعمال نمیشود.
- نمونههای با وفاداری بالا از دادههای پیوسته تولید میکند و از تخمین چگالی پشتیبانی میکند.
کاربردها
- تولید با وفاداری بالا از دادههای پیوسته مانند تصاویر.
- تخمین و مدلسازی چگالی توزیعهای داده پیچیده.
- مدلسازی مولد زمان پیوسته که فرمولبندیهای انتشاری گسسته را در بر میگیرد.
- وظایف مولد پیشبینی و توضیحی که در آنها دادههای بزرگ یا مدلهای از پیش آموزش دیده در دسترس هستند.
چگونه کار میکند
چگونه کار میکند
یک شبکه عصبی آموزش داده میشود تا امتیاز توزیع دادهها - گرادیان لگاریتم چگالی نسبت به ورودی - را تخمین بزند. این شبکه به جای پیشبینی نویز اضافه شده، میدان جهتهایی را یاد میگیرد که به سمت مناطقی که دادهها در آنها متمرکز شدهاند اشاره میکنند، و این همان چیزی است که این رویکرد را به یک تعمیم ریاضی از مدلهای انتشاری تبدیل میکند.
فرمول
s_\theta(x) \approx \nabla_x \log p(x)
یک معادله دیفرانسیل تصادفی پیشرو، دادهها را به تدریج در طول زمان پیوسته به نویز تبدیل میکند، با یک جمله رانش و یک جمله انتشار که نویز گاوسی را تزریق میکند. این امر یک خانواده هموار از توزیعهای با نویز فزاینده را تعریف میکند که شبکه امتیاز آنها را در تمام سطوح نویز یاد میگیرد.
فرمول
dx = f(x,t)\,dt + g(t)\,dw
تولید، فرآیند را با حل معادله دیفرانسیل تصادفی زمان معکوس مربوطه معکوس میکند، که از امتیاز آموخته شده برای هدایت نمونهها از نویز به سمت توزیع دادهها استفاده میکند. انتخاب نوع SDE تعیین میکند که کدام نمونهگیر مناسب است، و انتگرالگیری بر روی سختافزار GPU یا TPU اجرا میشود.
فرمول
dx = [f(x,t) - g(t)^2 \nabla_x \log p_t(x)]\,dt + g(t)\,d\bar{w}دامهای رایج
- اعمال آن در زیر آستانه حدود ۱۰۰۰ مشاهده، جایی که امتیاز به دقت قابل تخمین نیست.
- استفاده از نمونهگیری که با فرمولبندی SDE انتخاب شده مطابقت ندارد.
- تلاش برای آموزش بدون منابع GPU/TPU.
- کاهش به زیر حدود ۵۰۰ مشاهده، جایی که تولید مبتنی بر SDE بیمعنی است و باید از مدل سادهتری استفاده شود.
پرسشهای متداول
امتیازی که مدل یاد میگیرد چیست؟
امتیاز، گرادیان چگالی احتمال لگاریتمی نسبت به ورودی است. دانستن آن در هر نقطه و سطح نویز به مدل اجازه میدهد تا نمونهها را به سمت مناطقی که دادههای واقعی در آنها متمرکز شدهاند، سوق دهد.
این چگونه با مدلهای انتشاری مرتبط است؟
این تعمیم ریاضی مدلهای انتشاری است: با فرمولبندی فساد پیشرو و تولید معکوس به عنوان معادلات دیفرانسیل تصادفی زمان پیوسته، مدلسازی مبتنی بر امتیاز، رویکردهای انتشاری را تحت یک چارچوب واحد یکپارچه میکند.
به چه مقدار داده نیاز دارم؟
حدود ۱۰۰۰ مشاهده یا بیشتر، یا یک مدل از پیش آموزش دیده. کمتر از ۱۰۰۰، یک خودرمزگذار متغیر امنتر است و کمتر از ۵۰۰، تولید مبتنی بر SDE بیمعنی است و روش سادهتری مانند PCA ترجیح داده میشود.
چه سختافزاری مورد نیاز است؟
منابع GPU یا TPU برای آموزش و نمونهگیری مورد نیاز است و نمونهگیر باید برای مطابقت با نوع SDE مورد استفاده انتخاب شود.
روشهای مرتبط
منابع
Song, Y. & Ermon, S. (2019). Generative Modeling by Estimating Gradients of the Data Distribution. NeurIPS 32, 11895–11907.
باز کردن مرجع انتشارکپی شد.Song, Y. et al. (2021). Score-Based Generative Modeling through Stochastic Differential Equations. ICLR.
باز کردن مرجع انتشارکپی شد.