Skip to content
بازگشت به نتایج جست‌وجو

بهینه‌سازی بیزی — تنظیم فراپارامترها به صورت متوالی با استفاده از مدل

معرفی‌شده توسط
Mockus (1975); popularised for ML by Snoek, Larochelle & Adams (2012)
سال
1975 (foundational); 2012 (ML standard)
نوع
Sequential model-based black-box optimization

این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید

اندازه قلم

چه کاری انجام می‌دهد؟

بهینه‌سازی بیزی یک استراتژی متوالی مبتنی بر مدل برای یافتن نقطه بهینه توابع جعبه سیاه پرهزینه با کمترین ارزیابی ممکن است. این روش که ریشه در کارهای Mockus (1975) دارد و توسط Snoek، Larochelle و Adams (2012) به حوزه یادگیری ماشین معرفی شد، یک مدل جایگزین احتمالی — معمولاً یک فرایند گوسی — را بر اساس مشاهدات گذشته برازش می‌دهد و از یک تابع اکتساب برای تصمیم‌گیری در مورد محل کاوش بعدی استفاده می‌کند و بین کاوش در مناطق ناشناخته و بهره‌برداری از مناطق امیدوارکننده تعادل برقرار می‌نماید.

شهود پشت روش

تصور کنید باید بهترین تنظیمات را برای یک مدل یادگیری ماشین پیدا کنید، اما اجرای هر آزمایش ساعت‌ها طول می‌کشد. شما نمی‌توانید هر ترکیبی را آزمایش کنید. بهینه‌سازی بیزی مانند یک دانشمند دقیق عمل می‌کند: نقشه‌ای در حال ساخت از آنچه آزمایش شده و نتایج حاصله ایجاد می‌کند، از آن نقشه برای حدس زدن محل احتمالی نقطه بهینه استفاده می‌کند و سپس آزمایش بعدی را انتخاب می‌کند که به احتمال زیاد بهترین نتیجه مشاهده شده تاکنون را بهبود می‌بخشد. با تکمیل آزمایش‌های بیشتر، نقشه دقیق‌تر و انتخاب‌ها هوشمندانه‌تر می‌شوند — همه اینها بدون نیاز به دانستن فرمول ریاضی درون جعبه سیاه.

تاریخ

مبانی نظری بهینه‌سازی بیزی توسط Jonas Mockus و همکارانش در دهه 1970 با مفهوم بهبود مورد انتظار برای طراحی آزمایش متوالی پایه‌گذاری شد. این رویکرد عمدتاً آکادمیک باقی ماند تا سال 2012، زمانی که Snoek، Larochelle و Adams مقاله‌ی "Practical Bayesian Optimization of Machine Learning Algorithms" را در NeurIPS منتشر کردند و نشان دادند که بهینه‌سازی بیزی مبتنی بر GP به طور مداوم از تنظیم دستی متخصصان و جستجوی تصادفی در معیارهای استاندارد ML بهتر عمل می‌کند. این کار توسعه کتابخانه‌های اختصاصی را تسریع کرد و بهینه‌سازی بیزی را به عنوان استاندارد عملی برای جستجوی فراپارامتر در یادگیری عمیق و خطوط لوله AutoML تثبیت کرد. آموزش فراگیر Peter Frazier در سال 2018 (arXiv:1807.02811) بعداً یک رویکرد آموزشی یکپارچه ارائه داد که دامنه این روش را فراتر از جامعه ML گسترش داد.

چه زمانی استفاده شود

بهینه‌سازی بیزی زمانی انتخاب درستی است که تابع هدف ارزیابی آن پرهزینه یا کند باشد — مانند آموزش یک مدل بزرگ، اجرای یک شبیه‌سازی فیزیکی، یا انجام یک آزمایش آزمایشگاهی — و بودجه به ده‌ها یا صدها ارزیابی محدود باشد. فضای جستجو باید با محدودیت‌های صریح برای هر پارامتر تعریف شود. این روش پارامترهای پیوسته و ترتیبی را به طور طبیعی مدیریت می‌کند؛ فضاهای صرفاً دسته‌ای یا با ابعاد بسیار بالا (بیش از حدود 20 پارامتر) می‌توانند کیفیت مدل جایگزین را کاهش دهند و ممکن است نیاز به افزونه‌هایی مانند جنگل‌های تصادفی به عنوان مدل جایگزین یا پیش‌پردازش کاهش ابعاد داشته باشند. اگر ارزیابی‌ها ارزان باشند و موازی‌سازی در دسترس باشد، جستجوی تصادفی یا جستجوی شبکه‌ای ساده‌تر ممکن است رقابتی باشند.

محدودیت‌ها و ملاحظات

  • مقیاس‌پذیری ضعیف به فضاهای فراپارامتری با ابعاد بسیار بالا: برازش فرایند گوسی از نظر محاسباتی پرهزینه می‌شود و مدل جایگزین در ابعاد بالاتر از حدود 10 تا 20 دقت خود را از دست می‌دهد.
  • حساسیت به انتخاب هسته مدل جایگزین و تابع اکتساب: پیش‌فرض‌های ضعیف می‌توانند همگرایی را مختل کنند، به خصوص در توابع هدف ناپایدار یا چندوجهی.
  • به طور پیش‌فرض متوالی: هر ارزیابی باید قبل از انتخاب کاندید بعدی تکمیل شود، که موازی‌سازی را محدود می‌کند مگر اینکه از افزونه‌های حالت دسته‌ای یا ناهمزمان استفاده شود.
  • نیاز به فضاهای جستجوی کران‌دار: پارامترهای بدون محدوده صریح را نمی‌توان مستقیماً مدیریت کرد.

شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.

نقاط قوت

  • کارایی نمونه: پیکربندی‌های خوب را با ارزیابی‌های بسیار کمتر از جستجوی شبکه‌ای یا جستجوی تصادفی پیدا می‌کند، که زمانی که هر ارزیابی کند یا پرهزینه است اهمیت دارد.
  • تعادل اصولی اکتشاف-بهره‌برداری: تابع اکتساب یک معیار رسمی و قابل تفسیر برای محل جستجوی بعدی ارائه می‌دهد.
  • عدم قطعیت مبتنی بر مدل: فرایند گوسی نه تنها عملکرد را پیش‌بینی می‌کند، بلکه اطمینان خود را نیز کمی می‌کند و امکان تصمیم‌گیری آگاهانه برای توقف را فراهم می‌آورد.
  • قابل اعمال به هر تابع هدف جعبه سیاه: این روش به اطلاعات گرادیان یا دانش ریاضی از داخل تابع هدف نیاز ندارد.

کاربردها

  • تنظیم فراپارامترهای مدل‌های یادگیری ماشین و یادگیری عمیق که در آن هر اجرای آموزش از نظر محاسباتی پرهزینه است.
  • جستجوی معماری عصبی (NAS): انتخاب گزینه‌های معماری مانند عرض لایه‌ها، توابع فعال‌سازی و اتصالات پرشی.
  • طراحی آزمایش در مهندسی و علوم طبیعی که در آن هر آزمایش فیزیکی پرهزینه یا زمان‌بر است.
  • خطوط لوله یادگیری ماشین خودکار (AutoML) که الگوریتم‌ها و فراپارامترهای آن‌ها را به طور مشترک انتخاب می‌کنند.
  • کشف دارو و علم مواد، که در آن ارزیابی یک پیکربندی کاندید نیازمند کار آزمایشگاهی است.

چگونه کار می‌کند

چگونه کار می‌کند

1

کاربر فضای جستجو را تعریف می‌کند: هر فراپارامتری که باید تنظیم شود، نوع (پیوسته، ترتیبی) و محدوده‌ای — کران‌های بالا و پایین — که بهینه‌ساز می‌تواند در آن جستجو کند، به آن اختصاص داده می‌شود. تعریف واضح فضا پیش‌نیاز همه چیز است و از درخواست از مدل جایگزین برای برون‌یابی فراتر از مناطق امن جلوگیری می‌کند.

2

تعداد کمی از نقاط در فضای جستجو به صورت تصادفی یا از طریق یک طرح پرکننده فضا (مانند نمونه‌گیری هیستوگرام لاتین) ارزیابی می‌شوند. این مشاهدات اولیه — معمولاً پنج تا ده مورد — به مدل جایگزین داده کافی برای ایجاد یک نقشه اولیه و تقریبی از چشم‌انداز تابع هدف قبل از شروع حلقه متوالی می‌دهد.

3

تمام مشاهدات جمع‌آوری شده تاکنون برای برازش یک مدل جایگزین احتمالی، که معمولاً یک فرایند گوسی است، استفاده می‌شوند. فرایند گوسی هم پیش‌بینی میانگین و هم تخمین عدم قطعیت را در هر نقطه از فضا برمی‌گرداند و هم آنچه شناخته شده و هم میزان اطمینان مدل را ثبت می‌کند. ارزیابی مدل جایگزین ارزان است، بنابراین می‌توان هزاران بار به جای تابع هدف واقعی پرهزینه از آن استفاده کرد.

4

یک تابع اکتساب — مانند بهبود مورد انتظار (EI) یا حد بالای اطمینان (UCB) — بر روی مدل جایگزین بیشینه‌سازی می‌شود تا نقطه کاندید بعدی انتخاب شود. EI میزان سود مورد انتظار نسبت به بهترین مقدار فعلی را کمی می‌کند؛ UCB یک پاداش اکتشافی وزن‌دار با اطمینان اضافه می‌کند. این مرحله جایی است که توازن اکتشاف-بهره‌برداری حل می‌شود: مناطق با عملکرد پیش‌بینی شده بالا و مناطق با عدم قطعیت بالا هر دو توجه را جلب می‌کنند.

5

نقطه کاندید انتخاب شده توسط تابع اکتساب به تابع هدف واقعی — به عنوان مثال، آموزش و اعتبارسنجی یک شبکه عصبی با آن فراپارامترها — ارسال می‌شود. این ارزیابی مرحله پرهزینه است. نتیجه آن (امتیاز) در کنار مختصات کاندید ثبت می‌شود.

6

مشاهده جدید به مجموعه داده اضافه می‌شود، مدل جایگزین دوباره برازش داده می‌شود و حلقه به مرحله تابع اکتساب بازمی‌گردد. پس از اتمام بودجه تکرار، پیکربندی فراپارامتری که بهترین امتیاز مشاهده شده را تولید کرده است به عنوان توصیه نهایی برگردانده می‌شود.

دام‌های رایج

  • تعداد کم کاوش‌های تصادفی اولیه، مدل جایگزین را به خوبی کالیبره نمی‌کند؛ حداقل پنج نقطه اولیه و در فضاهای با ابعاد بالاتر، نقاط بیشتری استفاده کنید.
  • اجرای بهینه‌ساز برای تعداد کل تکرارهای بسیار کم (کمتر از حدود ده مورد) به این معنی است که مدل جایگزین هرگز قابل اعتماد نمی‌شود؛ در چنین مواردی، یک جستجوی تصادفی ساده ترجیح داده می‌شود.
  • نادیده گرفتن انتخاب تابع اکتساب: EI به سمت بهره‌برداری گرایش دارد و می‌تواند در نزدیکی نتایج خوب اولیه گیر کند؛ UCB از طریق یک وزن اکتشافی قابل تنظیم، اکتشاف را اضافه می‌کند — هیچ‌کدام به طور جهانی بهترین نیستند و باید پیش‌فرض را با ساختار مسئله تأیید کرد.
  • رفتار با بهینه‌سازی بیزی به عنوان یک جعبه سیاه: همیشه نمودار همگرایی (بهترین امتیاز مشاهده شده در مقابل تکرار) را برای تشخیص زودهنگام رکود بررسی کنید.
  • استفاده از روش زمانی که ارزیابی‌ها ارزان هستند — جستجوی تصادفی یا شبکه‌ای با سربار پیاده‌سازی کمتر به همان خوبی همگرا می‌شوند.

پرسش‌های متداول

بهینه‌سازی بیزی چه تفاوتی با جستجوی شبکه‌ای یا جستجوی تصادفی دارد؟

جستجوی شبکه‌ای یک شبکه ثابت از پیکربندی‌ها را ارزیابی می‌کند و جستجوی تصادفی به طور یکنواخت به صورت تصادفی نمونه‌برداری می‌کند — هر دو نتایج آزمایش‌های قبلی را هنگام انتخاب نقطه بعدی نادیده می‌گیرند. بهینه‌سازی بیزی به طور فعال از تمام مشاهدات گذشته برای ساخت یک مدل جایگزین استفاده می‌کند و نقطه‌ای را انتخاب می‌کند که به احتمال زیاد بهترین مقدار فعلی را بهبود بخشد، و این آن را در زمانی که ارزیابی‌ها پرهزینه هستند بسیار کارآمدتر از نظر نمونه می‌کند.

از کدام تابع اکتساب باید استفاده کنم؟

بهبود مورد انتظار (EI) پرکاربردترین پیش‌فرض است: این معیار سود مورد انتظار نسبت به بهترین مقدار فعلی را اندازه‌گیری می‌کند و در انواع مسائل قابل اعتماد است. حد بالای اطمینان (UCB) یک پاداش اکتشافی قابل تنظیم اضافه می‌کند و اغلب زمانی ترجیح داده می‌شود که چشم‌انداز به خوبی درک نشده باشد. احتمال بهبود (PI) بیشتر به سمت بهره‌برداری گرایش دارد و ممکن است زودتر همگرا شود. با EI شروع کنید و اگر بهینه‌ساز دچار رکود به نظر می‌رسد به UCB تغییر دهید.

چند تکرار لازم است؟

قانون جهانی وجود ندارد، اما کمتر از حدود ده ارزیابی کل (شامل کاوش‌های تصادفی اولیه) داده کافی برای قابل اعتماد بودن مدل جایگزین فراهم نمی‌کند. استقرار عملی معمولاً پنج تا ده نقطه تصادفی اولیه و سپس بیست تا پنجاه مرحله بیزی متوالی را شامل می‌شود. هنگامی که بهترین امتیاز مشاهده شده در طول چندین تکرار متوالی بهبود نمی‌یابد، می‌توان بودجه را متوقف کرد.

آیا بهینه‌سازی بیزی قابل موازی‌سازی است؟

بهینه‌سازی بیزی استاندارد ذاتاً متوالی است. افزونه‌های حالت دسته‌ای امکان پیشنهاد مجموعه‌ای از کاندیداها را به طور همزمان فراهم می‌کنند — استراتژی‌های رایج شامل جریمه محلی (Local Penalization) و ابتکار کرینگ بلیور (Kriging Believer) هستند — که امکان ارزیابی موازی را فراهم می‌کند. انواع ناهمزمان زمانی یک کاندید جدید را راه‌اندازی می‌کنند که یک کارگر آزاد شود، نه اینکه منتظر دسته کامل باشند. این افزونه‌ها در کتابخانه‌هایی مانند Optuna و BoTorch موجود هستند.

روش‌های مرتبط

منابع

  1. Snoek, J., Larochelle, H., & Adams, R.P. (2012). Practical Bayesian Optimization of Machine Learning Algorithms. Advances in Neural Information Processing Systems (NeurIPS), 25.

    باز کردن مرجع انتشار
    کپی شد.
  2. Frazier, P.I. (2018). A Tutorial on Bayesian Optimization. arXiv:1807.02811.

    باز کردن مرجع انتشار
    کپی شد.