Skip to content
بازگشت به نتایج جست‌وجو

افزایش گرادیان آنلاین

معرفی‌شده توسط
Grubb, A. & Bagnell, J. A.; Beygelzimer, A. et al.
سال
2011–2015
نوع
Online ensemble (sequential boosting on streaming data)
خانواده
Machine learning

این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید

اندازه قلم

چه کاری انجام می‌دهد؟

افزایش گرادیان آنلاین (Online Gradient Boosting) چارچوب افزایش گرادیان را برای تنظیمات جریانی که در آن داده‌ها به جای یک دسته ثابت، یک نمونه در هر زمان وارد می‌شوند، تطبیق می‌دهد. در هر مرحله، مدل یک شبه‌باقیمانده برای مشاهده ورودی محاسبه کرده و یک یادگیرنده ضعیف را درجا به‌روزرسانی می‌کند و یک مجموعه افزایشی را بدون ذخیره یا بازبینی داده‌های گذشته می‌سازد. این امر آن را برای پیش‌بینی بی‌درنگ و خطوط لوله جریانی در مقیاس بزرگ که در آن بازآموزی از ابتدا غیرممکن است، مناسب می‌سازد.

شهود پشت روش

افزایش گرادیان استاندارد برای برازش درختان متوالی بر روی کل مجموعه آموزشی تکرار می‌شود، که نیازمند در دسترس بودن تمام داده‌ها از قبل است. افزایش گرادیان آنلاین جایگزین آن گذر دسته‌ای با یک به‌روزرسانی تک‌نمونه‌ای می‌شود: هنگامی که یک مشاهده جدید وارد می‌شود، مجموعه فعلی آن را پیش‌بینی می‌کند، سیگنال خطا (شبه‌باقیمانده) محاسبه می‌شود و یادگیرنده ضعیف بعدی در زنجیره برای اصلاح آن خطا هدایت می‌شود. از آنجایی که به‌روزرسانی‌ها به صورت افزایشی انجام می‌شوند، مدل می‌تواند رانش مفهوم را در طول زمان ردیابی کند — اگر توزیع داده‌های زیربنایی تغییر کند، نمونه‌های اخیر به طور خودکار تأثیر بیشتری نسبت به نمونه‌های قدیمی‌تر دریافت می‌کنند.

تاریخ

افزایش در یک تنظیمات آنلاین اولین بار توسط Oza و Russell (2001) برای bagging و boosting با وزن‌های نمونه‌گیری پواسون بررسی شد. Grubb و Bagnell (2011) افزایش گرادیان آنلاین را از طریق گرادیان کاهشی تابعی برای زیان‌های محدب فرموله کردند. Beygelzimer، Hazan، Langford و Zheng (2015) حدود تبدیل آنلاین به دسته‌ای را ارائه دادند که تضمین‌های پاداش در تنظیمات آنلاین را به خطای تعمیم در تنظیمات دسته‌ای پیوند می‌دهد و افزایش گرادیان آنلاین را بر پایه نظری محکمی قرار می‌دهد.

چه زمانی استفاده شود

هنگامی که داده‌ها به صورت یک جریان پیوسته وارد می‌شوند و بازآموزی از ابتدا پس از هر دسته جدید خیلی کند یا غیرعملی است، زمانی که ذخیره داده‌های تاریخی به دلیل حجم یا محدودیت‌های حریم خصوصی غیرممکن است، یا زمانی که فرآیند تولید داده ممکن است در طول زمان تغییر کند (رانش مفهوم) و مدل باید به صورت افزایشی تطبیق یابد، از افزایش گرادیان آنلاین استفاده کنید. همچنین برای مجموعه داده‌های بسیار بزرگ که یک گذر دسته‌ای در آن‌ها پرهزینه است، مناسب است. زمانی که کل مجموعه داده به راحتی در حافظه قرار می‌گیرد و منابع محاسباتی اجازه افزایش گرادیان دسته‌ای استاندارد را می‌دهند، از آن استفاده نکنید — روش‌های دسته‌ای مانند XGBoost یا LightGBM معمولاً در آن شرایط دقت بالاتری را به دست می‌آورند. از آن اجتناب کنید زمانی که تعداد دورهای افزایش را نمی‌توان از قبل تعیین کرد یا زمانی که تفسیرپذیری درختان منفرد یک الزام سخت است.

محدودیت‌ها و ملاحظات

  • به طور کلی دقت کمتری نسبت به افزایش گرادیان دسته‌ای (XGBoost، LightGBM) زمانی که تمام داده‌ها در دسترس هستند، به دست می‌آورد، زیرا هر نمونه فقط یک بار دیده می‌شود.
  • تعداد دورهای افزایش باید قبل از شروع جریان تعیین شود و انعطاف‌پذیری ساختاری را محدود می‌کند.
  • به ترتیب نمونه‌های ورودی حساس است: بر زدن یا تغییرات توزیع در جریان می‌تواند آموزش را بی‌ثبات کند.
  • تضمین‌های همگرایی ضعیف‌تر از تنظیمات دسته‌ای هستند و به شدت به نرخ یادگیری انتخاب شده بستگی دارند.

شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.

نقاط قوت

  • داده‌ها را در یک گذر واحد بدون ذخیره کل مجموعه داده پردازش می‌کند و آن را برای جریان‌های بزرگ یا بی‌نهایت از نظر حافظه کارآمد می‌سازد.
  • به دلیل اینکه نمونه‌های اخیر به طور مداوم یادگیرندگان ضعیف را به‌روزرسانی می‌کنند، با رانش مفهوم سازگار می‌شود.
  • قدرت پیش‌بینی قوی افزایش گرادیان را در تنظیماتی که آموزش دسته‌ای غیرممکن است حفظ می‌کند.
  • پیش‌بینی‌ها می‌توانند در هر مرحله به صورت بی‌درنگ ارائه شوند — مدل همیشه آماده پیش‌بینی است.
  • با هر تابع زیان قابل افتراقی سازگار است و از رگرسیون، طبقه‌بندی دودویی و چندکلاسه پشتیبانی می‌کند.

کاربردها

  • پیش‌بینی نرخ کلیک بی‌درنگ در سیستم‌های تبلیغات آنلاین.
  • تشخیص تقلب در جریان‌های تراکنش مالی که در آن به‌روزرسانی‌های فوری مدل مورد نیاز است.
  • طبقه‌بندی داده‌های حسگر در خطوط لوله اینترنت اشیا که در آن داده‌های تاریخی قابل نگهداری نیستند.
  • رتبه‌بندی و توصیه‌ تطبیقی در سیستم‌هایی که ترجیحات کاربر در طول زمان تکامل می‌یابد.
  • تشخیص ناهنجاری سری زمانی در مقیاس بزرگ با تطبیق مداوم مدل.

چگونه کار می‌کند

چگونه کار می‌کند

1

تعداد ثابتی از یادگیرندگان ضعیف (معمولاً درختان کم‌عمق یا مدل‌های خطی) برای هر دور افزایش مقداردهی اولیه می‌شوند. در تنظیمات آنلاین، تعداد دورها باید قبل از شروع جریان تعیین شود، زیرا ساختار مجموعه نمی‌تواند در زمان آزمون به دلخواه رشد کند.

2

یک مثال برچسب‌دار منفرد (x_t, y_t) از جریان وارد می‌شود. مجموعه فعلی F_t پیش‌بینی برای x_t تولید می‌کند و برچسب واقعی y_t بلافاصله پس از آن آشکار می‌شود و امکان محاسبه سیگنال خطا را بدون نگاه به جلو فراهم می‌کند.

3

شبه‌باقیمانده r_t گرادیان منفی تابع زیان نسبت به پیش‌بینی مجموعه فعلی است. برای خطای مربعی این به r_t = y_t - F_t(x_t) کاهش می‌یابد؛ برای زیان لگاریتمی، باقیمانده خطای احتمال را رمزگذاری می‌کند. این هدف، یادگیرنده ضعیف بعدی را به سمت اصلاح اشتباه فعلی هدایت می‌کند.

فرمول
r_t = -\nabla_{F} L(y_t, F(x_t))
4

یادگیرنده ضعیف فعال h_t با استفاده از شبه‌باقیمانده به عنوان هدف آن، با استفاده از یک قانون یادگیری آنلاین (به عنوان مثال، گرادیان کاهشی تصادفی بر روی یک مدل خطی یا به‌روزرسانی تقسیم به سبک درخت هوفدینگ) به‌روزرسانی می‌شود. بنابراین هر یادگیرنده ضعیف اصلاحاتی را در طول جریان بدون ذخیره داده‌های گذشته انباشته می‌کند.

5

مجموعه به صورت افزایشی به‌روزرسانی می‌شود: خروجی یادگیرنده ضعیف به‌روزرسانی شده h_t، که در نرخ یادگیری eta مقیاس‌بندی شده است، به تابع پیش‌بینی فعلی F_t اضافه می‌شود. نتیجه F_{t+1} بلافاصله برای پیش‌بینی نمونه ورودی بعدی در دسترس است.

فرمول
F_{t+1}(x) = F_t(x) + \eta \, h_t(x)

دام‌های رایج

  • انتخاب نرخ یادگیری بیش از حد بزرگ باعث نوسان مجموعه و عدم همگرایی به یک راه‌حل پایدار می‌شود.
  • در نظر گرفتن معیارهای اعتبارسنجی آنلاین به عنوان معادل نتایج اعتبارسنجی متقابل — باید از ارزیابی پیش‌گویانه (تست-سپس-آموزش) به جای آن استفاده شود.
  • نادیده گرفتن رانش مفهوم: اگر توزیع جریان به طور ناگهانی تغییر کند، یادگیرندگان ضعیف قدیمی ممکن است غالب شوند و عملکرد را کاهش دهند مگر اینکه یک مکانیزم تشخیص رانش یا استراتژی فراموشی در جای خود وجود داشته باشد.
  • تعیین تعداد دورهای افزایش کم قبل از شروع جریان، ظرفیت مجموعه را برای مدل‌سازی الگوهای پیچیده محدود می‌کند.

پرسش‌های متداول

افزایش گرادیان آنلاین چگونه با XGBoost یا LightGBM استاندارد تفاوت دارد؟

XGBoost و LightGBM روش‌های دسته‌ای هستند که چندین بار بر روی مجموعه آموزشی کامل تکرار می‌کنند تا درختان را به صورت حریصانه برازش دهند. افزایش گرادیان آنلاین یادگیرندگان ضعیف خود را پس از هر مشاهده منفرد به‌روزرسانی می‌کند و هرگز داده‌های گذشته را بازبینی نمی‌کند. روش‌های دسته‌ای زمانی دقیق‌تر هستند که داده‌ها در حافظه قرار می‌گیرند؛ نوع آنلاین دقت را با مقیاس‌پذیری و قابلیت تطبیق بی‌درنگ مبادله می‌کند.

چگونه باید یک مدل آنلاین را منصفانه ارزیابی کنم؟

از ارزیابی پیش‌گویانه (تست-سپس-آموزش) استفاده کنید: برای هر نمونه ورودی، پیش‌بینی مدل را قبل از به‌روزرسانی آن با برچسب آن نمونه ثبت کنید. این یک تخمین خطای بی‌طرفانه و صادقانه زمانی تولید می‌کند بدون اینکه به مجموعه آزمون جدا شده نیاز باشد.

چگونه با رانش مفهوم مقابله کنم؟

افزایش گرادیان آنلاین را با یک الگوریتم تشخیص رانش (مانند ADWIN یا DDM) که زمانی که نرخ خطا به طور قابل توجهی افزایش می‌یابد، سیگنال می‌دهد، جفت کنید. در صورت تشخیص، یادگیرندگان ضعیف آسیب‌دیده را بازنشانی یا مجدداً مقداردهی اولیه کنید تا مجموعه بتواند دوباره با توزیع جدید تطبیق یابد.

آیا افزایش گرادیان آنلاین برای مسائل چندکلاسه مناسب است؟

بله. با یک تابع زیان قابل افتراقی چندکلاسه (مانند آنتروپی متقاطع سافت‌مکس)، شبه‌باقیمانده به یک بردار از خطاهای خاص کلاس تبدیل می‌شود و هر یادگیرنده ضعیف برای اصلاح همزمان تمام خروجی‌های کلاس، دقیقاً مانند فرمول‌بندی افزایش گرادیان چندکلاسه دسته‌ای، به‌روزرسانی می‌شود.

کدام یادگیرندگان ضعیف در عمل بهتر عمل می‌کنند؟

درختان کم‌عمق هوفدینگ (که خودشان از تقسیمات آنلاین پشتیبانی می‌کنند) یا مدل‌های خطی آنلاین رایج‌ترین انتخاب‌ها هستند. آن‌ها با هر نمونه جدید به طور کارآمد به‌روزرسانی می‌شوند و نیاز به ذخیره داده‌ها برای بازبرازش دسته‌ای در هر مرحله افزایش را از بین می‌برند.

روش‌های مرتبط

منابع

  1. Grubb, A. & Bagnell, J. A. (2011). Generalized Boosting Algorithms for Convex Optimization. Proceedings of the 28th International Conference on Machine Learning (ICML 2011), 1209–1216.

    باز کردن مرجع انتشار
    کپی شد.
  2. Beygelzimer, A., Hazan, E., Langford, J. & Zheng, T. (2015). Online-to-Batch Conversions and Applications. Advances in Neural Information Processing Systems (NeurIPS), 28.

    باز کردن مرجع انتشار
    کپی شد.