Skip to content
بازگشت به نتایج جست‌وجو

تقویت یادگیری فعال

معرفی‌شده توسط
Abe, N. & Mamitsuka, H.
سال
1998
نوع
Hybrid active-learning ensemble
خانواده
Machine learning

این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید

اندازه قلم

چه کاری انجام می‌دهد؟

تقویت یادگیری فعال، کسب برچسب مبتنی بر پرس‌وجو در یادگیری فعال را با منطق مجموعه‌های وزن‌دار الگوریتم‌های تقویت مانند AdaBoost ترکیب می‌کند. این مدل به طور تکراری آموزنده‌ترین نمونه‌های بدون برچسب را برای حاشیه‌نویسی انتخاب می‌کند — که با اختلاف نظر یا عدم قطعیت در مجموعه تقویت هدایت می‌شود — و پس از هر برچسب جدید، دوباره آموزش می‌بیند و با مثال‌های برچسب‌گذاری شده بسیار کمتر از یادگیری منفعل، به دقت بالایی دست می‌یابد.

شهود پشت روش

برچسب‌گذاری داده‌ها پرهزینه است. تقویت در حال حاضر یک طبقه‌بند قوی از یادگیرنده‌های ضعیف با تمرکز بر سخت‌ترین مثال‌ها از طریق بازوزن‌دهی تطبیقی می‌سازد. یادگیری فعال ایده مشابهی را در مرحله جمع‌آوری داده‌ها بهره‌برداری می‌کند: به جای برچسب‌گذاری همه چیز، از یک اوراکل بخواهید فقط مثال‌هایی را که مجموعه تقویت فعلی بیشترین عدم قطعیت یا بیشترین اختلاف نظر را دارد، برچسب‌گذاری کند. این دو اصل یکدیگر را تقویت می‌کنند — تقویت مشخص می‌کند کدام مناطق سخت هستند و یادگیری فعال تلاش برچسب‌گذاری را دقیقاً در آنجا متمرکز می‌کند، بنابراین مدل به طور مؤثر از یک بودجه برچسب‌گذاری کوچک یاد می‌گیرد.

تاریخ

استراتژی‌های یادگیری پرس‌وجو که تقویت و بگینگ را ترکیب می‌کنند توسط Abe و Mamitsuka در ICML 1998 معرفی شدند و نشان دادند که حاشیه‌های مجموعه سیگنال عدم قطعیت اصولی برای پرس‌وجوی فعال را فراهم می‌کنند. بررسی Settles در سال 2009 این حوزه را تثبیت کرد و استراتژی‌های مبتنی بر تقویت را در کنار رویکردهای SVM و فرآیند گوسی فهرست کرد. از آن زمان، انواع تقویت گرادیان (XGBoost، LightGBM) به عنوان ستون فقرات مجموعه در خط لوله‌های یادگیری فعال کاربردی در پزشکی، NLP و سنجش از دور استفاده شده‌اند.

چه زمانی استفاده شود

هنگامی که برچسب‌گذاری پرهزینه است (حاشیه‌نویسی بالینی، بررسی تخصصی، کدگذاری حقوقی) اما یک استخر بزرگ از داده‌های بدون برچسب در دسترس است و شما خواهان دقت مجموعه قوی به جای یک مدل ساده هستید، از تقویت یادگیری فعال استفاده کنید. این روش برای وظایف طبقه‌بندی جدولی با عدم تعادل کلاس متوسط ​​مناسب است، زیرا بازوزن‌دهی تقویت به طور طبیعی بر نمونه‌های دشوار تمرکز می‌کند. زمانی که برچسب‌گذاری ارزان است (یادگیری منفعل بر روی کل مجموعه ممکن است ساده‌تر باشد)، زمانی که استخر بدون برچسب کوچک است (بدون سود پرس‌وجوی معنی‌دار)، زمانی که وظیفه نیاز به تصمیم‌گیری در زمان واقعی یا جریانی دارد (تقویت استاندارد دسته‌ای است)، یا زمانی که تفسیر کامل ضرایب مورد نیاز است، کمتر مناسب است.

محدودیت‌ها و ملاحظات

  • به یک اوراکل (انسانی یا خودکار) که در هر چرخه پرس‌وجو در دسترس است نیاز دارد و خط لوله‌های کاملاً خودکار را پیچیده می‌کند.
  • مجموعه اولیه برچسب‌گذاری شده باید نماینده باشد؛ یک بذر مغرضانه منجر به پرس‌وجوهای اولیه مغرضانه و همگرایی کند می‌شود.
  • پرس‌وجوی نامطمئن‌ترین نمونه‌ها می‌تواند تغییر توزیع ایجاد کند — مجموعه برچسب‌گذاری شده دیگر منعکس کننده توزیع طبیعی داده‌ها نیست.
  • هزینه محاسباتی با هر چرخه بازآموزی افزایش می‌یابد، به خصوص برای مجموعه‌های تقویت عمیق بر روی استخرهای بزرگ.
  • افزایش عملکرد نسبت به یادگیری منفعل با افزایش بودجه برچسب‌گذاری کاهش می‌یابد.

شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.

نقاط قوت

  • هزینه برچسب‌گذاری مورد نیاز برای رسیدن به یک هدف دقت معین را در مقایسه با نمونه‌برداری تصادفی به شدت کاهش می‌دهد.
  • با استفاده از بازوزن‌دهی تطبیقی نمونه، دقت تعمیم و استحکام تقویت به عدم تعادل کلاس را به ارث می‌برد.
  • استراتژی پرس‌وجو مستقیماً بر اساس عدم قطعیت خود مدل استوار است و آن را اصولی و تطبیقی می‌سازد.
  • با داده‌های جدولی حاوی انواع ویژگی‌های ترکیبی بدون نیاز به مفروضات توزیعی، به خوبی کار می‌کند.
  • با هر نوع تقویت (AdaBoost، تقویت گرادیان، XGBoost) به عنوان یادگیرنده پایه سازگار است.

کاربردها

  • حاشیه‌نویسی سوابق پزشکی که در آن برچسب‌گذاری تخصصی کمیاب و پرهزینه است.
  • طبقه‌بندی اسناد و متون با مجموعه‌های متنی برچسب‌گذاری شده محدود.
  • نقشه‌برداری پوشش زمینی سنجش از دور که در آن جمع‌آوری حقیقت زمینی نیازمند کار میدانی فشرده است.
  • ساخت مدل تشخیص تقلب زمانی که برچسب‌های تقلب تأیید شده نیاز به بررسی دستی دارند.
  • کنترل کیفیت صنعتی که در آن برچسب‌گذاری نقص نیاز به بازرسی تخصصی دارد.

چگونه کار می‌کند

چگونه کار می‌کند

1

یک مجموعه بزرگ از نمونه‌های بدون برچسب و یک مجموعه اولیه کوچک از مثال‌های برچسب‌گذاری شده جمع‌آوری می‌شود. مجموعه اولیه باید به اندازه کافی نماینده باشد تا یک مجموعه تقویت اولیه ضعیف را آموزش دهد؛ معمولاً چند ده مثال برچسب‌گذاری شده برای شروع چرخه کافی است.

2

یک الگوریتم تقویت (به عنوان مثال، AdaBoost یا تقویت گرادیان) بر روی مجموعه برچسب‌گذاری شده فعلی آموزش داده می‌شود. این یک مجموعه از یادگیرنده‌های ضعیف را به همراه وزن‌هایشان و مهم‌تر از آن، حاشیه‌های پیش‌بینی یا امتیازات اطمینان برای هر نمونه که استراتژی پرس‌وجو از آن بهره‌برداری خواهد کرد، تولید می‌کند.

3

یک معیار آموزندگی که از مجموعه تقویت مشتق شده است، برای هر نمونه بدون برچسب محاسبه می‌شود. استراتژی‌های رایج شامل پرس‌وجوی نمونه‌هایی با کمترین حاشیه مجموعه (یعنی نمونه‌برداری حاشیه)، بیشترین اختلاف نظر مجموعه، یا استفاده از وزن‌های تقویت برای شناسایی مناطق دشوار برای طبقه‌بندی است. یک دسته ثابت از نمونه‌های با رتبه برتر برای برچسب‌گذاری انتخاب می‌شود.

4

نمونه‌های انتخاب شده برای برچسب‌گذاری به یک حاشیه‌نویس انسانی یا اوراکل ارائه می‌شوند. این تنها مرحله‌ای است که نیاز به تلاش خارجی دارد؛ هزینه آن متناسب با اندازه دسته پرس‌وجو است. نمونه‌های تازه برچسب‌گذاری شده به مجموعه آموزشی برچسب‌گذاری شده اضافه می‌شوند.

5

مدل تقویت از ابتدا دوباره آموزش داده می‌شود — یا به صورت افزایشی به‌روز می‌شود — بر روی مجموعه برچسب‌گذاری شده گسترش یافته. چرخه از مرحله ۳ تکرار می‌شود تا زمانی که بودجه برچسب‌گذاری تمام شود یا یک آستانه عملکردی حاصل شود. پیش‌بینی‌های نهایی توسط مجموعه تقویت کاملاً آموزش دیده تولید می‌شوند.

دام‌های رایج

  • استفاده از مجموعه‌ای اولیه که خیلی کوچک یا غیرنماینده است، باعث می‌شود اولین چرخه پرس‌وجو بر روی مناطق مرزی پر سر و صدا تمرکز کند.
  • فراموش کردن ارزیابی بر روی یک مجموعه آزمایشی نگهداری شده که هرگز در حلقه پرس‌وجو استفاده نشده است، منجر به تخمین‌های دقت خوش‌بینانه می‌شود.
  • نادیده گرفتن تغییر توزیع: گزارش دقت آزمون بر روی توزیع طبیعی زمانی که مجموعه برچسب‌گذاری شده به طور فعال انتخاب شده است.
  • اعمال تقویت یادگیری فعال زمانی که هزینه برچسب‌گذاری ناچیز است — پیچیدگی اضافه شده غیرضروری است.
  • ترکیب پرس‌وجوی مبتنی بر حاشیه با انتخاب نقاط پرت؛ بررسی اینکه نمونه‌های پرس‌وجو شده واقعاً آموزنده هستند، نه صرفاً پر سر و صدا.

پرسش‌های متداول

کدام الگوریتم تقویت به عنوان یادگیرنده پایه بهترین عملکرد را دارد؟

هر نوع تقویت که امتیازات اطمینان یا حاشیه برای هر نمونه را فراهم می‌کند، کار می‌کند. AdaBoost در ادبیات اصلی یادگیری فعال بیشترین مطالعه را داشته است؛ تقویت گرادیان (XGBoost، LightGBM) تمایل به دقت قوی‌تری در عمل دارد و در خط لوله‌های مدرن به طور فزاینده‌ای رایج است.

اندازه مجموعه اولیه برچسب‌گذاری شده چقدر باید باشد؟

یک راهنمای رایج 1-5٪ از کل استخر یا حداقل چند مثال در هر کلاس است، هر کدام که بزرگتر باشد. مجموعه اولیه خیلی کوچک یک مدل اولیه ناپایدار تولید می‌کند که پرس‌وجوهای اولیه آن ممکن است گمراه‌کننده باشد.

آیا تقویت یادگیری فعال همیشه بهتر از نمونه‌برداری تصادفی عمل می‌کند؟

همیشه نه. هنگامی که بودجه برچسب‌گذاری نسبت به استخر بزرگ است، نمونه‌برداری تصادفی به دقت مشابهی می‌رسد. بیشترین سود در رژیم‌های کم‌بودجه که در آن حاشیه‌نویسی پرهزینه و استخر بدون برچسب بزرگ است، ظاهر می‌شود.

چگونه مدل را منصفانه ارزیابی کنم؟

قبل از شروع حلقه یادگیری فعال، یک مجموعه آزمایشی را کنار بگذارید و هرگز آن را در تصمیم‌گیری‌های پرس‌وجو یا آموزش دخیل نکنید. مجموعه تقویت نهایی را بر روی این مجموعه دست‌نخورده ارزیابی کنید؛ دقت بر روی مجموعه برچسب‌گذاری شده که به طور فعال انتخاب شده است، به طور خوش‌بینانه‌ای سوگیرانه است.

آیا می‌توانم از پرس‌وجوهای دسته‌ای به جای پرس‌وجوی یک مثال در هر زمان استفاده کنم؟

بله. یادگیری فعال در حالت دسته‌ای مجموعه‌ای از نمونه‌های با عدم قطعیت بالا و متنوع را در هر چرخه برای کاهش تعاملات اوراکل انتخاب می‌کند. اکثر پیاده‌سازی‌های عملی از دسته‌های 10-100 استفاده می‌کنند و آموزندگی و تنوع را متعادل می‌کنند تا از پرس‌وجوی نمونه‌های بسیار مشابه جلوگیری شود.

روش‌های مرتبط

منابع

  1. Abe, N. & Mamitsuka, H. (1998). Query Learning Strategies Using Boosting and Bagging. Proceedings of the 15th International Conference on Machine Learning (ICML 1998), pp. 1–9. Morgan Kaufmann.

    باز کردن مرجع انتشار
    کپی شد.
  2. Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    باز کردن مرجع انتشار
    کپی شد.