Skip to content
بازگشت به نتایج جست‌وجو

یادگیری فعال با تقویت گرادیان

معرفی‌شده توسط
Settles, B. (active learning); Friedman, J. H. (gradient boosting); combined framework developed by the research community
سال
2000s–2010s
نوع
Active learning framework with gradient boosting base learner
خانواده
Machine learning

این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید

اندازه قلم

چه کاری انجام می‌دهد؟

یادگیری فعال با تقویت گرادیان، دقت پیش‌بینی قدرتمند درختان تقویت‌شده با گرادیان را با یک حلقه یادگیری فعال ترکیب می‌کند که آموزنده‌ترین نمونه‌های بدون برچسب را برای حاشیه‌نویسی انسانی انتخاب می‌کند. با پرس‌وجو فقط از نمونه‌هایی که مدل نسبت به آن‌ها بیشترین عدم قطعیت را دارد، این روش با تعداد بسیار کمتری از مثال‌های برچسب‌دار نسبت به یادگیری نظارت‌شده منفعل به دقت بالایی دست می‌یابد.

شهود پشت روش

برچسب‌گذاری داده‌ها پرهزینه است. یادگیری فعال با اجازه دادن به مدل برای تصمیم‌گیری در مورد اینکه کدام نمونه‌ها ارزش حاشیه‌نویسی را دارند، به این موضوع می‌پردازد - معمولاً آن‌هایی که مدل نسبت به آن‌ها بیشترین عدم قطعیت را دارد. تقویت گرادیان، که به دلیل دقت قوی در داده‌های جدولی شناخته شده است، به عنوان یادگیرنده اصلی در این حلقه عمل می‌کند. پس از هر دور برچسب‌گذاری، مدل تقویت‌شده بر روی مجموعه برچسب‌دار در حال رشد مجدداً آموزش داده می‌شود و دوباره نامشخص‌ترین نقاط بدون برچسب را شناسایی می‌کند. نتیجه یک مدل با کارایی بالا است که با کسری از داده‌های برچسب‌دار که آموزش منفعل نیاز دارد، ساخته شده است.

تاریخ

یادگیری فعال به عنوان یک حوزه توسط بور ستلز در بررسی تأثیرگذار خود در سال ۲۰۱۰ نظام‌مند شد. تقویت گرادیان توسط جروم فریدمن در سال ۲۰۰۱ فرموله شد. ترکیب آن‌ها در دهه ۲۰۱۰ با تبدیل شدن کتابخانه‌های درخت تقویت‌شده با گرادیان (XGBoost 2016، LightGBM 2017) به ابزارهای استاندارد، که بازآموزی مدل‌های قدرتمند را در خطوط لوله حاشیه‌نویسی تکراری عملی می‌سازد، رواج یافت. این ترکیب اکنون در حاشیه‌نویسی NLP، غربالگری تصویر پزشکی و کنترل کیفیت صنعتی رایج است.

چه زمانی استفاده شود

هنگامی که داده‌های جدولی بدون برچسب زیادی دارید اما برچسب‌گذاری پرهزینه یا زمان‌بر است و تقویت گرادیان در غیر این صورت مدل انتخابی خواهد بود، از یادگیری فعال با تقویت گرادیان استفاده کنید. این روش به ویژه برای مجموعه داده‌های نامتعادل که در آن کلاس‌های نادر به سختی به صورت منفعل نمونه‌برداری می‌شوند، مؤثر است. از آن زمانی که برچسب‌گذاری ارزان است (یادگیری منفعل با تمام برچسب‌ها ساده‌تر است)، زمانی که مخزن بدون برچسب برای ارزشمند کردن پرس‌وجو خیلی کوچک است، زمانی که به یک مدل کاملاً شفاف (ضرایب یا قوانین) نیاز دارید، یا زمانی که بازآموزی در زمان واقعی پس از هر پرس‌وجو غیرممکن است، از آن اجتناب کنید.

محدودیت‌ها و ملاحظات

  • بازآموزی تقویت گرادیان از ابتدا پس از هر دور پرس‌وجو برای مجموعه داده‌های بزرگ از نظر محاسباتی پرهزینه است.
  • استراتژی‌های پرس‌وجو ممکن است از سوگیری نمونه‌برداری رنج ببرند و در صورت نامشخص بودن مجموعه اولیه، به یک مجموعه برچسب‌دار غیرنماینده همگرا شوند.
  • کالیبراسیون احتمالات تقویت گرادیان ممکن است برای اطمینان از تخمین‌های عدم قطعیت قابل اعتماد به یک مرحله اضافی (مانند مقیاس‌بندی پلات) نیاز داشته باشد.
  • عملکرد به انتخاب استراتژی پرس‌وجو حساس است؛ هیچ استراتژی واحدی در همه وظایف غالب نیست.
  • نیاز به زیرساخت برای گردش کار حاشیه‌نویسی حلقه انسانی دارد که سربار مهندسی را اضافه می‌کند.

شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.

نقاط قوت

  • دقت رقابتی را با مثال‌های برچسب‌دار به طور قابل توجهی کمتر از یادگیری نظارت‌شده منفعل به دست می‌آورد.
  • عملکرد قوی تقویت گرادیان را در داده‌های جدولی به ارث می‌برد و با تعاملات غیرخطی و انواع ویژگی‌های مختلط سروکار دارد.
  • انعطاف‌پذیر: سازگار با هر استراتژی پرس‌وجو (عدم قطعیت، حاشیه، آنتروپی، پرس‌وجو بر اساس کمیته).
  • هزینه حاشیه‌نویسی را به طور سیستماتیک کاهش می‌دهد و آن را برای حوزه‌های نیازمند برچسب‌گذاری تخصصی مانند پزشکی یا حقوق عملی می‌سازد.
  • از استقرار تکراری پشتیبانی می‌کند: مدل با جمع‌آوری برچسب‌های بیشتر به طور مداوم بهبود می‌یابد.

کاربردها

  • طبقه‌بندی تصویر یا متن پزشکی که در آن حاشیه‌نویسی تخصصی کمیاب و پرهزینه است.
  • تشخیص تقلب در مجموعه داده‌های تراکنشی بزرگ که در آن برچسب‌های تقلب تأیید شده نیاز به بررسی دستی دارند.
  • برچسب‌گذاری احساسات یا قصد در خطوط لوله NLP که در آن بودجه حاشیه‌نویسی جمع‌سپاری شده محدود است.
  • تشخیص نقص صنعتی با ظرفیت بازرسی محدود.
  • برچسب‌گذاری داده‌های علمی در زیست‌شناسی، شیمی یا علم مواد که در آن کارشناسان دامنه پرهزینه هستند.
  • مدل‌سازی ریزش مشتری یا ریسک اعتباری با نمونه‌ای محدود از نتایج تأیید شده.

چگونه کار می‌کند

چگونه کار می‌کند

1

آموزش با یک مجموعه کوچک اولیه از مثال‌های برچسب‌دار آغاز می‌شود. بقیه داده‌های موجود در یک مخزن بدون برچسب باقی می‌مانند. مجموعه اولیه باید به اندازه‌ای بزرگ باشد که مدل تقویت‌شده با گرادیان بتواند تخمین‌های احتمالی معنی‌داری تولید کند؛ معمولاً حداقل یک مثال برای هر کلاس مورد نیاز است.

2

یک مدل تقویت‌شده با گرادیان (مانند XGBoost، LightGBM، یا GradientBoostingClassifier در scikit-learn) بر روی مجموعه برچسب‌دار فعلی آموزش داده می‌شود. مدل با برازش تکراری باقی‌مانده‌ها، یک مجموعه افزایشی از درختان تصمیم را یاد می‌گیرد و احتمالات کالیبره‌شده کلاس را برای مرحله پرس‌وجوی بعدی تولید می‌کند.

3

یک معیار عدم قطعیت یا آموزندگی، نمونه‌های بدون برچسبی را انتخاب می‌کند که مدل کمترین اطمینان را به آن‌ها دارد. استراتژی‌های رایج شامل نمونه‌برداری کمترین اطمینان، نمونه‌برداری حاشیه و نمونه‌برداری آنتروپی است. معیار آنتروپی x* را انتخاب می‌کند که H(p(y|x)) را در مخزن بدون برچسب U حداکثر کند.

فرمول
x^* = \arg\max_{x \in U}\, H(p(y \mid x))
4

نمونه‌های انتخاب شده به یک حاشیه‌نویس انسانی (اوراکل) ارائه می‌شوند که برچسب‌های حقیقت زمینی را فراهم می‌کند. در عمل، این مرحله جایی است که هزینه حاشیه‌نویسی صرف می‌شود، بنابراین کارایی استراتژی پرس‌وجو مستقیماً بودجه برچسب‌گذاری را کنترل می‌کند.

5

مثال‌های تازه برچسب‌گذاری شده به مجموعه آموزشی اضافه می‌شوند و مدل تقویت‌شده با گرادیان از ابتدا دوباره آموزش داده می‌شود یا به‌روزرسانی می‌شود. این چرخه تکرار می‌شود تا زمانی که بودجه برچسب‌گذاری تمام شود یا یک آستانه عملکرد در یک مجموعه اعتبارسنجی به دست آید.

دام‌های رایج

  • شروع با یک مجموعه اولیه خیلی کوچک یا نامتعادل، که باعث می‌شود مدل فقط به یک ناحیه از فضای ویژگی پرس‌وجو کند.
  • نادیده گرفتن کالیبراسیون احتمال: امتیازات خام تقویت گرادیان همیشه احتمالات کالیبره‌شده نیستند و تخمین‌های عدم قطعیت حاصل از آن‌ها می‌تواند گمراه‌کننده باشد.
  • ارزیابی عملکرد مدل فقط بر روی مجموعه برچسب‌دار انتخاب شده فعال، که به سمت مثال‌های نامشخص یا دشوار سوگیری دارد.
  • استفاده از کل مخزن بدون برچسب برای ارزیابی نهایی پس از انتخاب فعال - همیشه قبل از شروع حلقه یادگیری فعال، یک مجموعه آزمون جدا شده را رزرو کنید.
  • نادیده گرفتن مقایسه با یک خط پایه منفعل که بر روی همان تعداد برچسب‌های نمونه‌برداری شده تصادفی آموزش دیده است.

پرسش‌های متداول

کدام استراتژی پرس‌وجو با تقویت گرادیان بهترین کار را دارد؟

نمونه‌برداری آنتروپی و نمونه‌برداری حاشیه رایج‌ترین گزینه‌ها هستند و در عمل به خوبی کار می‌کنند. پرس‌وجو بر اساس کمیته با استفاده از یک مجموعه از مدل‌های تقویت‌شده با گرادیان می‌تواند قوی‌تر باشد اما هزینه آموزش را افزایش می‌دهد. بهترین استراتژی وابسته به مجموعه داده است؛ مقایسه دو یا سه استراتژی بر روی یک نمونه آزمایشی ارزش دارد.

آیا نیاز به کالیبراسیون احتمالات تقویت گرادیان دارم؟

بله، به خصوص هنگام استفاده از استراتژی‌های پرس‌وجوی مبتنی بر آنتروپی یا اطمینان. تقویت گرادیان می‌تواند احتمالات بیش از حد مطمئن تولید کند. از مقیاس‌بندی پلات یا رگرسیون ایزوتونیک پس از هر دور آموزش استفاده کنید تا قبل از پرس‌وجو، تخمین‌های عدم قطعیت بهتری به دست آورید.

چند مثال باید در هر دور برچسب‌گذاری کنم؟

اندازه دسته‌ها معمولاً از ۱ تا چند ده است. دسته‌های بزرگتر از نظر محاسباتی کارآمدتر هستند اما ممکن است از نظر نمونه‌برداری کمتر از پرس‌وجوی تک نقطه‌ای کارآمد باشند. با اندازه دسته‌ای متناسب با حدود ۱ تا ۵ درصد مجموعه برچسب‌دار اولیه خود شروع کنید و بر اساس توان عملیاتی حاشیه‌نویسی تنظیم کنید.

چه زمانی باید حلقه یادگیری فعال را متوقف کنم؟

زمانی که عملکرد اعتبارسنجی در چندین دور متوالی ثابت ماند، زمانی که بودجه برچسب‌گذاری تمام شد، یا زمانی که عدم قطعیت مدل بر روی مخزن بدون برچسب باقی‌مانده به زیر آستانه‌ای کاهش یافت که نشان می‌دهد مخزن عمدتاً غیر آموزنده است، متوقف شوید.

آیا می‌توانم از XGBoost یا LightGBM به جای تقویت گرادیان scikit-learn استفاده کنم؟

بله - XGBoost و LightGBM سریع‌تر و اغلب دقیق‌تر هستند؛ آن‌ها پیاده‌سازی‌های ارجح در عمل هستند. اطمینان حاصل کنید که از predict_proba (یا معادل آن) با کالیبراسیون به جای امتیازات لگاریتمی خام برای استراتژی پرس‌وجو استفاده می‌کنید.

روش‌های مرتبط

منابع

  1. Settles, B. (2010). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    باز کردن مرجع انتشار
    کپی شد.
  2. Friedman, J. H. (2001). Greedy Function Approximation: A Gradient Boosting Machine. Annals of Statistics, 29(5), 1189–1232.

    باز کردن مرجع DOI
    کپی شد.