Skip to content
بازگشت به نتایج جست‌وجو

یادگیری فعال با رأی‌گیری گروهی

معرفی‌شده توسط
Seung, H. S., Opper, M., & Sompolinsky, H.
سال
1992
نوع
Active learning with ensemble voting
خانواده
Machine learning

این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید

اندازه قلم

چه کاری انجام می‌دهد؟

یادگیری فعال با رأی‌گیری گروهی — که به طور رسمی با عنوان «پرسش توسط کمیته» (Query by Committee) شناخته می‌شود — یک راهبرد یادگیری فعال است که کمیته‌ای از مدل‌های متنوع را آموزش می‌دهد و نمونه‌های بدون برچسبی را انتخاب می‌کند که اعضای کمیته بیشترین اختلاف نظر را در مورد آن‌ها دارند تا توسط انسان برچسب‌گذاری شوند. با تمرکز تلاش برچسب‌گذاری بر روی آموزنده‌ترین نقاط، این روش به دقت بالایی با تعداد نمونه‌های برچسب‌گذاری شده بسیار کمتر از آنچه یادگیری غیرفعال نیاز دارد، دست می‌یابد.

شهود پشت روش

تصور کنید از پنج متخصص خواسته می‌شود تا یک نمونه بدون برچسب را طبقه‌بندی کنند. اگر چهار نفر موافق باشند و یکی مخالف، پاسخ احتمالاً واضح است — نیازی به پرداخت هزینه برای برچسب نیست. اما اگر سه به دو تقسیم شوند، آن نمونه دقیقاً در مرز تصمیم‌گیری قرار دارد که برچسب‌گذاری آن بیشترین آموزش را به همه مدل‌ها خواهد داد. یادگیری فعال با رأی‌گیری گروهی این شهود را دقیق می‌کند: کمیته‌ای از مدل‌ها بسازید، اجازه دهید رأی دهند، و فقط زمانی برای برچسب‌ها هزینه کنید که رأی نزدیک باشد. نتیجه یک حلقه یادگیری بسیار کارآمد است که بودجه برچسب‌گذاری کوچک را تا حد امکان گسترش می‌دهد.

تاریخ

چارچوب «پرسش توسط کمیته» (QBC) توسط Seung، Opper، و Sompolinsky در COLT 1992 به عنوان یک رویکرد اصولی برای یادگیری فعال با کمیته‌های فضای نسخه معرفی شد. این یکی از اولین توضیحات نظری استفاده از اختلاف نظر گروه برای هدایت جمع‌آوری داده بود و همچنان مرجع اصلی برای یادگیری فعال مبتنی بر کمیته باقی مانده است. ادبیات گسترده‌تر یادگیری فعال در بررسی فنی پر استناد Burr Settles در سال 2009 تثبیت شد، که سناریوهای مبتنی بر مجموعه، مبتنی بر جریان، و پرسش عضویت را سیستماتیک کرد و QBC را به عنوان یک راهبرد اساسی در کنار نمونه‌برداری عدم قطعیت معرفی کرد.

چه زمانی استفاده شود

از یادگیری فعال با رأی‌گیری گروهی زمانی استفاده کنید که برچسب‌گذاری گران یا زمان‌بر است — برچسب‌گذاری بالینی، برچسب‌گذاری اسناد حقوقی، بررسی تخصصی تصاویر — و مجموعه بزرگی از داده‌های بدون برچسب در کنار یک مجموعه اولیه برچسب‌گذاری شده کوچک در دسترس است. این روش برای وظایف طبقه‌بندی که در آن‌ها اختلاف نظر کمیته یک سیگنال معنی‌دار است، و زمانی که حداقل 3 تا 5 مدل متنوع می‌توانند به کار گرفته شوند، به خوبی عمل می‌کند. از آن اجتناب کنید زمانی که برچسب‌ها ارزان و فراوان هستند (یادگیری غیرفعال بر روی کل مجموعه داده در آن صورت به همان اندازه یا کارآمدتر خواهد بود)، زمانی که مجموعه بدون برچسب بسیار کوچک است، زمانی که برچسب‌گذاری آنلاین در زمان واقعی غیرممکن است، یا زمانی که به جای یک گروه، یک مدل قابل تفسیر واحد مورد نیاز است.

محدودیت‌ها و ملاحظات

  • نیاز به یک حلقه برچسب‌گذاری دارد که پیچیدگی زیرساختی را اضافه می‌کند: یک مدیر مجموعه، رابط اوراکل، و خط لوله بازآموزی.
  • عملکرد به شدت به تنوع کمیته بستگی دارد؛ یک کمیته همگن اختلاف نظر غیرآموزنده تولید می‌کند.
  • یادگیری فعال مبتنی بر مجموعه فرض می‌کند که کل مجموعه بدون برچسب در حافظه جای می‌گیرد؛ مجموعه‌های بسیار بزرگ نیاز به تقریب دارند.
  • همگرایی تضمین نمی‌شود اگر اوراکل خطاهای برچسب‌گذاری سیستماتیک داشته باشد.

شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.

نقاط قوت

  • تعداد نمونه‌های برچسب‌گذاری شده مورد نیاز برای دستیابی به دقت هدف را در مقایسه با نمونه‌برداری تصادفی به طور چشمگیری کاهش می‌دهد.
  • رأی‌گیری گروهی مزیت دوگانه پیش‌بینی‌های با واریانس کمتر را در زمان استنتاج فراهم می‌کند.
  • مستقل از مدل: هر مجموعه‌ای از طبقه‌بندی‌کننده‌های متنوع می‌تواند کمیته را تشکیل دهد.
  • امتیاز اختلاف یک سیگنال عدم قطعیت داخلی را فراهم می‌کند که به راحتی قابل نظارت و بصری‌سازی است.
  • از نظر تئوری به خوبی از طریق چارچوب «پرسش توسط کمیته» که در سال 1992 معرفی شد، بنیان‌گذاری شده است.

کاربردها

  • برچسب‌گذاری تصاویر پزشکی که در آن رادیولوژیست‌های متخصص کمیاب هستند و برچسب‌گذاری پرهزینه است.
  • شناسایی موجودیت نام‌گذاری شده و طبقه‌بندی متن با پیکره‌های محدود برچسب‌گذاری شده.
  • تحلیل احساسات با اصطلاحات خاص دامنه که نیاز به بررسی تخصصی دارد.
  • کشف دارو و پیش‌بینی خواص مولکولی با اعتبارسنجی آزمایشگاهی پرهزینه.
  • طبقه‌بندی تصاویر ماهواره‌ای که در آن تنها کسری از کاشی‌ها را می‌توان به صورت دستی بررسی کرد.

چگونه کار می‌کند

چگونه کار می‌کند

1

کمیته‌ای متشکل از k مدل پایه متنوع (گروه رأی‌گیری) بر روی یک مجموعه اولیه کوچک از نمونه‌های برچسب‌گذاری شده مقداردهی اولیه می‌شود. تنوع کلیدی است: مدل‌ها ممکن است در معماری، فراپارامترها، یا زیرمجموعه آموزشی متفاوت باشند تا اختلافات آن‌ها آموزنده باشد نه تصادفی.

2

برای هر کاندید بدون برچسب x در مجموعه U، اختلاف D(C, x) بین اعضای کمیته اندازه‌گیری می‌شود — معیارهای رایج شامل آنتروپی رأی (میزان پراکندگی آرا) یا واگرایی KL بین پیش‌بینی‌ها است. نمونه‌ای با بالاترین امتیاز اختلاف انتخاب می‌شود: x* = argmax D(C, x).

فرمول
x^* = \arg\max_{x \in U} D(C, x)
3

نمونه بدون برچسب انتخاب شده برای دریافت برچسب حقیقت-زمینه به یک اوراکل انسانی (برچسب‌گذار متخصص، پلتفرم برون‌سپاری جمعی، یا برچسب‌گذار خودکار) ارسال می‌شود. این تنها گامی است که هزینه برچسب‌گذاری را در بر دارد.

4

نمونه تازه برچسب‌گذاری شده به مجموعه آموزشی اضافه می‌شود و همه اعضای کمیته مجدداً آموزش می‌بینند (یا به صورت افزایشی به‌روزرسانی می‌شوند). حلقه به مرحله پرسش بازمی‌گردد تا زمانی که بودجه برچسب‌گذاری به اتمام برسد یا آستانه عملکردی حاصل شود.

5

در زمان استنتاج، کمیته آموزش‌دیده یک رأی اکثریت را در بین همه k عضو تولید می‌کند: کلاس پیش‌بینی شده، مد پیش‌بینی‌های فردی h_1(x) تا h_k(x) است که هم بهره‌وری یادگیری فعال و هم کاهش واریانس گروه را ترکیب می‌کند.

فرمول
\hat{y} = \text{mode}(h_1(x), h_2(x), \ldots, h_k(x))

دام‌های رایج

  • استفاده از اعضای کمیته یکسان یا تقریباً یکسان — تنوع موتور این روش است و بدون آن اختلاف نظر از بین می‌رود.
  • بازآموزی از ابتدا پس از هر تک پرسش؛ پرسش در حالت دسته‌ای (انتخاب b نمونه در هر دور) بسیار عملی‌تر است.
  • فراموش کردن ارزیابی بر روی یک مجموعه آزمایشی ثابت و جداگانه در طول حلقه — اندازه‌گیری فقط بر روی مجموعه آموزشی در حال رشد، بیش‌برازش را پنهان می‌کند.
  • برخورد با امتیاز اختلاف به عنوان یک معیار اطمینان در زمان استنتاج بدون کالیبراسیون مناسب.
  • نادیده گرفتن مبادله آموزندگی-نمایندگی: نمونه‌های بسیار نامطمئن نزدیک به مرز ممکن است پرت باشند، نه نمونه‌های معمولی.

پرسش‌های متداول

چند عضو کمیته باید استفاده کنم؟

سه تا ده مدل متنوع یک محدوده عملی رایج است. اعضای کمتر تخمین‌های اختلاف پرنویزتری را به همراه دارند؛ اعضای بیشتر هزینه‌های محاسباتی را افزایش می‌دهند. به صورت تجربی، پنج طبقه‌بندی‌کننده متنوع اغلب تعادل خوبی بین پایداری و کارایی فراهم می‌کنند.

چگونه اختلاف نظر را در کمیته اندازه‌گیری کنم؟

آنتروپی رأی رایج‌ترین معیار است: H = -sum_c p(c) log p(c) که در آن p(c) کسری از اعضای کمیته است که کلاس c را پیش‌بینی می‌کنند. برای مدل‌های احتمالی، میانگین واگرایی KL از میانگین پیش‌بینی یک جایگزین است. امتیازات بالاتر نشان‌دهنده نمونه‌های آموزنده‌تر هستند.

آیا می‌توانم از این با مدل‌های یادگیری عمیق استفاده کنم؟

بله. گروه‌های عمیق یا تقریب‌های MC-dropout می‌توانند به عنوان کمیته عمل کنند. چالش اصلی هزینه بازآموزی است — راهبردهایی مانند تنظیم دقیق یک ستون فقرات مشترک با سرهای متنوع این هزینه را به طور قابل توجهی کاهش می‌دهند.

اگر بودجه برچسب‌گذاری من بسیار محدود باشد — مثلاً کمتر از 20 برچسب؟

با تعداد بسیار کمی از برچسب‌ها، نمونه‌برداری تصادفی یا انتخاب اولیه طبقه‌بندی شده اغلب عملکردی مشابه QBC دارد زیرا همه روش‌ها تقریباً از یک خط پایه فقیر از اطلاعات شروع می‌کنند. مزیت QBC زمانی آشکارتر می‌شود که مجموعه اولیه حداقل 20 تا 50 نمونه در هر کلاس داشته باشد.

آیا یادگیری فعال با رأی‌گیری گروهی برای رگرسیون کار می‌کند؟

بله، با اندازه‌گیری اختلاف به عنوان واریانس یا انحراف معیار پیش‌بینی‌های کمیته به جای آنتروپی رأی. همان حلقه پرسش-بازآموزی اعمال می‌شود؛ خروجی نهایی میانگین پیش‌بینی‌های کمیته است.

روش‌های مرتبط

منابع

  1. Seung, H. S., Opper, M., & Sompolinsky, H. (1992). Query by committee. In Proceedings of the Fifth Annual Workshop on Computational Learning Theory (COLT '92), pp. 287–294. ACM.

    باز کردن مرجع DOI
    کپی شد.
  2. Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    باز کردن مرجع انتشار
    کپی شد.