Skip to content
بازگشت به نتایج جست‌وجو

جنگل ایزوله‌سازی یادگیری فعال

معرفی‌شده توسط
Das, S. et al. (active anomaly discovery framework); Liu, F. T. et al. (Isolation Forest base)
سال
2008–2019
نوع
Active learning wrapper over isolation forest anomaly detector
خانواده
Machine learning

این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید

اندازه قلم

چه کاری انجام می‌دهد؟

جنگل ایزوله‌سازی یادگیری فعال، قدرت امتیازدهی ناهنجاری بدون نظارت جنگل ایزوله‌سازی را با یک استراتژی پرس‌وجوی تکراری ترکیب می‌کند که از یک متخصص انسانی می‌خواهد تا آموزنده‌ترین نمونه‌ها را برچسب‌گذاری کند. نتیجه، یک آشکارساز است که مرزهای ناهنجاری خود را با استفاده از حداقل بودجه برچسب‌گذاری اصلاح می‌کند و دقت را در ناهنجاری‌های نادر و ظریف در مقایسه با یک پایه کاملاً بدون نظارت به طور چشمگیری بهبود می‌بخشد.

شهود پشت روش

جنگل ایزوله‌سازی ناهنجاری‌ها را بر اساس سرعت ایزوله‌شدن آن‌ها در درختان تصادفی امتیازدهی می‌کند، اما بدون دانش دامنه نمی‌تواند ناهنجاری‌های واقعاً خطرناک را از نقاط پرت بی‌ضرر تشخیص دهد. یادگیری فعال یک انسان را در حلقه قرار می‌دهد: پس از اینکه جنگل به همه نمونه‌ها امتیاز داد، مبهم‌ترین یا بالاترین امتیازها را انتخاب می‌کند و از یک متخصص می‌خواهد تا هر برچسب ناهنجاری را تأیید یا رد کند. با هر برچسب تأیید شده، مدل می‌تواند امتیازات آینده را مجدداً وزن‌دهی یا رتبه‌بندی کند. در طول چندین دور بازخورد، حتی تعداد کمی از مثال‌های برچسب‌گذاری شده، آشکارساز را از هشدارهای نادرست دور کرده و به سمت ناهنجاری‌های واقعی مورد علاقه هدایت می‌کند.

تاریخ

جنگل ایزوله‌سازی توسط لیو، تینگ و ژو در ICDM 2008 به عنوان یک آشکارساز ناهنجاری سریع، مقیاس‌پذیر و با فرضیات کم معرفی شد که ناهنجاری‌ها را به جای مدل‌سازی رفتار عادی ایزوله می‌کند. یادگیری فعال به طور سیستماتیک از اواسط دهه 2010 به بعد در تشخیص ناهنجاری به کار گرفته شد. داس و همکاران (ICDM 2019) یک چارچوب کشف ناهنجاری فعال را به صراحت با ترکیب امتیازدهنده‌های مبتنی بر مجموعه — از جمله جنگل ایزوله‌سازی — با بازخورد متخصص تکراری رسمی کردند و نشان دادند که تعداد کمی از برچسب‌ها می‌توانند با آشکارسازهای کاملاً نظارت‌شده آموزش‌دیده بر روی صدها مثال رقابت کنند. این رویکرد از آن زمان در تقلب، تشخیص نفوذ و تحلیل حسگرها به کار گرفته شده است.

چه زمانی استفاده شود

از جنگل ایزوله‌سازی یادگیری فعال زمانی استفاده کنید که با یک وظیفه تشخیص ناهنجاری بر روی داده‌های جدولی بدون برچسب یا عمدتاً بدون برچسب مواجه هستید و می‌توانید تعداد کمی از برچسب‌های متخصص را تأمین کنید — معمولاً 10 تا 100 پرس‌وجو در چندین دور. این روش به ویژه برای امنیت سایبری، تشخیص تقلب، نگهداری پیش‌بینی‌کننده، و شناسایی نقاط پرت بالینی مناسب است، جایی که مثبت‌های کاذب پرهزینه هستند و یک متخصص دامنه می‌تواند یک نمونه ارائه شده را به طور قابل اعتمادی قضاوت کند. زمانی از آن استفاده نکنید که هیچ اوراکل قابل اعتمادی در دسترس نیست، زمانی که مفهوم ناهنجاری در طول زمان ناپایدار است، یا زمانی که هزینه برچسب‌گذاری به ازای هر نمونه آنقدر بالا است که حتی 10 پرس‌وجو نیز غیرممکن است. یک طبقه‌بندی‌کننده کاملاً نظارت‌شده باید زمانی ترجیح داده شود که یک مجموعه داده برچسب‌گذاری شده از چند صد ناهنجاری وجود داشته باشد.

محدودیت‌ها و ملاحظات

  • نیاز به یک اوراکل قابل اعتماد و در دسترس دارد؛ اگر برچسب‌های متخصص پر سر و صدا یا ناسازگار باشند، بازخورد می‌تواند مدل را تخریب کند.
  • استراتژی‌های پرس‌وجو فرض می‌کنند که امتیازدهی کل مجموعه در هر دور امکان‌پذیر است، که می‌تواند برای مجموعه‌های داده بسیار بزرگ پرهزینه باشد.
  • این رویکرد نسبت به یک جنگل ایزوله‌سازی ساده دشوارتر است که بازتولید و ممیزی شود، زیرا مدل نهایی به پرس‌وجوهای خاص انتخاب شده و برچسب‌های ارائه شده بستگی دارد.
  • انحراف مفهوم — زمانی که ماهیت ناهنجاری‌ها در طول زمان تغییر می‌کند — به طور خودکار مدیریت نمی‌شود و ممکن است نیاز به راه‌اندازی مجدد حلقه فعال داشته باشد.

شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.

نقاط قوت

  • از مقیاس‌پذیری و قابلیت تفسیر جنگل ایزوله‌سازی بهره می‌برد در حالی که دانش متخصص را با حداقل تلاش برچسب‌گذاری تزریق می‌کند.
  • دقت را به طور قابل توجهی نسبت به یک پایه کاملاً بدون نظارت بهبود می‌بخشد و مثبت‌های کاذب پرهزینه را در دامنه‌های پرخطر کاهش می‌دهد.
  • استراتژی‌های پرس‌وجوی مستقل از مدل (عدم قطعیت، top-k، تنوع) می‌توانند با هر امتیازدهنده ناهنجاری، نه فقط جنگل ایزوله‌سازی، سازگار شوند.
  • در محیط‌های نامتعادل کلاس که ناهنجاری‌ها بسیار نادر هستند و یادگیری نظارت‌شده به مجموعه‌های داده برچسب‌گذاری شده بزرگ نیاز دارد، به خوبی کار می‌کند.
  • هر دور پرس‌وجو بهبود فوری و قابل اندازه‌گیری در رتبه‌بندی ناهنجاری فراهم می‌کند و پیشرفت را برای ذینفعان شفاف می‌سازد.

کاربردها

  • غربالگری هشدار نفوذ شبکه و امنیت سایبری، جایی که تحلیلگران مجموعه کوچکی از اتصالات مشکوک را در هر شیفت برچسب‌گذاری می‌کنند.
  • تشخیص تقلب کارت اعتباری با بررسی دوره‌ای تراکنش‌های پرچم‌گذاری شده توسط تحلیلگر.
  • نگهداری پیش‌بینی‌کننده در تولید، شناسایی خرابی‌های نادر ماشین از جریان‌های حسگر با سوابق خرابی محدود.
  • تشخیص نقاط پرت بالینی در سوابق الکترونیکی سلامت که پزشکان پروفایل‌های غیرعادی بیمار را تأیید می‌کنند.
  • کنترل کیفیت داده‌های علمی، پرچم‌گذاری خطاهای ابزار در مجموعه‌های داده تجربی که توسط دانشمندان دامنه بررسی می‌شوند.

چگونه کار می‌کند

چگونه کار می‌کند

1

یک جنگل ایزوله‌سازی ابتدا بر روی تمام داده‌های بدون برچسب موجود آموزش داده می‌شود. هر نمونه بر اساس سرعت ایزوله‌شدن آن توسط تقسیم‌بندی بازگشتی تصادفی، یک امتیاز ناهنجاری دریافت می‌کند: نمونه‌ها در مناطق پراکنده و به راحتی ایزوله‌شده امتیازات بالایی دریافت می‌کنند. این گذر بدون نظارت، حلقه یادگیری فعال را با یک رتبه‌بندی اولیه معنی‌دار تغذیه می‌کند.

2

تمام نمونه‌های بدون برچسب در مجموعه بر اساس امتیازات ناهنجاری خود رتبه‌بندی می‌شوند. یک استراتژی پرس‌وجو — مانند انتخاب k نمونه با بالاترین امتیاز، یا آن‌هایی که امتیازاتشان در یک منطقه مرزی نامشخص قرار می‌گیرد — نمونه‌هایی را شناسایی می‌کند که برچسب اوراکل از آن‌ها آموزنده‌ترین خواهد بود.

3

نمونه‌های انتخاب شده به یک متخصص دامنه (یا یک اوراکل شبیه‌سازی شده در آزمایش‌ها) ارائه می‌شوند که هر یک را به عنوان ناهنجاری یا عادی برچسب‌گذاری می‌کند. تنها تعداد کمی پرس‌وجو در هر دور مورد نیاز است، که این رویکرد را در مواردی که برچسب‌گذاری گران است یا نیاز به قضاوت متخصص دارد، عملی می‌سازد.

4

نمونه‌های برچسب‌گذاری شده جدید در مدل گنجانده می‌شوند. این می‌تواند به معنای وزن‌دهی مجدد اعضای مجموعه که مسیرهایشان با ناهنجاری‌های تأیید شده مطابقت دارد، تنظیم دقیق آستانه‌های طول مسیر، یا آموزش مجدد با مجموعه برچسب‌گذاری شده به عنوان محدودیت‌های نظارتی باشد. رتبه‌بندی امتیازات برای مجموعه باقی‌مانده مجدداً محاسبه می‌شود.

5

چرخه پرس‌وجو-برچسب‌گذاری-به‌روزرسانی برای تعداد ثابتی از دورها یا تا زمانی که بودجه برچسب‌گذاری تمام شود، تکرار می‌شود. آشکارساز نهایی هم ساختار گسترده‌ای را که توسط جنگل بدون نظارت اصلی گرفته شده است و هم دانش تخصصی کدگذاری شده از طریق بازخورد برچسب‌گذاری شده را منعکس می‌کند و یک رتبه‌بندی‌کننده ناهنجاری با دقت بالا و متناسب با دامنه ارائه می‌دهد.

دام‌های رایج

  • پرس‌وجو از نمونه‌هایی با بالاترین امتیازات ناهنجاری به طور انحصاری می‌تواند سوگیری تأیید ایجاد کند و باعث شود مدل انواع ناهنجاری‌های جدیدی را که در ابتدا عادی به نظر می‌رسند، از دست بدهد.
  • گزارش عملکرد تنها بر روی نمونه‌های پرس‌وجو شده به جای یک مجموعه آزمایشی نگه داشته شده، که برآوردهای دقت را افزایش می‌دهد.
  • برچسب‌های اوراکل را به عنوان حقیقت مطلق در نظر گرفتن بدون در نظر گرفتن عدم توافق بین ارزیابان، به ویژه در زمینه‌های پزشکی یا امنیتی.
  • فراموش کردن ارزیابی مجدد کامل جنگل بدون نظارت پس از بازخورد؛ امتیازات قدیمی می‌توانند دورهای پرس‌وجوی بعدی را ناکارآمد کنند.

پرسش‌های متداول

معمولاً چند نمونه برچسب‌گذاری شده برای بهبود معنی‌دار مورد نیاز است؟

تحقیقات نشان می‌دهد که 10 تا 50 برچسب متخصص، که در 3 تا 5 دور بازخورد توزیع شده‌اند، اغلب برای عملکرد قابل توجه بهتر از یک جنگل ایزوله‌سازی کاملاً بدون نظارت در دقت کافی است، مشروط بر اینکه برچسب‌های اوراکل قابل اعتماد باشند.

آیا جنگل ایزوله‌سازی پایه باید پس از هر دور از ابتدا دوباره آموزش داده شود؟

لزوماً خیر. بسیاری از پیاده‌سازی‌ها مسیرهای درختی موجود را بدون آموزش مجدد کامل، که از نظر محاسباتی کارآمد است، مجدداً وزن‌دهی یا رتبه‌بندی می‌کنند. آموزش مجدد کامل با محدودیت‌های برچسب، گزینه‌ای است زمانی که مجموعه برچسب‌گذاری شده به اندازه کافی بزرگ شود که آن را توجیه کند.

کدام استراتژی پرس‌وجو برای تشخیص ناهنجاری بهترین عملکرد را دارد؟

امتیازدهی Top-k (انتخاب نمونه‌های بدون برچسب با بالاترین امتیاز) ساده و مؤثر است زمانی که ناهنجاری‌ها نادر هستند. استراتژی‌های مبتنی بر عدم قطعیت یا حاشیه زمانی که مرز ناهنجاری مبهم است کمک می‌کنند. استراتژی‌های آگاه از تنوع، افزونگی بین پرس‌وجوها را کاهش می‌دهند.

آیا این رویکرد می‌تواند داده‌های جریانی یا آنلاین را مدیریت کند؟

جنگل ایزوله‌سازی استاندارد یک روش دسته‌ای است، بنابراین توسعه‌های یادگیری فعال نیز تمایل به دسته‌ای بودن دارند. برای تنظیمات جریانی، نسخه‌های آنلاین یا پنجره کشویی جنگل ایزوله‌سازی قبل از اعمال بازخورد فعال مورد نیاز است.

چگونه مدل را به طور منصفانه ارزیابی کنم با توجه به اینکه تنها تعداد کمی از نمونه‌ها برچسب‌گذاری شده‌اند؟

یک مجموعه آزمایشی برچسب‌گذاری شده جداگانه را نگه دارید که هرگز برای پرس‌وجو استفاده نمی‌شود. دقت، فراخوانی و AUCROC را در این مجموعه در هر دور ارزیابی کنید تا بهبود واقعی را ردیابی کنید نه بیش‌برازش به برچسب‌های پرس‌وجو شده.

روش‌های مرتبط

منابع

  1. Das, S., Wong, W. K., Fern, A., Dietterich, T. G., & Amran Siddiqui, M. (2019). Incorporating Expert Feedback into Active Anomaly Discovery. In Proceedings of the 2019 IEEE International Conference on Data Mining (ICDM), pp. 1009–1014.

    باز کردن مرجع انتشار
    کپی شد.
  2. Liu, F. T., Ting, K. M., & Zhou, Z. H. (2008). Isolation Forest. In Proceedings of the 8th IEEE International Conference on Data Mining (ICDM), pp. 413–422.

    باز کردن مرجع DOI
    کپی شد.