تشخیص ناهنجاری با خودرمزگذار
- معرفیشده توسط
- Hinton, G. E. & Salakhutdinov, R. R. (autoencoders); applied to anomaly detection through multiple authors in the 2010s
- سال
- 2006–2014
- نوع
- Unsupervised deep learning (reconstruction-based)
- خانواده
- Machine learning
این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید
چه کاری انجام میدهد؟
تشخیص ناهنجاری با خودرمزگذار، یک شبکه عصبی را برای فشردهسازی و سپس بازسازی دادههای عادی آموزش میدهد. از آنجایی که مدل فقط آنچه را که عادی به نظر میرسد آموخته است، ورودیهای ناهنجار خطاهای بازسازی قابل توجهی بالاتری تولید میکنند - و آن خطاها به امتیاز ناهنجاری تبدیل میشوند. این روش نیازی به ناهنجاریهای برچسبدار ندارد و به طور طبیعی با دادههای با ابعاد بالا مانند جریانهای حسگر، تصاویر و سوابق گزارش سازگار میشود.
شهود پشت روش
یک خودرمزگذار مجبور میشود دادهها را با اعداد کمتری نسبت به آنچه در ابتدا داشت، توصیف کند، سپس اصل را بازسازی کند. هنگامی که منحصراً بر روی نمونههای عادی آموزش داده میشود، در بازسازی الگوهای عادی بسیار خوب و در بازسازی هر چیز غیرعادی ضعیف میشود. بنابراین خطای بازسازی به عنوان یک هشدار طبیعی عمل میکند: خطای کم به این معنی است که ورودی آشنا به نظر میرسد؛ خطای بالا نشاندهنده چیزی است که مدل هرگز قبلاً ندیده است و بنابراین نمیتواند آن را با وفاداری بازتولید کند. با تعیین آستانهای بر روی این خطا، شما یک امتیاز پیوسته را به یک پرچم ناهنجاری باینری تبدیل میکنید.
تاریخ
خودرمزگذارها به عنوان ابزارهای کاهش ابعاد توسط مقاله سال ۲۰۰۶ ساینس هینتون و سالاخوتدینوف در مورد شبکههای باور عمیق محبوب شدند. کاربرد آنها در تشخیص ناهنجاری در طول دهه ۲۰۱۰ با بلوغ یادگیری عمیق رشد کرد؛ وینسنت و همکاران (۲۰۱۰) خودرمزگذارهای حذف نویز را معرفی کردند، و تا اواسط دهه ۲۰۱۰ خودرمزگذارها یک خط پایه استاندارد برای تشخیص ناهنجاری بدون نظارت در حوزههای صنعتی و امنیت سایبری بودند. بررسی سال ۲۰۱۹ چالاپاتی و چاوالا بهترین شیوههای این حوزه را تثبیت کرد.
چه زمانی استفاده شود
هنگامی از تشخیص ناهنجاری با خودرمزگذار استفاده کنید که مثالهای ناهنجاری برچسبدار کمیاب یا غایب هستند، زمانی که کلاس عادی به خوبی نمایش داده شده است، و زمانی که ابعاد داده برای روشهای کلاسیک مانند SVM تک کلاسه بسیار بالا است. این روش در سریهای زمانی حسگر، گزارشهای ترافیک شبکه، تصویربرداری پزشکی و کنترل کیفیت تولید عالی عمل میکند. زمانی از آن اجتناب کنید که توزیع دادههای عادی بسیار متنوع یا چندوجهی باشد (خودرمزگذار ممکن است یک نمایش فشرده پیدا نکند)، زمانی که فقط مجموعه داده بسیار کوچکی دارید (شبکههای عمیق برای تعمیم به دادههای کافی نیاز دارند)، یا زمانی که یک آستانه ساده و قابل تفسیر مبتنی بر قاعده کافی است. زمانی که دادههای ناهنجاری برچسبدار در واقع در دسترس هستند، آن را اعمال نکنید - طبقهبندیکنندههای نظارت شده یا نیمهنظارت شده تقریباً همیشه در آن تنظیمات از آن بهتر عمل میکنند.
محدودیتها و ملاحظات
- به یک نمونه به اندازه کافی بزرگ و نماینده از دادههای عادی نیاز دارد؛ الگوهای فرعی عادی نادر ممکن است حتی بدون ناهنجار بودن، ضعیف بازسازی شوند.
- انتخاب آستانه، اکتشافی و حساس است: یک τ ضعیف انتخاب شده منجر به مثبتهای کاذب بیش از حد یا ناهنجاریهای از دست رفته میشود.
- قابلیت تفسیر پایین است - خطای بازسازی نشان میدهد که ناهنجاری وجود دارد اما کدام ویژگیها آن را هدایت کردهاند بدون تجزیه و تحلیل اضافی (به عنوان مثال، تجزیه خطا بر اساس ویژگی).
- آموزش شبکههای عمیق نیاز به تنظیم معماری، نرخ یادگیری و تنظیمکننده دارد؛ این روش به اندازه جنگل ایزوله یا SVM تک کلاسه آماده مصرف نیست.
- اگر ناهنجاریها مجموعه آموزشی را آلوده کنند، مدل تا حدی یاد میگیرد که آنها را بازسازی کند و حساسیت تشخیص را کاهش دهد.
شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.
نقاط قوت
- نیازی به مثالهای ناهنجاری برچسبدار نیست - فقط دادههای عادی برای آموزش مورد نیاز است.
- به طور طبیعی با ورودیهای با ابعاد بالا مانند تصاویر، سریهای زمانی و جریانهای چند حسگر سازگار میشود.
- یک امتیاز ناهنجاری پیوسته تولید میکند و امکان هشدار رتبهبندی شده را به جای یک پرچم باینری فراهم میکند.
- میتواند الگوهای عادی پیچیده و غیرخطی را که روشهای خطی مانند PCA نمیتوانند نمایش دهند، ثبت کند.
- معماری انعطافپذیر است: لایههای کانولوشنال برای تصاویر، لایههای LSTM برای دنبالهها، لایههای پیشخور برای دادههای جدولی.
کاربردها
- نگهداری پیشبینانه صنعتی: تشخیص عیوب ماشین از جریانهای حسگر ارتعاش و دما.
- امنیت سایبری: شناسایی ترافیک شبکه ناهنجار یا تلاشهای نفوذ از گزارشهای سطح بسته.
- تصویربرداری پزشکی: پرچمگذاری نواحی پاتولوژیک در اسکنهای MRI یا CT زمانی که دادههای ضایعه حاشیهنویسی شده کمیاب هستند.
- تشخیص کلاهبرداری مالی: شناسایی الگوهای تراکنش غیرمعمول در دادههای کارت اعتباری یا بانکی.
- کنترل کیفیت تولید: تشخیص محصولات معیوب از تصاویر دوربین در خط مونتاژ.
- عملیات فناوری اطلاعات: تشخیص معیارهای ناهنجار سرور یا برنامه در خطوط لوله AIOps.
چگونه کار میکند
چگونه کار میکند
یک شبکه خودرمزگذار منحصراً بر روی دادههایی که شرایط عملیاتی عادی را نشان میدهند آموزش داده میشود. هدف به حداقل رساندن زیان بازسازی (معمولاً میانگین مربعات خطا) بر روی این مجموعه آموزشی فقط عادی است، بنابراین شبکه نمایشهای داخلی فشردهای از آنچه عادی به نظر میرسد را یاد میگیرد. هیچ برچسب ناهنجاری مورد نیاز نیست.
در زمان استنتاج، هر ورودی x از طریق یک رمزگذار که آن را به یک بردار پنهان با ابعاد پایین فشرده میکند، و سپس از طریق یک رمزگشا که ورودی را به فضای اصلی بازسازی میکند، عبور داده میشود. جفت رمزگذار-رمزگشا توسط وزنهای آموخته شده پارامترسازی شده و هندسه منیفولد دادههای عادی را ثبت میکند.
فرمول
\hat{x} = f_{\theta}(g_{\phi}(x))خطای بازسازی e(x) - تفاوت مربعی (یا مطلق) بین ورودی و بازسازی آن - برای هر مشاهده محاسبه میشود. از آنجایی که خودرمزگذار فقط منیفولد عادی را آموخته است، ورودیهای ناهنجار دور از آن منیفولد قرار میگیرند و خطاهای بالایی ایجاد میکنند.
فرمول
e(x) = \|x - \hat{x}\|^2یک آستانه تصمیمگیری τ انتخاب میشود، معمولاً از توزیع خطاهای بازسازی بر روی یک مجموعه اعتبارسنجی عادی جدا شده (به عنوان مثال، صدک ۹۵ یا ۹۹). این آستانه امتیاز خطای پیوسته را به یک مرز تصمیم باینری تبدیل میکند. انتخاب τ، مثبتهای کاذب را در برابر ناهنجاریهای از دست رفته مبادله میکند.
هر مشاهدهای که خطای بازسازی آن از τ فراتر رود، به عنوان ناهنجاری پرچمگذاری میشود. بزرگی مازاد نیز میتواند به عنوان یک امتیاز اطمینان عمل کند و امکان اولویتبندی رتبهبندی هشدارها را به جای یک تصمیم باینری سخت فراهم کند.
فرمول
\text{anomaly if } e(x) > \tauدامهای رایج
- آموزش بر روی مجموعه دادهای که شامل ناهنجاریها بدون پاکسازی اولیه آنها است، به طوری که مدل الگوهایی را که باید پرچمگذاری کند، بازسازی میکند.
- تنظیم آستانه بر روی خود مجموعه آموزشی به جای یک مجموعه اعتبارسنجی جدا شده، که یک آستانه خوشبینانه تولید میکند که در زمان استقرار شکست میخورد.
- مقایسه خطاهای بازسازی در مقیاسهای مختلف ویژگی بدون نرمالسازی ورودیها، که باعث میشود خطا تحت سلطه ویژگیهای با واریانس بالا قرار گیرد.
- استفاده از یک گلوگاه که خیلی بزرگ است، به خودرمزگذار اجازه میدهد تا یک نگاشت تقریباً هویتی را یاد بگیرد که همه چیز را - از جمله ناهنجاریها - با وفاداری بازسازی میکند.
- گزارش فقط معیارهای طبقهبندی باینری (دقت) به جای دقت-بازیابی و AUROC، که برای وظایف تشخیص ناهنجاری نامتعادل بسیار آموزندهتر هستند.
پرسشهای متداول
چگونه اندازه گلوگاه را انتخاب کنم؟
گلوگاه باید به اندازه کافی کوچک باشد تا فشردهسازی الگوهای عادی را اجبار کند اما به اندازه کافی بزرگ باشد تا ساختار ضروری را از دست ندهد. رویه رایج این است که از حدود ۱۰ تا ۳۰ درصد ابعاد ورودی شروع کرده و با بررسی کیفیت بازسازی بر روی دادههای عادی جدا شده، تنظیم کنید.
اگر دادههای عادی من چندین وجه (به عنوان مثال، حالتهای مختلف عملیاتی ماشین) داشته باشند چه؟
یک خودرمزگذار واحد ممکن است همه وجهها را به یک اندازه خوب یاد نگیرد و هشدارهای کاذب در حالتهای کمتر نمایش داده شده اما عادی تولید کند. گزینهها شامل آموزش یک خودرمزگذار جداگانه برای هر وجه، استفاده از رویکرد ترکیبی از خودرمزگذارها، یا شرطیسازی بر روی یک برچسب وجه شناخته شده در صورت وجود است.
آستانه ناهنجاری را چگونه باید تنظیم کنم؟
خطاهای بازسازی را بر روی یک مجموعه اعتبارسنجی عادی تمیز و جدا شده محاسبه کنید و τ را در یک صدک بالا (۹۵ یا ۹۹، بسته به نرخ مثبت کاذب قابل قبول) قرار دهید. اگر برخی ناهنجاریهای برچسبدار وجود دارند، τ را برای حداکثر کردن F1 یا مبادله دقت-بازیابی مورد نظر تنظیم کنید.
این چگونه با جنگل ایزوله یا SVM تک کلاسه مقایسه میشود؟
جنگل ایزوله و SVM تک کلاسه به طور کلی تنظیم آسانتر و قابل تفسیرتر بر روی دادههای جدولی با ابعاد پایین تا متوسط هستند. خودرمزگذارها زمانی که ابعاد بسیار بالا است، زمانی که ساختار زمانی یا مکانی مهم است، یا زمانی که پیکسلهای خام یا شکل موج ورودی هستند، مزیت پیدا میکنند.
آیا میتوانم به جای آن از خودرمزگذار متغیر (VAE) استفاده کنم؟
بله. VAEها یک فضای پنهان احتمالی را یاد میگیرند و امکان امتیازدهی ناهنجاری را از طریق احتمال بازسازی به جای MSE خام فراهم میکنند، که اغلب کالیبراسیون را بهبود میبخشد. آنها یک توسعه طبیعی هستند زمانی که توزیع عادی پیچیده است یا زمانی که تخمینهای عدم قطعیت با کالیبراسیون خوب میخواهید.
روشهای مرتبط
منابع
Chalapathy, R. & Chawla, S. (2019). Deep learning for anomaly detection: A survey. arXiv preprint arXiv:1901.03407.
باز کردن مرجع انتشارکپی شد.Hinton, G. E. & Salakhutdinov, R. R. (2006). Reducing the dimensionality of data with neural networks. Science, 313(5786), 504–507.
باز کردن مرجع DOIکپی شد.