Skip to content
بازگشت به نتایج جست‌وجو

یو-مپ

معرفی‌شده توسط
McInnes, L.; Healy, J.; Melville, J.
سال
2018
نوع
Nonlinear manifold-learning dimension reduction

این متن ترجمه ماشینی است و هنوز بازبینی نشده است. متن اصلی را به انگلیسی بخوانید

اندازه قلم

چه کاری انجام می‌دهد؟

یو-مپ (تقریب و تصویرسازی منیفولد یکنواخت) یک روش کاهش ابعاد غیرخطی سریع و مقیاس‌پذیر است که بر اساس نظریه یادگیری منیفولد بنا شده و توسط مک‌اینس، هِلی و ملویل در سال ۲۰۱۸ معرفی شد. این روش داده‌های با ابعاد بالا را برای تجسم و تحلیل‌های بعدی به یک جاسازی با ابعاد پایین فشرده می‌کند.

شهود پشت روش

داده‌های واقعی با ویژگی‌های زیاد اغلب روی یک سطح منحنی با ابعاد بسیار پایین‌تر، یا منیفولد، که در فضای با ابعاد بالا تعبیه شده است، قرار دارند. یو-مپ تلاش می‌کند شکل آن سطح را از نحوه تجمع نقاط در نزدیکی همسایگانشان بیاموزد، سپس آن را به دو یا سه بعد باز می‌کند تا ساختار قابل مشاهده شود. در مقایسه با تی-اِس‌اِن‌اِی (t-SNE)، تمایل دارد بخش بیشتری از چیدمان کلی را حفظ کند و در عین حال در مجموعه داده‌های بزرگ بسیار سریع‌تر عمل می‌کند.

تاریخ

یو-مپ در سال ۲۰۱۸ توسط لِلِند مک‌اینس، جان هِلی و جیمز ملویل معرفی شد که آن را بر اساس نظریه یادگیری منیفولد به عنوان جایگزینی سریع‌تر و مقیاس‌پذیرتر برای تی-اِس‌اِن‌اِی (t-SNE) بنا نهادند. این روش به سرعت به ابزاری استاندارد برای کاهش ابعاد و تجسم تبدیل شد، به ویژه در حوزه‌هایی با داده‌های با ابعاد بسیار بالا، زیرا ساختار کلی بیشتری را حفظ می‌کند و در عین حال با مجموعه داده‌های بزرگ مقیاس‌پذیر است.

چه زمانی استفاده شود

از یو-مپ برای تجسم یا فشرده‌سازی داده‌های پیوسته با ابعاد بالا روی حداقل حدود ۵۰ مشاهده، چه برای اکتشاف و چه به عنوان یک مرحله پیش‌پردازش قبل از طبقه‌بندی استفاده کنید. ابرپارامترهای n_neighbors و min_dist باید برای ساختاری که به آن اهمیت می‌دهید، تنظیم شوند و یک random_state برای تکرارپذیری باید ثابت شود. در زیر حدود ۵۰ مشاهده، منیفولد به طور قابل اعتماد قابل یادگیری نیست و پی‌سی‌ای خطی (PCA) انتخاب ایمن‌تری است.

محدودیت‌ها و ملاحظات

  • فاصله‌های بین خوشه‌ها در جاسازی می‌تواند گمراه‌کننده باشد و نباید بیش از حد تفسیر شود.
  • نتایج به ابرپارامترهای n_neighbors و min_dist بستگی دارد که باید تنظیم شوند.
  • خروجی قطعی نیست مگر اینکه یک random_state ثابت شود.
  • در نمونه‌های کوچک (n کمتر از حدود ۵۰) منیفولد به طور قابل اعتماد قابل یادگیری نیست و تصویر گمراه‌کننده می‌شود؛ پی‌سی‌ای (PCA) ترجیح داده می‌شود.

شرایط منبع جایگزین بررسی علمی مستقل یا اعتبارسنجی توسط موتور تحلیل نیست.

نقاط قوت

  • سریع و مقیاس‌پذیر برای مجموعه داده‌های بزرگ، بسیار سریع‌تر از تی-اِس‌اِن‌اِی.
  • ساختار کلی را بهتر از تی-اِس‌اِن‌اِی حفظ می‌کند و در عین حال خوشه‌های محلی را نیز ثبت می‌کند.
  • ساختار غیرخطی را که روش‌های خطی مانند پی‌سی‌ای (PCA) نمی‌توانند، ثبت می‌کند.
  • جاسازی‌های ۲ یا ۳ بعدی تولید می‌کند که برای تجسم مناسب هستند.

کاربردها

  • تجسم داده‌های پیوسته با ابعاد بالا در دو یا سه بعد.
  • تحلیل اکتشافی برای آشکار کردن خوشه‌ها و ساختار قبل از مدل‌سازی رسمی.
  • کاهش ابعاد به عنوان یک مرحله پیش‌پردازش قبل از طبقه‌بندی.
  • فشرده‌سازی مجموعه داده‌های بزرگ با ویژگی‌های زیاد که سرعت در آن‌ها اهمیت دارد.

چگونه کار می‌کند

چگونه کار می‌کند

1

یو-مپ ابتدا یک گراف همسایگی وزن‌دار از داده‌های با ابعاد بالا می‌سازد: هر نقطه به نزدیک‌ترین همسایگان خود متصل می‌شود، که توسط ابرپارامتر n_neighbors کنترل می‌شود و میزان ساختار محلی در مقابل ساختار کلی را تعیین می‌کند. این گراف تقریب یو-مپ از منیفولد زیربنایی است.

2

سپس یک چیدمان با ابعاد پایین بهینه‌سازی می‌شود تا گراف همسایگی آن تا حد امکان با گراف با ابعاد بالا مطابقت داشته باشد، با کمینه‌سازی آنتروپی متقاطع بین دو نمایش گراف. ابرپارامتر min_dist نحوه فشردگی نقاط را در کنار هم کنترل می‌کند و چگالی خوشه‌های حاصل را شکل می‌دهد.

فرمول
Y = \arg\min_{Y} \; \text{cross-entropy}(G_{\text{high}}, G_{\text{low}})
3

نتیجه یک جاسازی ۲ یا ۳ بعدی است که در آن مشاهدات مشابه در کنار هم قرار می‌گیرند و آماده ترسیم یا تغذیه به الگوریتم‌های خوشه‌بندی یا طبقه‌بندی هستند. شکل خوشه‌ها حفظ می‌شود، اما فواصل بین خوشه‌ها باید با احتیاط خوانده شوند و یک random_state ثابت برای خروجی تکرارپذیر لازم است.

دام‌های رایج

  • تفسیر فواصل بین خوشه‌ها به گونه‌ای که گویی مقادیر معناداری هستند.
  • رها کردن n_neighbors و min_dist در مقادیر پیش‌فرض به جای تنظیم آن‌ها برای داده‌ها.
  • فراموش کردن تنظیم random_state، بنابراین جاسازی تکرارپذیر نیست.
  • اجرای یو-مپ روی کمتر از حدود ۵۰ مشاهده و اعتماد به نمودار حاصل.

پرسش‌های متداول

یو-مپ چگونه با تی-اِس‌اِن‌اِی (t-SNE) تفاوت دارد؟

هر دو روش‌های غیرخطی برای تجسم داده‌های با ابعاد بالا هستند، اما یو-مپ بر اساس نظریه یادگیری منیفولد بنا شده است، تمایل به حفظ ساختار کلی بهتر دارد و در مجموعه داده‌های بزرگ بسیار سریع‌تر است.

آیا می‌توانم فواصل بین خوشه‌ها را در نمودار تفسیر کنم؟

احتیاط کنید. یو-مپ شکل خوشه‌ها را حفظ می‌کند، اما فواصل بین خوشه‌ها می‌تواند گمراه‌کننده باشد و نباید به عنوان مقادیر دقیق خوانده شود.

کدام ابرپارامترها بیشترین اهمیت را دارند؟

n_neighbors تعادل بین ساختار محلی و کلی را کنترل می‌کند و min_dist نحوه فشردگی نقاط را کنترل می‌کند. هر دو باید تنظیم شوند و یک random_state باید ثابت شود تا جاسازی تکرارپذیر باشد.

اگر مشاهدات بسیار کمی داشته باشم چه؟

در زیر حدود ۵۰ مشاهده، منیفولد به طور قابل اعتماد قابل یادگیری نیست و جاسازی گمراه‌کننده می‌شود. در آن صورت یک روش خطی مانند پی‌سی‌ای (PCA) انتخاب ایمن‌تری است.

روش‌های مرتبط

منابع

  1. McInnes, L., Healy, J. & Melville, J. (2018). UMAP: Uniform Manifold Approximation and Projection for Dimension Reduction. arXiv:1802.03426.

    باز کردن مرجع انتشار
    کپی شد.