İçeriğe atla
Arama sonuçlarına dön

UMAP

Ortaya koyan
McInnes, L.; Healy, J.; Melville, J.
Yıl
2018
Tür
Nonlinear manifold-learning dimension reduction

Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku

Yazı boyutu

Ne işe yarar?

UMAP (Uniform Manifold Approximation and Projection), McInnes, Healy ve Melville tarafından 2018'de tanıtılan, manifold öğrenme teorisine dayanan hızlı ve ölçeklenebilir bir doğrusal olmayan boyut azaltma yöntemidir.

Yüksek boyutlu veriyi görselleştirme ve sonraki analizler için düşük boyutlu bir gömüye sıkıştırır.

Yöntemin mantığı

Çok sayıda özelliğe sahip gerçek veriler genellikle yüksek boyutlu uzaya gömülü, çok daha düşük boyutlu eğimli bir yüzeyde veya manifoldda yer alır. UMAP, noktaların komşularının yakınında nasıl kümelendiğinden bu yüzeyin şeklini öğrenmeye çalışır, ardından yapının görünür hale gelmesi için onu iki veya üç boyuta açar. t-SNE ile karşılaştırıldığında, büyük veri kümelerinde çok daha hızlı çalışırken küresel düzenin daha fazlasını koruma eğilimindedir.

Tarih

UMAP, 2018 yılında Leland McInnes, John Healy ve James Melville tarafından, t-SNE'ye daha hızlı, daha ölçeklenebilir bir alternatif olarak manifold öğrenme teorisi üzerine inşa edilerek tanıtıldı. Özellikle çok yüksek boyutlu verilere sahip alanlarda, büyük veri kümelerine ölçeklenirken daha fazla küresel yapıyı koruduğu için hızla boyut azaltma ve görselleştirme için standart bir araç haline geldi.

Ne zaman kullanılır?

UMAP'ı, keşif amaçlı veya sınıflandırma öncesi bir ön işleme adımı olarak, en az yaklaşık 50 gözlem içeren sürekli, yüksek boyutlu verileri görselleştirmek veya sıkıştırmak için kullanın. n_neighbors ve min_dist hiperparametreleri, ilgilendiğiniz yapıya göre ayarlanmalı ve tekrarlanabilirlik için bir random_state sabitlenmelidir. Yaklaşık 50 gözlemin altında manifold güvenilir bir şekilde öğrenilemez ve doğrusal PCA daha güvenli bir seçimdir.

Sınırlar ve dikkat edilmesi gerekenler

  • Gömüdeki kümeler arasındaki mesafeler yanıltıcı olabilir ve aşırı yorumlanmamalıdır.
  • Sonuçlar, ayarlanması gereken n_neighbors ve min_dist hiperparametrelerine bağlıdır.
  • Bir random_state sabitlenmedikçe çıktı deterministik değildir.
  • Küçük örneklemlerde (yaklaşık 50'nin altındaki n) manifold güvenilir bir şekilde öğrenilemez ve görsel yanıltıcı hale gelir; PCA tercih edilir.

Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.

Güçlü yönleri

  • Büyük veri kümeleri için hızlı ve ölçeklenebilir, t-SNE'den çok daha hızlıdır.
  • Yerel kümeleri yakalamaya devam ederken küresel yapıyı t-SNE'den daha iyi korur.
  • PCA gibi doğrusal yöntemlerin yapamadığı doğrusal olmayan yapıyı yakalar.
  • Görselleştirmeye çok uygun 2 veya 3 boyutlu gömüler üretir.

Uygulama alanları

  • Yüksek boyutlu sürekli verileri iki veya üç boyutta görselleştirme.
  • Resmi modellemeden önce kümeleri ve yapıyı ortaya çıkarmak için keşifsel analiz.
  • Sınıflandırma öncesi bir ön işleme adımı olarak boyut azaltma.
  • Hızın önemli olduğu büyük, yüksek özellikli veri kümelerini sıkıştırma.

Nasıl çalışır?

Nasıl çalışır?

1

UMAP ilk olarak yüksek boyutlu verinin ağırlıklı bir komşuluk grafiğini oluşturur: her nokta, ne kadar yerel ve küresel yapının yakalanacağını belirleyen n_neighbors hiperparametresi tarafından kontrol edilen en yakın komşularına bağlanır. Bu grafik, UMAP'ın temel manifoldun bir yaklaşımıdır.

2

Daha sonra, düşük boyutlu bir düzen, iki grafik gösterimi arasındaki çapraz entropi minimize edilerek, kendi komşuluk grafiğinin yüksek boyutlu grafikle mümkün olduğunca eşleşmesi için optimize edilir. min_dist hiperparametresi, noktaların ne kadar sıkı bir araya gelmesine izin verildiğini yöneterek ortaya çıkan kümelerin yoğunluğunu şekillendirir.

Formül
Y = \arg\min_{Y} \; \text{cross-entropy}(G_{\text{high}}, G_{\text{low}})
3

Sonuç, benzer gözlemlerin birbirine yakın oturduğu, çizim veya kümeleme ve sınıflandırmaya besleme için hazır 2 veya 3 boyutlu bir gömüdür. Küme şekilleri korunur, ancak kümeler arasındaki mesafeler dikkatle okunmalı ve tekrarlanabilir çıktı için sabit bir random_state gereklidir.

Sık yapılan hatalar

  • Kümeler arasındaki mesafeleri anlamlı niceliklermiş gibi okumak.
  • n_neighbors ve min_dist'i verilere göre ayarlamak yerine varsayılan değerlerde bırakmak.
  • Bir random_state ayarlamayı unutmak, böylece gömünün tekrarlanabilir olmaması.
  • UMAP'ı yaklaşık 50'den az gözlem üzerinde çalıştırmak ve ortaya çıkan grafiğe güvenmek.

Sık sorulan sorular

UMAP, t-SNE'den nasıl farklıdır?

Her ikisi de yüksek boyutlu verileri görselleştirmek için doğrusal olmayan yöntemlerdir, ancak UMAP manifold öğrenme teorisi üzerine kuruludur, küresel yapıyı daha iyi koruma eğilimindedir ve büyük veri kümelerinde çok daha hızlıdır.

Grafikteki kümeler arasındaki mesafeleri yorumlayabilir miyim?

Dikkatli olun. UMAP küme şekillerini korur, ancak kümeler arasındaki mesafeler yanıltıcı olabilir ve kesin nicelikler olarak okunmamalıdır.

Hangi hiperparametreler en çok önemlidir?

n_neighbors yerel ve küresel yapı arasındaki dengeyi kontrol eder ve min_dist noktaların ne kadar sıkı bir araya geldiğini kontrol eder. Her ikisi de ayarlanmalı ve gömünün tekrarlanabilir olması için bir random_state sabitlenmelidir.

Çok az gözlemim varsa ne olur?

Yaklaşık 50 gözlemin altında manifold güvenilir bir şekilde öğrenilemez ve gömü yanıltıcı hale gelir. Bu durumda PCA gibi doğrusal bir yöntem daha güvenli bir seçimdir.

İlgili yöntemler

Kaynaklar

  1. McInnes, L., Healy, J. & Melville, J. (2018). UMAP: Uniform Manifold Approximation and Projection for Dimension Reduction. arXiv:1802.03426.

    Yayın kaynağını aç
    Kopyalandı.