İçeriğe atla
Arama sonuçlarına dön

Hiyerarşik Kümeleme

Ortaya koyan
Ward, J. H.
Yıl
1963
Tür
Unsupervised clustering (agglomerative)

Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku

Yazı boyutu

Ne işe yarar?

Hiyerarşik kümeleme, gözlemleri iç içe geçmiş kümelere ayıran ve sonucu bir dendrogram olarak çizen, böylece küme sayısının önceden belirlenmesi gerekmeyen denetimsiz bir yöntemdir.

Toplayıcı (agglomerative) biçimi, Joe Ward tarafından 1963'te tanıtılan hedef-fonksiyon gruplama kriterine dayanır.

Yöntemin mantığı

Her gözlemin kendi küçük grubu olarak başladığını hayal edin. Her adımda en çok benzeyen iki grup birleştirilir, sonra bir sonraki iki grup ve bu böyle devam eder, ta ki her şey tek bir ağaçta birleşene kadar. Bu ağacı farklı yüksekliklerde kesmek size farklı sayıda küme verir, böylece önceden sabit bir sayıya bağlı kalmak yerine veriyi ne kadar ince böleceğinize karar verebilirsiniz.

Tarih

Hiyerarşik kümelemenin toplayıcı biçimi, 1963'te Joe H. Ward tarafından her birleştirmede grup içi varyanstaki artışı en aza indirmeyi hedef fonksiyon optimizasyonu olarak çerçeveleyerek resmi bir zemine oturtulmuştur. Ward'ın bağlaması en yaygın kullanılan kriterlerden biri olmaya devam etmektedir ve ürettiği dendrogram sosyal, sağlık ve işletme bilimlerinde standart bir keşif aracıdır.

Ne zaman kullanılır?

Küme sayısını önceden belirlemeden yapıyı keşfetmek istediğinizde, sürekli, sıralı veya kategorik özellikler üzerinde en az yaklaşık 10 gözlemle keşifsel gruplama için kullanın. Varsayımları hafiftir ancak iki seçime dayanır: uygun bir uzaklık metriği ve uygun bir bağlama yöntemi. Yaklaşık 10 gözlemin altında uzaklık matrisi güvenilmezdir ve dendrogram anlamlı bir yapı gösteremez, bu nedenle K-means daha güvenli bir alternatiftir; çok küçük örneklemlerde sonuçlar bağlama yöntemine aşırı duyarlı hale gelir ve küme üyelikleri kararsızdır.

Sınırlar ve dikkat edilmesi gerekenler

  • Sonuçlar, kullanıcının kararları olan seçilen uzaklık metriği ve bağlama yöntemine büyük ölçüde bağlıdır.
  • Küçük örneklemlerde küme üyelikleri kararsızdır ve bağlama yöntemine aşırı duyarlıdır.
  • Yaklaşık 10 gözlemin altında uzaklık matrisi güvenilmezdir ve dendrogram anlamlı bir yapı göstermez.

Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.

Güçlü yönleri

  • Küme sayısının önceden belirlenmesini gerektirmez — dendrogramdan okunur.
  • Dendrogram, kümelerin farklı benzerlik seviyelerinde nasıl iç içe geçtiğine dair yorumlanabilir bir görsel harita sunar.
  • Varsayımları hafiftir: normallik gerektirmez ve uzaklık seçimi aracılığıyla sürekli, sıralı ve kategorik özellikleri barındırır.
  • Belirli bir bölümlemeye karar vermeden önce yapıyı ortaya çıkarmak için bir keşif aracı olarak çalışır.

Uygulama alanları

  • Grup sayısının bilinmediği durumlarda gözlemlerin keşifsel segmentasyonu.
  • Kapsamların farklı benzerlik seviyelerinde nasıl iç içe geçtiğini görselleştirmek için bir dendrogram oluşturma.
  • Karışık sürekli, sıralı ve kategorik özelliklere sahip yanıtlayıcıları, örneklemleri veya birimleri gruplama.
  • Daha sonraki bir bölümleme yöntemini bilgilendirmek için aday küme sayıları üretme.

Nasıl çalışır?

Nasıl çalışır?

1

Önce seçilen bir uzaklık metriği kullanılarak her gözlem çifti arasındaki uzaklık hesaplanır ve bir uzaklık matrisi elde edilir. Metrik seçimi önemlidir: 'benzerlik' olarak neyin kabul edileceğini tanımlar ve sürekli, sıralı ve kategorik özellikler farklı uzaklık tanımları gerektirebilir.

2

Her gözlemi kendi kümesi olarak başlatarak, algoritma seçilen bir bağlama (linkage) yöntemine göre en yakın iki kümeyi tekrarlı olarak birleştirir. Örneğin, Ward'ın kriteri, küme içi kareler toplamındaki artışı en aza indiren çifti birleştirerek sonuçta ortaya çıkan kümeleri mümkün olduğunca kompakt tutar. Bağlama seçimi nihai gruplamayı büyük ölçüde şekillendirir.

Formül
\Delta(A,B) = \sum_{i \in A \cup B} \lVert x_i - m_{A \cup B}\rVert^2 - \sum_{i \in A}\lVert x_i - m_A\rVert^2 - \sum_{i \in B}\lVert x_i - m_B\rVert^2
3

Birleştirme dizisi, kümelerin hangi uzaklıkta birleştiğini gösteren dal yüksekliklerine sahip bir ağaç olan dendrogram olarak kaydedilir. Dendrogramın belirli bir yükseklikte kesilmesi küme atamalarını verir, bu nedenle küme sayısı önceden belirtilmek yerine ağaçtan okunur.

Sık yapılan hatalar

  • Uzaklık matrisinin ve dendrogramın güvenilir olmadığı yaklaşık 10 gözlemden az sayıda üzerinde çalıştırmak.
  • Sonucu kesin olarak kabul ederek gerekçelendirme olmaksızın bir uzaklık metriği ve bağlama yöntemi seçmek.
  • Küçük bir örneklemde kararsız küme üyeliklerine güvenmek yerine K-means veya Gauss karışım modeline geçmek.
  • Dendrogramın doğal kesme noktalarını incelemeden önce sabit bir küme sayısını zorlamak.

Sık sorulan sorular

Önce küme sayısını seçmem gerekiyor mu?

Hayır. Hiyerarşik kümeleme tam birleştirme ağacını yine de oluşturur ve küme sayısına daha sonra seçtiğiniz bir yükseklikte dendrogramı keserek karar verirsiniz — bu, K-means gibi yöntemlere göre ana avantajlarından biridir.

Hangi uzaklık metriğini ve bağlamayı kullanmalıyım?

Her ikisi de sonucu güçlü bir şekilde şekillendiren bilinçli seçimlerdir. Uzaklık metriği özellik türlerinize uymalıdır ve Ward'ın bağlaması, her birleştirmede küme içi varyanstaki artışı en aza indirerek kümeleri kompakt tuttuğu için yaygın bir varsayılan değerdir.

Ne kadar gözleme ihtiyacım var?

En az yaklaşık 10. Bunun altında uzaklık matrisi güvenilmezdir ve dendrogram anlamlı bir yapı ortaya koyamaz, bu nedenle K-means daha güvenli bir alternatiftir.

Neden kümelerim kararsız?

Küçük örneklemlerde sonuç bağlama yöntemine aşırı duyarlıdır, bu nedenle küme üyelikleri küçük değişikliklerle kayar. Bu durumda K-means veya Gauss karışım modeli düşünün.

İlgili yöntemler

Kaynaklar

  1. Ward, J. H. (1963). Hierarchical Grouping to Optimize an Objective Function. Journal of the American Statistical Association, 58(301), 236–244.

    DOI kaynağını aç
    Kopyalandı.