Skip to content
Torna ai risultati

Clustering gerarchico

Introdotto da
Ward, J. H.
Anno
1963
Tipo
Unsupervised clustering (agglomerative)

Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese

Dimensione del carattere

A cosa serve?

Il clustering gerarchico è un metodo non supervisionato che raggruppa le osservazioni in cluster annidati e rappresenta il risultato come un dendrogramma, quindi il numero di cluster non deve essere fissato in anticipo.

La sua forma agglomerativa si basa sul criterio di raggruppamento basato su funzione obiettivo introdotto da Joe Ward nel 1963.

L’intuizione alla base del metodo

Immagina ogni osservazione che inizia come un proprio piccolo gruppo. Ad ogni passo, i due gruppi più simili vengono fusi, poi i successivi due, e così via, finché tutto non si unisce in un unico albero. Tagliare quell'albero a diverse altezze fornisce diversi numeri di cluster, così puoi decidere quanto finemente suddividere i dati dopo aver visto la struttura piuttosto che impegnarti in un conteggio fisso in anticipo.

Storia

La forma agglomerativa del clustering gerarchico è stata formalizzata da Joe H. Ward nel 1963, che ha inquadrato la fusione dei cluster come l'ottimizzazione di una funzione obiettivo — minimizzando l'aumento della varianza intra-gruppo ad ogni fusione. Il linkage di Ward rimane uno dei criteri più utilizzati, e il dendrogramma che produce è uno strumento esplorativo standard nelle scienze sociali, sanitarie e aziendali.

Quando usarlo

Usalo per il raggruppamento esplorativo quando vuoi scoprire la struttura senza pre-specificare il numero di cluster, su caratteristiche continue, ordinali o categoriche con almeno circa 10 osservazioni. Richiede poche assunzioni ma si basa su due scelte: una metrica di distanza adatta e un metodo di linkage adatto. Sotto circa 10 osservazioni la matrice di distanze non è affidabile e il dendrogramma non può mostrare una struttura significativa, quindi K-means è un'alternativa più sicura; su campioni molto piccoli i risultati diventano eccessivamente sensibili al metodo di linkage e le appartenenze ai cluster sono instabili.

Limiti e considerazioni

  • I risultati dipendono fortemente dalla metrica di distanza e dal metodo di linkage scelti, che sono decisioni dell'utente.
  • Su piccoli campioni le appartenenze ai cluster sono instabili e eccessivamente sensibili al metodo di linkage.
  • Con meno di circa 10 osservazioni la matrice di distanze non è affidabile e il dendrogramma non mostra una struttura significativa.

Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.

Punti di forza

  • Non richiede che il numero di cluster sia fissato in anticipo — lo si legge dal dendrogramma.
  • Il dendrogramma fornisce una mappa visiva interpretabile di come i cluster si annidano a diversi livelli di similarità.
  • Poche assunzioni: nessun requisito di normalità, e accoglie caratteristiche continue, ordinali e categoriche attraverso la scelta della distanza.
  • Funziona come strumento esplorativo per rivelare la struttura prima di impegnarsi in una partizione.

Applicazioni

  • Segmentazione esplorativa delle osservazioni quando il numero di gruppi è sconosciuto.
  • Costruire un dendrogramma per visualizzare come i casi si annidano a diversi livelli di similarità.
  • Raggruppare rispondenti, campioni o unità su caratteristiche miste continue, ordinali e categoriche.
  • Generare conteggi di cluster candidati per informare un metodo di partizione successivo.

Come funziona

Come funziona

1

Innanzitutto, viene calcolata una distanza tra ogni coppia di osservazioni utilizzando una metrica di distanza scelta, producendo una matrice di distanze. La scelta della metrica è importante: definisce cosa conta come 'simile', e caratteristiche continue, ordinali e categoriche possono richiedere definizioni di distanza diverse.

2

Partendo da ogni osservazione come proprio cluster, l'algoritmo fonde ripetutamente i due cluster più vicini secondo un metodo di linkage scelto. Il criterio di Ward, ad esempio, fonde la coppia che produce il più piccolo aumento della somma dei quadrati intra-cluster, mantenendo i cluster risultanti il più compatti possibile. La scelta del linkage modella fortemente il raggruppamento finale.

Formula
\Delta(A,B) = \sum_{i \in A \cup B} \lVert x_i - m_{A \cup B}\rVert^2 - \sum_{i \in A}\lVert x_i - m_A\rVert^2 - \sum_{i \in B}\lVert x_i - m_B\rVert^2
3

La sequenza di fusioni viene registrata come un dendrogramma, un albero le cui altezze dei rami mostrano la distanza alla quale i cluster si sono uniti. Tagliare il dendrogramma a un'altezza scelta fornisce le assegnazioni dei cluster, quindi il numero di cluster viene letto dall'albero piuttosto che specificato in anticipo.

Errori comuni

  • Eseguirlo su meno di circa 10 osservazioni, dove la matrice di distanze e il dendrogramma non sono affidabili.
  • Scegliere una metrica di distanza e un metodo di linkage senza giustificazione e trattare il risultato come definitivo.
  • Fidarsi di appartenenze a cluster instabili su un piccolo campione invece di passare a K-means o a una mistura gaussiana.
  • Forzare un numero fisso di cluster prima di ispezionare i punti di taglio naturali del dendrogramma.

Domande frequenti

Devo scegliere prima il numero di cluster?

No. Il clustering gerarchico costruisce l'intero albero di fusione indipendentemente, e tu decidi il numero di cluster in seguito tagliando il dendrogramma a un'altezza scelta — questo è uno dei suoi principali vantaggi rispetto a metodi come K-means.

Quale metrica di distanza e quale linkage dovrei usare?

Entrambe sono scelte deliberate che modellano fortemente il risultato. La metrica di distanza dovrebbe corrispondere ai tuoi tipi di caratteristiche, e il linkage di Ward è un default comune perché mantiene i cluster compatti minimizzando l'aumento della varianza intra-cluster ad ogni fusione.

Quante osservazioni mi servono?

Almeno circa 10. Al di sotto di questo valore la matrice di distanze non è affidabile e il dendrogramma non può rivelare una struttura significativa, quindi K-means è l'alternativa più sicura.

Perché i miei cluster sono instabili?

Su piccoli campioni il risultato è eccessivamente sensibile al metodo di linkage, quindi le appartenenze ai cluster cambiano con piccole variazioni. In quella situazione considera invece K-means o un modello di mistura gaussiana.

Metodi correlati

Fonti

  1. Ward, J. H. (1963). Hierarchical Grouping to Optimize an Objective Function. Journal of the American Statistical Association, 58(301), 236–244.

    Apri il riferimento DOI
    Copiato.