Skip to content
検索結果に戻る

階層的クラスタリング

提唱者
Ward, J. H.
年
1963
種類
Unsupervised clustering (agglomerative)

この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む

文字サイズ

何をする手法か?

階層的クラスタリングは、観測値をネストされたクラスタにグループ化し、結果をデンドログラムとして描画する教師なし学習法であり、クラスタ数は事前に固定する必要がありません。その凝集型は、1963年にJoe Wardが導入した目的関数によるグループ化基準に基づいています。

手法の背後にある直感

すべての観測値がそれぞれ小さなグループとして開始すると想像してください。各ステップで最も類似した2つのグループがマージされ、次にその次の2つがマージされ、すべてが単一のツリーに結合されるまで続きます。このツリーを異なる高さでカットすると、異なる数のクラスタが得られるため、事前に固定数を決定するのではなく、構造を見た後にデータをどの程度細かく分割するかを決定できます。

歴史学

階層的クラスタリングの凝集型は、1963年にJoe H. Wardによって正式に確立されました。彼はクラスタのマージを目的関数の最適化としてフレーム化しました。つまり、各マージでのグループ内分散の増加を最小化することです。Wardのリンケージは依然として最も広く使用されている基準の1つであり、それが生成するデンドログラムは、社会科学、健康科学、ビジネス科学全体で標準的な探索ツールです。

使うべき場面

クラスタ数を事前に指定せずに構造を発見したい場合の探索的グループ化に使用します。連続型、順序型、またはカテゴリ型の特徴量で、少なくとも約10個の観測値がある場合に有効です。仮定は少ないですが、適切な距離尺度と適切なリンケージ法の2つの選択に依存します。約10個の観測値未満では、距離行列は信頼性が低く、デンドログラムは意味のある構造を示さないため、K-meansがより安全な代替手段となります。非常に小さなサンプルでは、結果はリンケージ法に過度に敏感になり、クラスタメンバーシップは不安定になります。

限界と注意点

  • 結果は、選択した距離尺度とリンケージ法に大きく依存し、これらはユーザーの決定です。
  • 小さなサンプルでは、クラスタメンバーシップは不安定で、リンケージ法に過度に敏感です。
  • 約10個未満の観測値では、距離行列は信頼性が低く、デンドログラムは意味のある構造を示しません。

出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。

強み

  • クラスタ数を事前に固定する必要がない — デンドログラムから読み取ります。
  • デンドログラムは、異なる類似度レベルでクラスタがどのようにネストするかを視覚的に解釈可能なマップを提供します。
  • 仮定が少ない:正規性の要件がなく、距離の選択を通じて連続型、順序型、カテゴリ型の特徴量に対応できます。
  • パーティションを決定する前に構造を明らかにするための探索的ツールとして機能します。

応用

  • グループ数が不明な場合の観測値の探索的セグメンテーション。
  • ケースが異なる類似度レベルでどのようにネストするかを視覚化するためのデンドログラムの構築。
  • 連続型、順序型、カテゴリ型の特徴量が混在する回答者、サンプル、または単位のグループ化。
  • 後続のパーティショニング法を通知するための候補クラスタ数の生成。

使い方

使い方

1

まず、選択した距離尺度を使用して、観測値の各ペア間の距離を計算し、距離行列を生成します。尺度の選択は重要です。それは「類似性」を定義し、連続型、順序型、カテゴリ型の特徴量では異なる距離定義が必要になる場合があります。

2

各観測値を独自のクラスタとして開始し、アルゴリズムは選択したリンケージ法に従って最も近い2つのクラスタを繰り返しマージします。例えば、Wardの基準は、クラスタ内平方和の増加を最小限に抑えるペアをマージし、結果のクラスタを可能な限りコンパクトに保ちます。リンケージの選択は、最終的なグループ化を強く形作ります。

数式
\Delta(A,B) = \sum_{i \in A \cup B} \lVert x_i - m_{A \cup B}\rVert^2 - \sum_{i \in A}\lVert x_i - m_A\rVert^2 - \sum_{i \in B}\lVert x_i - m_B\rVert^2
3

マージのシーケンスはデンドログラムとして記録されます。これは、クラスタが結合した距離を枝の高さで示すツリーです。選択した高さでデンドログラムをカットすると、クラスタの割り当てが得られるため、クラスタ数は事前に指定するのではなく、ツリーから読み取られます。

よくある落とし穴

  • 距離行列とデンドログラムが信頼できない約10個未満の観測値で階層的クラスタリングを実行すること。
  • 正当な理由なしに距離尺度とリンケージ法を選択し、結果を決定的なものとして扱うこと。
  • K-meansまたはガウス混合モデルに切り替えるのではなく、小さなサンプルでの不安定なクラスタメンバーシップを信頼すること。
  • デンドログラムの自然なカットポイントを調べる前に、固定数のクラスタを強制すること。

よくある質問

最初にクラスタ数を決める必要がありますか?

いいえ。階層的クラスタリングは、いずれにしても完全なマージツリーを構築し、後でデンドログラムを選択した高さでカットすることによってクラスタ数を決定します。これは、K-meansのような方法に対する主な利点の1つです。

どの距離尺度とリンケージを使用すべきですか?

どちらも結果を強く形作る意図的な選択です。距離尺度は特徴量のタイプに合わせるべきであり、Wardのリンケージは、各マージでのクラスタ内分散の増加を最小化することによってクラスタをコンパクトに保つため、一般的なデフォルトです。

いくつの観測値が必要ですか?

少なくとも約10個です。それ未満では距離行列は信頼性が低く、デンドログラムは意味のある構造を明らかにできないため、K-meansがより安全な代替手段です。

なぜ私のクラスタは不安定なのですか?

小さなサンプルでは、結果はリンケージ法に過度に敏感であるため、小さな変化でクラスタメンバーシップがシフトします。その状況では、K-meansまたはガウス混合モデルを検討してください。

関連する手法

参考文献

  1. Ward, J. H. (1963). Hierarchical Grouping to Optimize an Objective Function. Journal of the American Statistical Association, 58(301), 236–244.

    DOI 文献を開く
    コピーしました。