层次聚类是一种基于树状结构的聚类方法,它试图通过在不同层次上逐步合并或分裂数据集来构建聚类结构。这个树状结构通常被称为“树状图”(dendrogram),其中每个节点代表一个数据点或一组数据点,而连接节点的分支表示聚类的形成过程。 下面是层次聚类的一般原理:
层次聚类的优点之一是它提供了在不同层次上观察数据结构的能力,同时不需要预先指定簇的数量。然而,由于其复杂度较高,对大型数据集的处理可能会受到计算资源的限制。
考虑下图所示的单链聚类,其中数据集包含 5 个点,任意两点之间的距离在图的左下角给出。绘制其按照Mini-Distance树状图
δ \delta δ | B | C | D | E |
|---|---|---|---|---|
A | 1 | 3 | 2 | 4 |
B | 3 | 2 | 3 | |
C | 1 | 3 | ||
D | 5 |
BCDEA1324B323C13D5
聚类过程: 用
表示两个簇 A 和 B 之间的距离,这个距离可以根据不同的标准进行计算,比如最小距离、最大距离、平均距离等。
这里
,选择先合并AB,则
δ \delta δ | C | D | E |
|---|---|---|---|
AB | 3 | 2 | 3 |
C | 1 | 3 | |
D | 5 |
CDEAB323C13D5
δ \delta δ | CD | E |
|---|---|---|
AB | 2 | 3 |
CD | 3 |
CDEAB23CD3
δ \delta δ | E |
|---|---|
ABCD | 3 |
EABCD3
┌──────── ABCDE ────────┐
│3 │
┌──── ABCD ────┐ │
│2 2│ 3│
┌───── AB ────┐ ┌──── CD ───┐ │
│1 1│ │1 │1 │
A B C D Eδ \delta δ | B | C | D | E |
|---|---|---|---|---|
A | 1 | 3 | 2 | 4 |
B | 3 | 2 | 3 | |
C | 1 | 3 | ||
D | 5 |
BCDEA1324B323C13D5
δ \delta δ | B | CD | E |
|---|---|---|---|
A | 1 | 2 | 4 |
B | 2 | 3 | |
CD | 3 |
BCDEA124B23CD3
δ \delta δ | CD | E |
|---|---|---|
AB | 2 | 3 |
CD | 3 |
CDEAB23CD3
δ \delta δ | E |
|---|---|
ABCD | 3 |
EABCD3