Agnes聚类方法实战指南：从原理到Python实现

1次阅读

没有评论

共计 2004 个字符，预计需要花费 6 分钟才能阅读完成。

在机器学习领域，聚类分析是一种常见的无监督学习方法，它的目标是将数据集中的样本按照相似性进行分组。常见的应用场景包括：

客户细分：根据消费行为对用户进行分类
图像分割：将图像中的像素点聚类成不同区域
异常检测：识别偏离大多数数据点的异常样本

与分类不同，聚类不需要预先标记的训练数据，这使得它在探索性数据分析中特别有用。

在开始学习 Agnes 之前，我们先快速了解几种主流聚类方法：

K-means：简单高效，但需要预先指定簇的数量
DBSCAN：基于密度，能发现任意形状的簇
层次聚类：包括凝聚式 (Agnes) 和分裂式(Diana)

Agnes(Agglomerative Nesting)作为层次聚类的代表，其最大优势是能够生成可视化的树状图，直观展示数据层次结构。

Agnes 采用自底向上的凝聚策略，其核心思想是：将每个样本初始化为一个簇，然后逐步合并最相似的簇，直到所有样本聚为一类。

初始化：将每个数据点视为一个单独的簇
计算距离矩阵：存储所有簇对之间的距离
合并最近邻簇：找到距离最小的两个簇进行合并
更新距离矩阵：根据选择的连接准则重新计算距离
重复步骤 3 -4，直到只剩一个簇

合并簇时有几种常用距离计算方式：

单链接(Single Linkage)：取两个簇中最近的两个点之间的距离
全链接(Complete Linkage)：取两个簇中最远的两个点之间的距离
平均链接(Average Linkage)：取两个簇所有点对之间的平均距离

下面我们通过 scikit-learn 来实现 Agnes 聚类：

# 导入必要库
from sklearn.cluster import AgglomerativeClustering
from sklearn.datasets import make_blobs
import matplotlib.pyplot as plt
import numpy as np

# 生成示例数据
X, y = make_blobs(n_samples=300, centers=4, cluster_std=0.60, random_state=0)

# 可视化原始数据
plt.scatter(X[:, 0], X[:, 1], s=50)
plt.title("Original Data")
plt.show()

# 创建 Agnes 模型
# n_clusters: 最终需要的簇数量
# linkage: 连接准则(ward/single/average/complete)
model = AgglomerativeClustering(n_clusters=4, linkage='ward')

# 训练模型并预测
labels = model.fit_predict(X)

# 可视化聚类结果
plt.scatter(X[:, 0], X[:, 1], c=labels, s=50, cmap='viridis')
plt.title("Agnes Clustering Result")
plt.show()

树状图是理解层次聚类的关键可视化工具：

from scipy.cluster.hierarchy import dendrogram, linkage

# 计算连接矩阵
Z = linkage(X, 'ward')

# 绘制树状图
plt.figure(figsize=(10, 5))
dendrogram(Z)
plt.title("Dendrogram")
plt.xlabel("Sample index")
plt.ylabel("Distance")
plt.show()

Agnes 算法的主要时间消耗在距离矩阵计算和更新上：