Clam聚类算法实战：从原理到Python实现指南

1次阅读

共计 2034 个字符，预计需要花费 6 分钟才能阅读完成。

在电商用户分群场景中，我们常遇到用户行为数据呈不规则分布（如长尾分布）。使用 K -means 聚类时，强行将非球形分布数据划分为圆形簇，会导致将相隔较远的用户划分到同一群体。而 DBSCAN 虽能处理任意形状簇，但对密度不均匀的数据集需要反复调整参数。

K-means：
优势：计算效率高（时间复杂度 O(nkt)）
劣势：需预设 K 值，仅适合凸数据集
DBSCAN：
优势：自动发现簇数量，可识别噪声
劣势：全局参数 ε 对密度变化敏感
Clam：
自适应局部密度阈值
通过层次密度估计处理多尺度数据

定义局部密度为：
$$\rho(x_i) = \sum_{j=1}^n \exp(-\frac{d(x_i,x_j)^2}{\sigma^2})$$

其中 σ 控制邻域范围，通过梯度上升寻找密度吸引子：
$$x_i^{(t+1)} = x_i^{(t)} + \eta \nabla \rho(x_i^{(t)})$$

import numpy as np
from sklearn.neighbors import NearestNeighbors

class ClamCluster:
    def __init__(self, sigma=0.5, convergence_thresh=1e-5):
        self.sigma = sigma  # 核函数带宽
        self.thresh = convergence_thresh

    def _compute_density(self, X):
        pairwise_dist = np.sqrt(((X[:, None] - X) ** 2).sum(axis=2))
        return np.exp(-(pairwise_dist ** 2) / (2 * self.sigma ** 2)).sum(axis=1)

    def fit(self, X, max_iters=100):
        n_samples = X.shape[0]
        density = self._compute_density(X)

        # 梯度上升迭代
        for _ in range(max_iters):
            grad = np.zeros_like(X)
            for i in range(n_samples):
                diff = X[i] - X
                kernel = np.exp(-np.sum(diff ** 2, axis=1) / (2 * self.sigma ** 2))
                grad[i] = (kernel[:, None] * diff).sum(axis=0) 

            X += grad * 0.01  # 学习率
            if np.linalg.norm(grad) < self.thresh:
                break

        # 识别吸引子
        nn = NearestNeighbors(n_neighbors=1).fit(X)
        _, indices = nn.kneighbors(X)
        self.labels_ = indices.flatten()

σ 选择 ：
使用 kNN 距离的百分位数（建议 15-30% 分位数）
示例：sigma = np.percentile(pairwise_distances(X), 25)
收敛判定 ：
观察梯度模长的变化曲线
典型阈值范围：1e- 4 到 1e-6

from sklearn.datasets import make_blobs
import matplotlib.pyplot as plt

# 生成测试数据
X, _ = make_blobs(n_samples=500, centers=3, cluster_std=[1.0, 2.5, 0.5], random_state=42)

# 添加噪声
X = np.vstack([X, np.random.uniform(low=-10, high=10, size=(50, 2))])

# 执行聚类
cluster = ClamCluster(sigma=1.2)
cluster.fit(X)

# 可视化
plt.scatter(X[:, 0], X[:, 1], c=cluster.labels_, cmap='viridis', s=10)
plt.show()