AI行为向量聚类入门指南：从原理到Python实战

1次阅读

共计 2627 个字符，预计需要花费 7 分钟才能阅读完成。

当处理用户行为数据（如点击流、运动传感器日志）时，我们常遇到两个典型问题：

高维稀疏性：一个用户可能产生数千维的行为特征，但单个样本中 90% 以上的维度值为零（例如电商浏览行为中未点击的商品类目）
时间依赖性：行为数据本质上是时间序列，传统欧氏距离无法捕捉动作先后顺序的差异

这导致直接应用 K -means 会出现所有样本被归为同一簇的荒谬结果——就像用米尺测量细菌大小，尺度根本不匹配。

算法类型	时间复杂度	超参数敏感度	噪声处理能力	适用场景
K-means	O(nkt)	极高（需指定 k 值）	差	球形簇、均匀分布
DBSCAN	O(n log n)	中等（ε 和 MinPts）	优秀	任意形状、噪声较多
Hierarchical	O(n²)	低（仅需阈值）	一般	小数据集、需要簇层次

注：n= 样本量, k= 簇数, t= 迭代次数

行为数据的量纲差异巨大（如页面停留时间单位是秒，点击次数是整数），必须进行归一化：

from sklearn.preprocessing import MinMaxScaler

# 假设 raw_data 是 (n_samples, n_features) 的 numpy 数组
scaler = MinMaxScaler(feature_range=(0, 1))  # 压缩到 [0,1] 区间
normalized_data = scaler.fit_transform(raw_data)

对于运动传感器等时间序列数据，推荐动态时间规整 (DTW) 算法：

from dtaidistance import dtw
import numpy as np

def compute_dtw_distance(seq1, seq2):
    """
    计算两个行为序列的 DTW 距离
    :param seq1: 序列 1，shape=(n_steps, n_features)
    :param seq2: 序列 2，shape=(m_steps, n_features)
    :return: 规整后的最小累积距离
    """
    # 将多变量序列展平为 1D（DTW 库要求）seq1_flat = seq1.flatten()
    seq2_flat = seq2.flatten()

    # 计算距离，窗口限制加速计算
    distance = dtw.distance(seq1_flat, seq2_flat, window=10)  
    return distance

面对 500+ 维的行为特征，先用 t -SNE 降低到 2D 观察分布：

from sklearn.manifold import TSNE
import matplotlib.pyplot as plt

# 降维前聚类（高维空间）kmeans_highdim = KMeans(n_clusters=3).fit(normalized_data)

# t-SNE 降维
embedded = TSNE(n_components=2).fit_transform(normalized_data)

# 降维后聚类（2D 空间）kmeans_lowdim = KMeans(n_clusters=3).fit(embedded)

# 对比可视化
plt.figure(figsize=(12,5))
plt.subplot(121)
plt.scatter(embedded[:,0], embedded[:,1], c=kmeans_highdim.labels_)
plt.title('高维聚类结果投影')

plt.subplot(122)
plt.scatter(embedded[:,0], embedded[:,1], c=kmeans_lowdim.labels_)
plt.title('降维后直接聚类')

当数据量超过单机内存时：

# 使用 Dask 替代 sklearn
import dask_ml.cluster as dcluster

data = load_large_data()  # 从 HDFS 或 S3 加载
kmeans = dcluster.KMeans(n_clusters=5, oversampling_factor=10)
kmeans.fit(data)  # 自动分块并行计算

使用智能手机传感器数据集验证效果：

下载数据集：

wget https://archive.ics.uci.edu/ml/machine-learning-databases/00240/UCI%20HAR%20Dataset.zip

计算评估指标：

from sklearn.metrics import silhouette_score, calinski_harabasz_score

labels = kmeans.predict(test_data)
silhouette = silhouette_score(test_data, labels)  # 值越接近 1 越好
ch_score = calinski_harabasz_score(test_data, labels)  # 值越大越好

典型结果对比：
– 原始特征 +K-means：轮廓系数 0.15
– DTW 距离 +DBSCAN：轮廓系数 0.41

from transformers import AutoModel
import torch

# 使用预训练时序模型
model = AutoModel.from_pretrained("facebook/time-series-transformer")
with torch.no_grad():
    embeddings = model(input_sequences).last_hidden_state.mean(dim=1)