基于非负矩阵分解的多视图聚类方法实战：从算法原理到工程优化

1次阅读

没有评论

共计 1563 个字符，预计需要花费 4 分钟才能阅读完成。

在现实世界中，数据往往来自多个来源或具有多种表示形式，例如同一商品的文本描述和图像特征。多视图聚类旨在整合这些异构数据源，但面临三大挑战：

视图异构性 ：不同视图的数据分布和特征尺度差异显著
噪声敏感 ：部分视图可能包含大量无关特征
权重分配 ：传统方法通常人工设定视图权重，难以适应数据特性

对比传统 K -means 与 NMF：

K-means 只能处理单视图，且对噪声敏感
NMF 通过非负约束更符合实际数据特性，能同时进行特征选择和聚类

基础 NMF 目标函数：

\min_{W,H} \|X - WH\|_F^2 \quad s.t.\ W \geq 0, H \geq 0

多视图扩展形式（含图正则项）：

\min_{\{W^{(v)},H\}} \sum_{v=1}^V \alpha_v \|X^{(v)} - W^{(v)}H\|_F^2 + \lambda tr(HLH^T)

其中：
– $V$ 为视图总数
– $L$ 为拉普拉斯矩阵，编码样本间相似性
– $\alpha_v$ 为第 $v$ 个视图的自适应权重

引入辅助变量 $Z=H$，构造增广拉格朗日函数
交替更新各变量：
$W^{(v)}$ 更新：投影梯度法
$H$ 更新：解析解计算
$Z$ 更新：软阈值操作
权重 $\alpha_v$ 根据重构误差自适应调整

class MultiNMFDataset:
    def __init__(self, view_data):
        self.views = [self._normalize(v) for v in view_data]

    def _normalize(self, x):
        """L2 归一化每个特征"""
        return x / np.linalg.norm(x, axis=0, keepdims=True)

def update_H(X_list, W_list, H, rho=1.0):
    """
    X_list: 各视图数据矩阵列表
    W_list: 各视图基矩阵列表
    rho: ADMM 惩罚参数
    """
    numerator = sum([alpha[v] * W_list[v].T @ X_list[v] for v in range(V)])
    denominator = sum([alpha[v] * W_list[v].T @ W_list[v] for v in range(V)]) + rho * I
    return numerator @ np.linalg.inv(denominator)

在 Caltech101 数据集上（7 视图）的对比：

方法	NMI	ACC	耗时 (s)
K-means	0.42	0.38	12
DEC	0.61	0.55	320
本文方法	0.68	0.63	210

关键发现：
– 图正则项使 NMI 提升约 7%
– 自适应权重机制减少无效视图干扰

使用 scipy.sparse 存储稀疏特征
分块加载大视图数据

from scipy.sparse import csr_matrix
view_sparse = [csr_matrix(v) for v in views]

from multiprocessing import Pool

def parallel_update(args):
    v, X, W, H = args
    return update_W(v, X, W, H)

with Pool(processes=4) as pool:
    W_new = pool.map(parallel_update, [(v,X,W,H) for v in range(V)])