多视图子空间聚类模型(Multi-view Subspace Clustering, MVSC)是一种处理多源异构数据的先进聚类技术。

它基于子空间聚类理论,旨在从多个不同的视图中发现共同的潜在结构,以更准确地进行数据分组。

MVSC模型的核心思想是在每个视图下寻找最佳的低维子空间表示,然后通过某种融合策略将这些表示集成起来,以获得更全面和一致的聚类结果。

MVSC算法的主要步骤和公式

1. 子空间学习

在每个视图下,学习一个低维子空间,以表示该视图下的数据。

这通常涉及到求解一个自表示问题,即数据点可以由同一子空间内的其他点线性组合而成。

  • 公式:对于视图 vvv,寻找系数矩阵 CvC_vCv,使得
    Xv≈XvCv X_v \approx X_v C_v XvXvCv
    其中

  • XvX_vXv 是第 vvv 个视图的数据矩阵

  • CvC_vCv 是系数矩阵,它表示数据点在子空间内的表示。

  • 目标函数:通常,目标是最小化重构误差和正则化项的和,例如
    min⁡Cv∥Xv−XvCv∥F2+λΩ(Cv) \min_{C_v} \|X_v - X_v C_v\|_F^2 + \lambda \Omega(C_v) CvminXvXvCvF2+λΩ(Cv)
    其中

  • ∥⋅∥F\| \cdot \|_FF 表示弗罗贝尼乌斯范数

  • λ\lambdaλ 是正则化参数

  • Ω(Cv)\Omega(C_v)Ω(Cv) 是正则化项,用于防止过拟合或鼓励稀疏性。

2. 融合不同视图的表示

一旦得到了每个视图的子空间表示,下一步就是融合这些表示。

这可以通过多种方式完成,例如加权平均共同字典学习深度学习框架。

  • 公式:一个简单的融合策略是加权平均
    C=∑v=1VwvCv C = \sum_{v=1}^V w_v C_v C=v=1VwvCv
    其中,VVV 是视图的总数,wvw_vwv 是第 vvv 个视图的权重。
3. 聚类

最后,基于融合后的表示 CCC,应用聚类算法(如谱聚类)来划分数据点。

  • 公式:构造拉普拉斯矩阵 LLL,然后求解特征向量
    L=D−∣C∣ L = D - |C| L=DC
    其中,DDD 是度矩阵,CCC 是经过绝对值操作的系数矩阵,这样可以将自表示转化为亲和矩阵。

    然后,对 LLL 的特征向量应用 kkk-means 或其他聚类算法来确定数据点的分组。

公式的作用

  • 子空间学习:通过自表示学习,CvC_vCv 描述了数据点在每个视图的子空间内的关系,这是理解数据结构的关键步骤。
  • 融合表示:融合策略确保了所有视图的信息都被考虑到,从而得到一个更全面和一致的表示。
  • 聚类:基于融合后的表示,应用聚类算法来划分数据点,这一步决定了最终的聚类结果。

MVSC模型通过在每个视图中学习子空间表示,然后融合这些表示,能够处理多源数据的复杂性和异质性,从而在聚类任务中表现出色,尤其是在处理高维和复杂数据结构时。

更多推荐