[关闭]
@hainingwyx 2017-06-09T07:21:41.000000Z 字数 2548 阅读 797

基于加权KPCA的谱聚类算法

聚类


Weighted Kernel PCA

KPCA算法是基础,快速了解请查阅我的博客

为了提高KPCA的鲁棒性和稀疏性,可以添加权重,对于噪声点可以减少其权重。原来的公式基础上,引入对称半正定权重矩阵

同样用Lagrangian求解:

最优时,有

消去得到非对称矩阵的特征值分解问题:

可能不是对称的,但是因为时正定的, 所以也是正定的。

测试数据的的投影坐标为:

谱聚类的联系

kernel alignment

Markov Random Walks

normalized cut

NJW

Method Original Problem V Relaxed Solution
Alignment
Ncut
Random walks
NJW

带偏置的推导

同样用Lagrangian求解:

最优时,有

解得:

消去得到特征值分解问题:

其中

测试数据的的投影坐标为:

测试数据的类别可以通过以下得到评估,有疑问请查阅博客

参考文献

[1]. Alzate C, Suykens J A K. A weighted kernel PCA formulation with out-of-sample extensions for spectral clustering methods[C]//Neural Networks, 2006. IJCNN'06. International Joint Conference on. IEEE, 2006: 138-144.

[2]. Bengio Y, Paiement J, Vincent P, et al. Out-of-sample extensions for lle, isomap, mds, eigenmaps, and spectral clustering[C]//Advances in neural information processing systems. 2004: 177-184.

[3]. C. Alzate and J. A. K. Suykens. Kernel principal component analysis using an epsilon insensitive robust loss function. Internal report 06-03.Submitted for publication, ESAT-SISTA, K. U. Leuven, 2006

添加新批注
在作者公开此批注前,只有你和作者可见。
回复批注