ZCA白化详解

版权声明:站在巨人的肩膀上学习。 https://blog.csdn.net/zgcr654321/article/details/84926971

ZCA(Zero-phase Component Analysis):

ZCA变换的目标是去除特征之间的相关性,它的目标是:让每个特征自身的方差变为1,让特征之间的协方差变为0 。

已知Y=WX

假设线性变换矩阵W是一个对称矩阵:

我们的目标是令

那么Y=WX可以转化为:

同时去掉左右式子中最右边的WT,得:

假设X不全为0 ,那么就是一个对称矩阵,满足可逆性,故有:

这样我们就可以得出需要的W矩阵。

那么对于怎么计算呢?我们还要进行进一步变换。

是一个对称矩阵,对称矩阵可以被对角化。首先求出的特征值和特征向量:

对称矩阵有一个特性就是,它的特征向量可以构成一个标准正交矩阵,而标准正交矩阵的的逆矩阵和转置矩阵相等。故有:

于是可以转化为:

故最终W为:

S为的所有特征向量(每一列一个特征向量),为对角矩阵,其主对角元素为所有的特征值。

这样W就可以计算了。

PCA和ZCA的区别:

PCA和ZCA白化都降低了特征之间的相关性,同时使得所有特征具有相同的方差。

 PCA需要保证数据各维度的方差为1,ZCA白化只需保证方差相等;

PCA可进行降维也可以去相关性,而ZCA白化主要用于降低相关性;

ZCA白化相比于PCA使得处理后的数据更加的接近原始数据。

猜你喜欢

转载自blog.csdn.net/zgcr654321/article/details/84926971
今日推荐