主成分分析基本原理

当我们拿到一组数据，例如中学生身高、胸围、体重这三组数据，我们可以拿这三组数据来描述一个中学生的身形。但是很多情况下，这样的数据种类太多而且过于杂乱，无法很好地描述实体。
主成分分析的思想就是，在给出数据 $X_1、X_2、X_3\quad ... \quad X_n$ 基础上，创造新的一组数据 $Y_1、Y_2、Y_3\quad ... \quad Y_n$ 这组新的数据能更好地描述实体。
Y能更好地描述，主要是因为 Y 中含有更多的信息，通常来说，越靠前的 Y 包含有效信息越多，我们用贡献率描述包含成分的多少。所有 Y 的贡献率为1，一般来说，前一到两个Y就能描述 85% 以上信息。
Y 是由 X 线性表示出来的，也就是说，从原来每个成分里面按比例线性相加，形成更加能描述实体的值。

MATLAB函数介绍

X1 = zscore(X)

将数据标准化，原始数据由于单位等的不同，会有数值过大和过小的情况，需要将数据进行标准化，然后对标准化的数据进行分析。

[coeff, score, latent] = pca(X)

对矩阵X进行主成分分析。
X 每一列是一个指标 $X_n$ ，每一行是一个样本。
coeff 给出主成分变换矩阵，每一列的系数代表这个主成分含有原函数 $X$ 的系数，即第一列是 $Y_1$ 第二列是 $Y_2$ ；第一行是 $X_1$ 系数，第二行是 $X_2$ 系数。
score 是得分，即每个主成分每个样本的得分情况，即描述每个样本 $Y$ 的数据。
latent 是每个主成分 $Y$ 的特征值，每个特征值占总特征值和的比重就是贡献率，贡献率即代表了对事物的描述程度。

sum 和 cumsum

sum 用于求和，cumsum用于求阶梯和，对 latent 使用，来计算累积贡献率。

[B,I] = sort(A,direction)

对矩阵 A 进行排序，每一行为一个整体，以第一列元素大小为依据，direction 可以选择 ascend 或 descend
返回的 B 为新矩阵，I 为之前矩阵的行序号，注意 I 是一个矩阵，只不过每行元素相同。

主成分分析步骤

进行标准化处理
进行主成分分析
根据结果，选择主成分，写出表达式
根据数据进一步分析

应用——综合评价

在这里插入图片描述

A=[8589.4	8306.64	3225.16	2175.64	8196.1	471.48
1816.45	1787.41	708.88	867.88	2209.24	56.73
844.41	820.13	258.18	254.99	798.09	65.36
1424.57	1409.93	268.74	336.61	1392.27	58.16
2215.54	2138.37	572.69	387.01	1971.21	64.51
1681.71	1627.8	459.83	383.81	1582.78	78.21
953.92	938.06	526.29	1443.43	952.35	-9.22
2279.22	2230.14	764.05	600.52	2221.93	239.4
1751.02	1697.65	494.53	460.59	1572.72	80.94
2560.21	2509.71	947.14	929.84	2556.55	97.96
5454.16	5340.36	2267.7	1431.29	5117.49	306.83
1705.52	1672.06	585	376.59	1640.09	119.84
1911.76	1879.79	834.47	519.86	2490.82	36.76
655.82	636.68	206.05	265.67	640.15	52.68
3011.46	2963.62	685.63	625.48	2960.32	199.35
565.45	547.11	202.58	108.2	536.25	24.62];
A = zscore(A);
[coeff, score, latent] = pca(A);
fprintf('变换矩阵\n')
disp(coeff);
latent_sum = sum(latent);
latent = cumsum(latent/latent_sum);
fprintf('累积贡献率\n')
disp(latent');
[range_score,I] = sort(score,'descend');
rangeIndex = size(score,2);  %最后一行插入排名
for i = 1:size(I,1)
    score(I(i,1),rangeIndex) = i;
end
fprintf('城市得分与排名\n');
disp(score)

在这里插入图片描述
所以我们选取 $Y_1、Y_2$ 就可以描述 98.17% 的数据，根据第一个主成分得分进行排名。其中：
$Y_1=0.4218X_1+0.4219X_2+0.4196X_3+0.3677X_4+0.4206X_5+0.3950X_6$
$Y_2=-0.1285X_1-0.1279X_2+0.0848X_3+0.8357X_4-0.0842X_5-0.5045X_6$

应用——分类

现在有一些货币的数据，前100组是真钱，后100组是假钱。
在这里插入图片描述

%已导入数据X
X = zscore(X);
[coeff,score,latent] = pca(X);
latents = sum(latent);
latent = cumsum(latent/latents);
fprintf('贡献率');
disp(latent');
plot(score(1:100,1),score(1:100,2),'r*',...
    score(101:200,1),score(101:200,2),'bo');
xlabel('第一主成分'); ylabel('第二主成分');
legend('真币','假币');

在这里插入图片描述

如图，已经基本可以确定假币和真币，但是由于前两个贡献值不够，所以图像还有些许问题。

根据协方差矩阵计算特征值

先计算数据的协方差矩阵，将矩阵用 eig 函数分解，即 [v,d] = eig(cov(X))；
主成分贡献率为 q = sum(d)/sum(sum(d))
主成分得分为 X $*$ v；加权主成分得分为 X $.*$ (ones(size(X,1),1) $*$ q) $*$ v

[M,N] = size(X);
[v,d] = eig(cov(X));
q = sum(d)/sum(sum(d));
w = q/sum(q);
F = X.*(ones(M,1)*w)*v;
plot(F(1:100,6),F(1:100,5),'or',F(101:200,6),F(101:200,5),'+')

在这里插入图片描述
如图所示，区分更加明显

MATLAB 主成分分析