《机器学习实战》学习笔记第十三章 —— 利用PCA来简化数据

相关博文：

吴恩达机器学习笔记（八） —— 降维与主成分分析法(PCA)

主成分分析（PCA）的推导与解释

主要内容：

一.向量內积的几何意义

二.基的变换

三.协方差矩阵

四.PCA求解

五.代码解释

一.向量內积的几何意义

1.假设A、B为二维平面xoy内两个向量，A为(x1, y1)，B为(x2, y2)，那么A、B的內积为：AB = |A||B|cosΘ = x1*x2 + y1*y2，结果为一个标量。

2.那么A、B內积的几何意义又是什么呢？单从“|A||B|cosΘ”或者“x1*x2 + y1*y2”这两式子或许还不能发现其中的意义，那么可以在坐标轴上画出这两个向量：

可以看出，|A|cosΘ实际上就是向量A在向量B方向上的投影。假如B为单位向量，即|B| = 1，那么A、B的內积就是A向量在B向量上的投影。

综上：假设B向量为单位向量，那么A、B的內积为：A向量在B向量上的投影，且AB = |A||B|cosΘ = x1*x2 + y1*y2。

二.基的变换

三.协方差矩阵

四.PCA求解

五.代码解释