机器学习需要掌握的数学知识点---详细整理

机器学习、深度学习是目前大火的研究方向，那么如何入手机器学习？网上给出了大量的实践资料。这些资料主要针对应用的较多，而机器学习的原理是数学模型，这是困扰很多机器学习爱好者的一大难点。那么学习机器学习需要掌握哪些数学知识呢，作者最近通过结合各种资料，自己整理了一个目录，涉及到线性代数、概率论和高等数学三个方向。

这不是市面上的书，这是作者自己整理的资料，关于内容，会在后续整理后，持续更新，如有错误，请大神指正！感谢！感谢！

第一篇 线性代数篇

第一章 排队！排队！什么是向量

1.1 向量到底学什么
1.1.1 什么是向量
1.1.2 向量可以做什么
1.1.3 向量在机器学习中的表示

1.2 向量的加法、减法和数乘
1.2.1 向量加法
1.2.2 向量减法
1.2.3 向量数乘
1.2.4 相关代码

1.3 行列式
1.3.1 什么是行列式
1.3.2 全排列和对换
1.3.3 n阶行列式的定义
1.3.4 行列式的性质
1.3.5 代数余子式展开行列式

1.4 向量的内积
1.4.1‘变态’的内积
1.4.2 内积的代数意义
1.4.3 内积的几何意义
1.4.4 内积的应用

1.5 向量的叉积
1.5.1 什么是向量的叉积
1.5.2 叉积的意义
1.5.3 叉积的应用
1.5.4 相关代码

1.6 向量组的线性相关性
1.6.1 向量组及其线性组合
1.6.2 向量组的线性相关性
1.6.3 向量组的秩
1.6.4 线性方程组的解的结构
1.6.5 向量空间

第二章 矩阵

2.1 什么是矩阵

2.2 矩阵在图像识别中的作用

2.3 矩阵的运算
2.3.1 矩阵的加法
2.3.2 矩阵的数乘
2.3.3 矩阵乘矩阵
2.3.4 矩阵的转置
2.3.5 方阵行列式

2.4 特殊矩阵
2.4.1 单位矩阵
2.4.2 对称矩阵
2.4.3 逆矩阵
2.4.4 奇异矩阵
2.4.5 相似矩阵
2.4.6 Hermitian矩阵
2.4.7 对角矩阵
2.4.8 Jacobian矩阵
2.4.9 相关应用

2.5 矩阵的变换与线性方程组
2.5.1 矩阵的初等变换
2.5.2 矩阵的秩
2.5.3 线性方程组的解
2.5.4 仿真的特征值与特征向量
2.5.5 正定二次型

2.6 矩阵的分解
2.6.1 三角分解
2.6.2 谱分解
2.6.3 奇异值分解
2.6.4 满秩分解
2.6.5 LU分解

2.7 应用
2.7.1 图像处理
2.7.2 线性变换及对称

第三章 距离

3.1 距离的度量方式
3.1.1 欧式距离
3.1.2 马氏距离
3.1.3 曼哈顿距离
3.1.4 切比雪夫距离
3.1.5 夹角余弦

3.2 距离的相关应用
3.2.1 一维空间距离
3.2.2 导航距离
3.2.3 数据预处理
3.2.4 度量距离

第二篇 概率偏

由暗恋引发的思考

4.1 由暗恋引发的数学思考

4.2 神奇的概率

4.3 基本概念
4.3.1 随机试验
4.3.2 样本空间与随机事件
4.3.3 频率与概率的区别
4.3.4 古典概率问题

4.4 随机变量及分布
4.4.1 什么是随机变量
4.4.2 离散型随机变量及其分布规律
4.4.3 随机变量的分布函数
4.4.4 连续型随机变量及其概率密度

4.5 多维随机变量及其分布
4.5.1 二维随机变量
4.5.2 研究二维随机变量的意义
4.5.3 边缘分布
4.5.4 条件分布
4.5.5 独立事件
4.5.6 生活中的独立事件
4.5.7 两个随机变量的函数分布

4.6 互斥事件
4.6.1 抛硬币实验
4.6.2 生活中的互斥事件
4.6.3 互斥事件数学公式

机器学习中的概率研究

5.1 随机变量的数字特征
5.1.1 数学期望
5.1.2 方差
5.1.3 协方差及相关系数

5.2 当我说线性回归，我在说什么
5.2.1 什么是线性回归
5.2.2 最小二乘法
5.2.3 最大似然估计
5.2.4 大数定律
5.2.5 中心极限定理

5.3 降低预测误差的达摩克里斯之剑
5.3.1 什么是正则化
5.3.2 机器学习为什么要正则化
5.3.3 如何正则化
5.3.4 什么是L1正则化
5.3.5 什么是L2正则化
5.3.6 其他正则化手段

5.4 今天你正态分布了吗
5.4.1 生活中的正态分布现象
5.4.2 正态分布名字的由来
5.4.3 为何机器学习经常用到正态分布
5.4.4 正态分布的计算公式

贝叶斯问题

6.1 什么是贝叶斯
6.1.1 再谈暗恋问题
6.1.2 贝叶斯的由来
6.1.3 贝叶斯的意义

6.2 贝叶斯算法原理

6.3 高斯朴素贝叶斯算法原理

6.4 伯努利朴素贝叶斯算法原理

6.5 多项式朴素贝叶斯算法原理

第三篇 数学篇

函数的基本概念

7.1 谈一谈函数
7.1.1 什么是函数
7.1.2 函数的三个基本要素

7.2 什么是数列
7.2.1 数列名称的由来
7.2.2 数列的数学解释
7.2.3 数列的分类
7.2.4 等差数列
7.2.5 等比数列
7.2.6 等和数列

7.3 函数的基本性质
7.3.1 函数的单调性
7.3.2 函数的有界性
7.3.3 奇函数与偶函数
7.3.4 函数的连续性

7.4 连续函数的运算与初等函数的连续性
7.4.1 连续函数的和、差、积、商的性质
7.4.2 反函数与复合函数的连续性
7.4.3 初等函数的连续性

第八章 导数的基本概念

8.1 导数的基本概念
8.1.1 超速问题
8.1.2 导数的定义
8.1.3 单侧导数
8.1.4 函数可导与连续性的关系

8.2 导数的计算
8.2.1 常用的求导公式
8.2.2 导数的四则运算
8.2.3 导数的链式法则
8.2.4 链式法则与深度学习
8.2.5 隐函数求导
8.2.6 反函数求导
8.2.7 指数函数求导
8.2.8 对数函数求导

8.3 高阶导数

第九章 导数的基本应用

9.1 微分中值定理
9.1.1洛尔定理
9.1.2 拉格朗日中值定理
9.1.3 柯西法则

9.2 洛必达法则

9.3 繁琐的泰勒

第十章 道士下山的问题

10.1 道士下山的数学问题

10.2 梯度
10.2.1 梯度的定义
10.2.2 梯度的基本应用

10.3 方向导数
10.3.1 什么是方向导数
10.3.2 如何计算方向导数

10.4 机器学习中的优化问题
10.4.1 什么是优化
10.4.2 优化的手段
10.4.3 梯度下降的原理
10.4.4 反向传播的方法
10.4.5 学习率问题
10.4.6 批量梯度下降
10.4.7 随机梯度下降

第十一章 极值问题

11.1 极值的意义

11.2 全局最优和局部最优

11.3 临界值和鞍点
11.3.1 什么是临界点
11.3.2 什么是鞍点

11.4 凸函数的定义

11.5 非凸函数的定义

以上只是机器学习需要的数学基础，并非全部，如果想要深入理解数学模型的含义，还需要借鉴更多资料，甚至是手撕公式。
纸上得来终觉浅，得知此事要躬行
上面涉及的内容，作者会持续更新，欢迎关注！