线性代数知识点：
1.向量
2.矩阵
3.集合
4.标量
5.张量
6.范数
7.内积
8.向量正交
概率论知识点
1. 条件概率
2. 联合概率
3. 全概率公式
4. 逆概率
5. 贝叶斯公式
6. 贝叶斯定理
7. 先验概率
8. 后验概率
9. 似然概率
10. 最大似然估计法
11.最大后验概率
12. 离散型随机变量
13. 连续型随机变量
14. 概率质量函数
15. 概率密度函数
16. 两点分布
17. 二项分布
18. 泊松分布
19. 均匀分布
20. 指数分布
21. 正态分布
22. 数字特征
23. 数学期望
24. 方差
25. 协方差
数理统计知识点
1. 样本
2. 总体
3. 统计量
4. 参数估计
5. 假设检验
6. 置信区间
7. 区间估计
8. 泛化能力
9. 泛化误差
10. 欠拟合
11. 过拟合
12. 噪声
13. 偏差
最优化知识点
1. 目标函数
2. 全局最小值
3. 局部极小值
4. 无约束优化
5. 约束优化
6. 拉格朗日函数
7. 梯度下降法
8. 梯度方向
9. 一阶导数
10. 二阶导数
11. 牛顿法
12. 泰勒展开
13.线性搜索方法
14. 置信域方法
15. 启发式算法
信息论相关知识点
1. 信息熵
2. 互信息
3. 信息增益
4. KL 散度
5. 最大熵原理
