机器学习图谱

版权声明：欢迎大家转载，指正。 https://blog.csdn.net/yin__ren/article/details/82430725

一. 机器学习基本概念和分类

1. 基本概念

   • 假设空间
   • 训练 / 测试数据
   • 标注
   • 损失函数

2. 按数据分类

   • 分类
   • 回归
   • 序列标注

3. 按监督分类

   • 监督学习
   • 非监督学习
   • 强化学习

4. 按模型分类

   • 生成式模型
   • 辨别式模型

---

二. 经典机器学习模型

1. 监督学习模型
   
   1. 经典算法
      
      • 支持向量机
      • 逻辑回归
      • 决策树
   2. 概率图模型
      
      • 朴素贝叶斯
      • 最大熵模型
      • 隐马尔可夫模型
      • 条件随机场
2. 非监督学习
   
   • 层次聚类
   • K 均值聚类
   • 高斯混合模型
   • 主题模型
3. 集成学习
   
   • Bagging
   • Boosting
   • 随机森林
   • GBDT
4. 降维算法
5. 采样
6. 强化学习

---

三. 深度学习模型

1. 前向神经网络
   
   • 多层感知机
   • 卷积神经网络
   • 深度残差网络
   • 自组织映射神经网络
   • 受限波尔兹曼机
2. 循环神经网络
   
   • 循环神经网络
   • 长短期记忆模型
   • 注意力机制
   • Seq2Seq
3. 深度学习优化技巧
   
   • 批量归一化
   • Dropout
   • 激活函数
     
     • sigmoid
     • Softmax
     • Tanh
     • ReLU
4. 强化学习
5. 生成式对抗网络

---

四. 特征工程

1. 特征离散化与归一化
2. 特征组合
3. 特征选择
4. 词嵌入表示

---

五. 模型评估

1. 评价指标
2. A / B 测试
3. 过拟合与欠拟合
4. 超参数选择

---

六. 优化算法

1. 损失函数
2. 正则化
3. EM 算法
4. 梯度下降
5. 随机梯度下降
6. 反向传播
7. 梯度验证
8. Momentum
9. AdaGrad
10. Adam

---

七. 数学基础

1. 概率论
   
   • 常用概率分布
   • 大树定理和中心极限定理
   • 假设检验
   • 贝叶斯理论
2. 线性代数
3. 微积分
4. 凸优化
5. 信息论

---

八. 工程能力

1. 数据结构与算法
   
   • 数
   • 图
   • 哈希表
   • 矩阵运算与优化
2. 大数据处理
   
   • MapReduce
   • Spark
   • HiveQL
   • Storm
3. 机器学习平台
   
   • tensorFlow
   • Torch
   • Theano
4. 并行计算
5. 数据库和数据仓库
6. 系统服务架构

---

九. 业务与应用

1. 计算机视觉
2. 自然语言处理
3. 推荐系统
4. 计算广告
5. 智能游戏