转自https://blog.csdn.net/soulmeetliang/article/details/77461607 感谢博主的总结，根据个人学习情况我在原博基础上稍有改动。
| Video |
先来看下李宏毅老师给的学习导图
一、Supervised Learning 监督学习
所谓监督学习，就是我们告诉机器说，当这个function看到某种input则输出a，看到另一种input输出b，看到……
监督学习是通过已有的训练样本（即已知数据以及其对应的输出）去训练得到一个最优模型（这个模型属于某个函数的集合，最优则表示在某个评价准则下是最佳的），再利用这个模型将所有的输入映射为相应的输出，对输出进行简单的判断从而实现分类的目的，也就具有了对未知数据进行分类的能力。
监督学习又分为三部分：
- Regression（回归问题）
- Classification（分类问题）
- Structuerd Learning（结构化问题）
1、Supervised Learning-> Regression（监督学习下的回归问题）
Regresion： The output of the target founction f is ‘scalar’.
如果我们在机器学习中要找的function输出是数值，
举个例子： 预测PM2.5进行天气预报。
核心思想就是“连续函数下进行预测”
“给出一堆散点，求出其回归方程。"读取散点，然后拟合出回归直线。在给定一组包含输入&输出训练集的情况下，让机器学习一个函数（这里的函数是预测PM2.5 的函数）。当再次输入一个数据时，机器就会根据学习到的函数计算。这样经过大量已知数据训练过后的机器就是一个好的预测器。
2、Supervised Learning-> Classification（监督学习下的分类问题）
分类问题有两种可能：
1、Binary Classification（二进制分类）输出是或否；
2、Multi-class Classification（多级分类）输出多个类型；
举个例子：
Binary Classification（二进制分类）： Spam filtering（垃圾邮件过滤） 输出只有2种（是或否）——>判断是垃圾邮件，不是垃圾邮件。
Multi-classification（多级分类）： Document Classification（文件分类）输出有多种（A、B、...）——>将文件分为政治、经济、体育等多个大类。
监督学习下的分类问题又分为下面几块：
- Linear Model （线性模型）
- Non-linear Model（非线性模型）
Classification-> Linear Model 与 Non-Linear Model
Linear Model : 能做的事有限，一些简单的模型可以用它来做，但遇到复杂问题就力不从心了。
Non-linear Model : For example，现在的深度学习就是一个Non-linear Model，能完成一些很复杂的工作，比如图像分类等。
- Classification-Image Recognition（分类-图像识别）：输入一个图片，通过一个很复杂的卷积神经网络（CNN）的Function判断是猫是狗还是猴子，每个可能的物种是class。
- Classification-Playing Go：输入棋盘上的局势，判断下一个落子的位置，每一个可能的落子位置就是一个class。
3、Supervised Learning->Structuerd Learning（监督学习下的结构化学习）
在实际运用中，常常会遇到Beyond Classification 的情况，比如语音识别，人脸识别，语言翻译等，是结构化输出。此类问题常Reinforcement Learning 解决。