写在前面：一定要分清楚损失函数与误差函数！
损失函数：是指训练时候预测值与真实值的误差函数，我们应用凸优化,SGD等来使它减小，得到一些模型参数！
误差函数：是指模型训练完后，用测试集数据喂进去模型得到的预测值与真实值的误差，是我们的评价手段。
由于误差函数一般很好理解，例如sklearn的metrics就有很多常用误差函数，我们就没必要研究了。下面来看看那些损失函数loss function。
建议看本文之前先看一下这个：https://baijiahao.baidu.com/s?id=1611678624768980723&wfr=spider&for=pc
1.回归损失函数：
来自：https://blog.csdn.net/qq547276542/article/details/77980042
来自：梯度提升树(GBDT)原理小结
注：关于上面例如huber损失函数解决的减少异常点的影响说明：
例如平方误差函数，就受到噪声影响很大，因为：
例如10个真实值为1 的点。预测结果为9个0.99与1个1000。那么误差肯定主要来自于那个异常点，同时这也是不公平的。所以有了huber的说法。
2.分类损失函数：
from: https://blog.csdn.net/qq547276542/article/details/77980042
