机器学习之线性回归模型相关算法推导

把学习过程中的一些算法推导贴出来:
线性回归:
1. 一般的线性回归
2. 防止过拟合与使得参数尽量平稳
L1正规:岭回归,Ridge
L2正则:lasso
L1+L2正规:Elastic Net
3.解决二分类问题,线性回归之logistic回归,与上述回归的区别,上述回归给出了模型,给出了目标函数,也可以用直接求解与梯度下降算出对应的参数。但是logistic加入了sigmoid,将线性转化成非线性,也便于梯度下降算法的使用
4.softmax解决多分类问题

这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述

猜你喜欢

转载自blog.csdn.net/dingming001/article/details/80303075