[李宏毅-机器学习]逻辑回归Logistic Regression

逻辑回归相对于线性回归,是在y=ax+b上用sigmoid做输出的限制

逻辑回归用于分类,线性回归用于拟合数据

使用梯度下降获得最终结果

为什么逻辑回归不能用均方误差?

判别式模式 和 生成式模型

判别式模型知道找到类别的判别式中的参数,即直接找到P(C|x)分布

而生成式模型需要先对P(x|C)进行假设建模(如高斯模型),然后找到该模型的参数,得到P(x|C)后,再间接计算P(C|x)

朴素贝叶斯

下图中,最后一行是P(x1=1|c2)

注意 其中z的得到,是通过不同的w和b,其中w,x,b都是向量

逻辑回归无法解决上图中的分类问题,因为逻辑回归是线性boundary,上图的情况无法用一个boundary

使用特征转换,将原来的特征转换到另外一个空间,可以得到线性boundary的空间

但是这种转换人为很难找到,因此想要让机器自己找到一个tranfromer

就将多个逻辑回归叠加到一起,让前边的逻辑回归自己找到一个tranformer,最后一个再用分类

每一个逻辑回归单元,就是一个神经元,这就是神经网络

发布了164 篇原创文章 · 获赞 36 · 访问量 5万+

猜你喜欢

转载自blog.csdn.net/py184473894/article/details/104288296
今日推荐