机器学习模型| 逻辑回归算法

逻辑斯蒂回归

  线性回归的问题 —— 怎样判断肿瘤是否恶性?

         

     线性回归健壮性不够,一旦有噪声,立刻“投降”

   

逻辑斯蒂回归 —— 分类问题

     

Sigmoid函数(压缩函数) 0-1之间阶跃函数的平滑   --  解决阶跃函数非线性度不够的问题

   redu线性整流函数,比阶跃好点

       

         

我们将线性回归拟合出来的值用压缩函数进行压缩,压缩完成后用 0.5 做一个概率的判定边界,就能把样本分成两类,即正样本和负样本;

          

     

sigmoid函数中(神经网络中用的多),e-z 中 z 的正负决定了 g(z) 的值最后是大于 0.5 还是小于 0.5;即 z 大于 0 时,g(z) 大于 0.5,z 小于 0 时,g(z)小于 0.5
当 z 对应的表达式为分类边界时,恰好有分类边界两侧对应 z 正负不同,也就使得分类边界两边分别对应 g(z)>0.5 和 g(z)<0.5,因此根据 g(z) 与 0.5 的大小关系,就可以实现分类

逻辑斯谛回归损失函数

平方损失函数的问题

           

             

   

    

      h(oX)为预测值,y是真实值;

             

 梯度下降法求解

机器学习or监督学习的目的就是这个梯度下降函数(损失函数 和正则画像

猜你喜欢

转载自www.cnblogs.com/shengyang17/p/11442355.html