logistic regression 最基础的分类算法

介绍

logistic regression是一种最基本的分类算法。它的模型为 ，其中 。

 

其代价函数 。

对于二分类问题，y的取值为0和1，这里，我们设定 为y=1概率。当其大于等于0.5时，我们预测结果为1，当其小于0.5时，我们预测结果为0。

 

使用梯度下降算法

迭代公式： 其中 。推导过程见下图。

 

 

 

矢量化表达： 。