6-1 逻辑回归 二分类逻辑回归模型

二分类逻辑回归模型 binomail model

模型

$\begin{aligned} P(Y=1|x) = \frac{\exp (w \cdot x + b)}{1 + \exp(w \cdot x + b)} \\ P(Y=0|x) = \frac{1}{1 + \exp(w \cdot x + b)} \end{aligned}$
$x \in R^n$是输入，分别计算 $P(Y=1|x)$和 $P(Y=0|x)$，比较两个条件概率值的大小，将x分到概率较大的那一类。

模型参数评估

使用极大似然法估计模型参数，从而得到逻辑回归模型
假设w的极大似然估计值是 $\hat w$，那么学到的逻辑回归模型是：
$\begin{aligned} P(Y=1|x) = \frac{\exp (\hat w \cdot x)}{1 + \exp(\hat w \cdot x)} \\ P(Y=0|x) = \frac{1}{1 + \exp(\hat w \cdot x)} \end{aligned}$