【概率论】伯努利分布 Bernoulli Distribution

Bernoulli distribution 是最简单的单个二值随机变量的分布. 它由单个参数 $\phi \in [0,1]$ 控制, 其中参数 $\phi$ 给出了随机变量等于 $1$ 的概率.

举个栗子

饮料拧开瓶盖只有两种状态, $\text{谢谢惠顾} = 0 , \text{再来一瓶} = 1$, 其中中奖(再来一瓶)率就是$\phi$. 这就是生活中常见的二项分布.

一些性质

已知,

$$P(\mathbb x = 1) = \phi \\ P(\mathbb x=0) = 1 - \phi,$$
则有, $$\mathbb E(x) = 1 \times \phi + 0 \times (1-\phi) = \phi \\ \text{Var}(x) = (1-\phi)\phi + (0-\phi)(1-\phi) = \phi (1-\phi)$$ , 特殊地, 我不是再来一整瓶, 我再来 $x \in [0,1]$ 瓶的概率是, $$P(\mathbb x = x) = \phi ^x (1-\phi)^{1-x}$$

在 ML 中

在 ML 中, 二项分布通常用于 classification 中的二分类问题.