【概率论】切比雪夫不等式证明

最近在学习随机数学(概率论),在随机变量及其分布这一章节中提到了一个切比雪夫不等式,对于其具体意义暂还不太理解,但是证明在结合了网上的一些资料了解了一下,这里给出其证明方法。

定义

首先给出我们这里会用到的几个定义:

方差的定义

E ( X E ( X ) ) 2 E(X-E(X))^2 存在,则称 E ( X E ( X ) ) 2 E(X-E(X))^2 X X 的方差,记为 V a r ( X ) Var(X) 或者 D ( X ) D(X)
V a r ( X ) = E ( X E ( X ) ) 2 = { i ( x i E ( X ) ) 2 P ( x i ) + ( x E ( X ) ) 2 P ( x ) d x \begin{array}{cc} Var(X)=E(X-E(X))^2= \begin{cases} \sum\limits_i(x_i-E(X))^2P(x_i)& 离散情况下 \\ \int_{-\infty} ^{+\infty}(x-E(X))^2P(x)dx & 连续情况下 \end{cases} \end{array}
因为不同的书中表述方式不同,现在解释一下里面各个函数的意义, E ( X ) E(X) 即期望, P ( X ) P(X) 即为概率/密度函数, V a r ( X ) Var(X) 为方差(也可写作 D ( X ) D(X)

一个常用的不等式

x a b |x-a| \geq b 可以推导出 ( x a ) 2 b 2 (x-a)^2 \geq b^2

切比雪夫不等式

下面给出切比雪夫不等式的定义:
P ( X E ( X ) ϵ ) V a r ( X ) ϵ 2 P ( X E ( X ) < ϵ ) 1 V a r ( X ) ϵ 2 \begin{array}{cc} P(|X-E(X)| \geq \epsilon)&\leq& \frac{Var(X)}{\epsilon^2}&大偏差\\ P(|X-E(X)| < \epsilon)&\geq& 1-\frac{Var(X)}{\epsilon^2}&小偏差 \end{array}

证明

那么现在我们开始证明切比雪夫不等式中的大偏差。
这里为了方程简单一点,我们设 E ( X ) = e E(X)=e
首先由方差的定义(连续情况下)可以知道
V a r ( X ) = + ( X e ) 2 P ( X ) d X Var(X)=\int_{-\infty}^{+\infty}(X-e)^2P(X)dX
那么我们以 e ϵ e-\epsilon e + ϵ e+\epsilon 为分界线(由 X E ( X ) < ϵ |X-E(X)| < \epsilon 得),将积分裂开,然后我们用到前面的不等式那里讲的 x a b |x-a| \geq b 可以推导出 ( x a ) 2 b 2 (x-a)^2 \geq b^2 ,化为以下结果:
V a r ( X ) = + ( X e ) 2 P ( X ) d X e ϵ ϵ 2 P ( X ) d X + e + ϵ + ϵ 2 P ( X ) d X \begin{aligned} Var(X)&=\int_{-\infty}^{+\infty}(X-e)^2P(X)dX\\ &\geq\int_{-\infty}^{e-\epsilon}\epsilon^2P(X)dX+\int_{e+\epsilon}^{+\infty}\epsilon^2P(X)dX \end{aligned}
当且仅当 ϵ = 0 \epsilon = 0 的时候等于号成立。
这一步因为 ϵ \epsilon 是一个常数,所以在积分中可以把 ϵ 2 \epsilon^2 提出来,那么可以化成下面的式子。
V a r ( X ) = + ( X e ) 2 P ( X ) d X e ϵ ϵ 2 P ( X ) d X + e + ϵ + ϵ 2 P ( X ) d X = ϵ 2 ( e ϵ P ( X ) d X + e + ϵ + P ( X ) d X ) \begin{aligned} Var(X)&=\int_{-\infty}^{+\infty}(X-e)^2P(X)dX\\ &\geq\int_{-\infty}^{e-\epsilon}\epsilon^2P(X)dX+\int_{e+\epsilon}^{+\infty}\epsilon^2P(X)dX\\ &=\epsilon^2(\int_{-\infty}^{e-\epsilon}P(X)dX+\int_{e+\epsilon}^{+\infty}P(X)dX) \end{aligned}
这一步之后,可以推导出下面的式子:
V a r ( X ) = + ( X e ) 2 P ( X ) d X e ϵ ϵ 2 P ( X ) d X + e + ϵ + ϵ 2 P ( X ) d X = ϵ 2 ( e ϵ P ( X ) d X + e + ϵ + P ( X ) d X ) = ϵ 2 P ( x e ϵ x e + ϵ ) = ϵ 2 P ( x e < ϵ ) \begin{aligned} Var(X)&=\int_{-\infty}^{+\infty}(X-e)^2P(X)dX\\ &\geq\int_{-\infty}^{e-\epsilon}\epsilon^2P(X)dX+\int_{e+\epsilon}^{+\infty}\epsilon^2P(X)dX\\ &=\epsilon^2(\int_{-\infty}^{e-\epsilon}P(X)dX+\int_{e+\epsilon}^{+\infty}P(X)dX)\\ &=\epsilon^2P(x\leq e-\epsilon|x \geq e+\epsilon)\\ &=\epsilon^2P(|x-e|<\epsilon) \end{aligned}
小偏差和大偏差互为对立事件可证。

理解仍有不到位,如果有错误,请指正。

发布了6 篇原创文章 · 获赞 7 · 访问量 262

猜你喜欢

转载自blog.csdn.net/qq_19577209/article/details/105240604