随机变量的数字特征(知识点部分)

1.数学期望

设离散型随机变量 $X$的分布律为
$P\{X=x_k\}=p_k,k=1,2,\dots.$
若级数
$\sum_{k=1}^{\infty}x_kp_k$
绝对收敛,则称级数 $\sum_{k=1}^{\infty}x_kp_k$的和为随机变量 $X$的数学期望,记为 $E(X).$即
$E(X)=\sum_{k=1}^{\infty}x_kp_k.$
设连续型随机变量 $X$的概率密度为 $f(x),$若积分
$\int_{-\infty}^{\infty}xf(x)dx$
绝对收敛,则称积分 $\int_{-\infty}^{\infty}xf(x)dx$的值为随机变量 $X$的数学期望,记为 $E(X).$即
$E(X)=\int_{-\infty}^{\infty}xf(x)dx$
数学期望简称期望,又称为均值.

2.定理

设 $Y$是随机变量 $X$的函数 $:Y=g(X)(g是连续函数).$
(i)如果 $X$是离散型随机变量,它的分布律为 $P\{X=x_k\}=p_k,k=1,2,\dots$
若 $\sum_{k=1}^{\infty}g(x_k)p_k$
绝对收敛,则有
$E(Y)=E[g(X)]=\sum_{k=1}^{\infty}g(x_k)p_k.$
(ii)如果 $X$是连续型随机变量,它的概率密度为 $f(x),$若
$\int_{-\infty}^{\infty}g(x)f(x)dx$
绝对收敛,则有
$E(Y)=E[g(X)]=\int_{-\infty}^{\infty}g(x)f(x)dx.$

3.方差

设 $X$是一个随机变量,若 $E\{[X-E(X)]^2\}$存在,则称 $E\{[X-E(X)]^2\}$为 $X$的方差,记为 $D(x)$或 $Var(X),$即
$D(x)=Var(X)=E\{[X-E(X)]^2\}.$
在应用上还引入量 $\sqrt{D(X)},$记为 $\sigma(X),$成为标准差或均方差.
对于离散型随机变量,有
$D(X)=\sum_{k=1}^{\infty}[x_k-E(X)]^2p_k$
其中 $P\{X=x_k\}=p_k,k=1,2,\dots$是 $X$的分布律.
对于连续型随机变量,有
$D(X)=\int_{-\infty}^{\infty}[x-E(X)]^2f(x)dx$
其中 $f(x)$是 $X$的概率密度.

4.方差的重要性质

(1)设 $C$是常数,则 $D(C)=0.$
(2) $D(CX)=C^2D(X),D(X+C)=D(X).$
(3) $D(X+Y)=D(X)+D(Y)+2E\{(X-E(X))(Y-E(Y))\}.$
(4) $D(X)=0$的充要条件是 $P\{X=E(X)\}=1.$

5.几个常见分布的数学期望和方差

(1)若 $X\sim \pi(\lambda),$则
$E(X)=\lambda\\ D(X)=\lambda$
(2)若 $X\sim U(a,b),$则
$E(X)=\frac{a+b}{2}\\ D(X)=\frac{(b-a)^2}{12}$
(3)若 $X$具有 $(0-1)$分布,其分布律为
$P\{X=1\}=p,P\{X=0\}=1-p$则
$E(X)=p\\ D(X)=p(1-p)$
(4)若随机变量 $X$服从指数分布,其概率密度为
$f(x)=\left\{\begin{aligned} &\frac{1}{\theta}e^{-\frac{x}{\theta}},x>0,\\ &0,x\leq 0.\end{aligned}\right.$
其中 $\theta>0,$则
$E(X)=\theta\\ D(X)=\theta^2$
(5)若 $X\sim b(n,p),$则
$E(X)=np\\ D(X)=np(1-p)$
(6)若 $X\sim N(\mu,\sigma^2),$则
$E(X)=\mu\\ D(X)=\sigma^2$

6.切比雪夫不等式

设随机变量 $X$具有数学期望 $E(X)=\mu,$方差 $D(X)=\sigma^2,$则对于任意正数 $\varepsilon,$不等式
$P\{|X-\mu|\ge \varepsilon\}\leq \frac{\sigma^2}{\varepsilon^2}$
成立.切比雪夫不等式也可以写成
$P\{|X-\mu|<\varepsilon\}\ge 1-\frac{\sigma^2}{\varepsilon^2}$

7.协方差及相关系数

量 $E\{[X-E(X)][Y-E(Y)]$称为随机变量 $X$和 $Y$的协方差,记为 $Cov(X,Y),$即
$Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]$
而
$\rho_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}$
称为随机变量 $X$和 $Y$的相关系数.

8.结论

二维正态随机变量 $(X,Y)$的概率密度中的参数 $\rho$就是 $X$和 $Y$的相关系数, $X$和 $Y$相互独立的充要条件是
$\rho=0$

9.矩和协方差矩阵

设 $X$和 $Y$是随机变量,若
$E(X^k),k=1,2,\dots$
存在,则称它为 $X$的 $k$阶原点矩,简称 $k$阶矩.
若
$E\{[X-E(X)]^k\},k=1,2,\dots$
存在,则称它为 $X$的 $k$阶中心矩.
若
$E(X^kY^l),k,l=1,2\dots$
存在,则称它为 $X和Y$的 $k+l$阶混合矩.
若 $E\{[X-E(X)]^k[Y-E(Y)]^l\}$
存在,则称它为 $X和Y$的 $k+l$阶混合中心矩.
设 $n$阶随机变量 $(X_1,X_2,\dots,X_n)$的二阶混合中心矩
$c_{ij}=Cov(X_i,X_j)=E\{[X_i-E(X_i)][X_j-E(X_j)]\},i,j=1,2,\dots,n$
都存在,则称矩阵
$C=\left(\begin{array}{c} c_{11}&c_{12}&\dots&c_{1n}\\ c_{21}&c_{22}&\dots&c_{2n}\\ \vdots&\vdots& &\vdots\\ c_{n1}&c_{n2}&\dots&c_{nn}\\ \end{array}\right)$
为 $n$维随机变量 $(X_1,X_2,\dots,X_n)$的协方差矩阵.
引入列矩阵
$X=\left(\begin{array}{c} x_1\\ x_2\\ \vdots\\ x_n\\ \end{array}\right)和\mu=\left(\begin{array}{c} \mu_1\\ \mu_2\\ \vdots\\ \mu_n\\ \end{array}\right)=\left(\begin{array}{c} E(X_1)\\ E(X_2)\\ \vdots\\ E(X_n)\\ \end{array}\right).$
$n$维正态随机变量 $(X_1,X_2,\dots,X_n)$的概率密度为
$f(x_1,x_2,\dots,x_n)=\frac{1}{(2\pi)^{\frac{n}{2}}(detC)^{\frac{1}{2}}}exp\{-\frac{1}{2}(X-\mu)^TC^{-1}(X-\mu)\}$
其中 $C$是 $(X_1,X_2,\dots,X_n)$的协方差矩阵.