机器学习|统计量和抽样分布|5mins入门|概统学习笔记（十九）

统计量和抽样分布

• 统计量：不含任何未知参数的样本的函数，是完全由样本决定的量

• 常见统计量：

  1. 样本均值 $\overline X=\frac{1}{n}\sum_{i=1}^nX_i$

     反映了总体均值的信息

     对于正态总体X而言， $E(\overline X)=E(\frac{1}{n}\sum_{i=1}^nX_i)=\frac{1}{n}E(\sum_{i=1}^nX_i)=\frac{1}{n}(\sum_{i=1}^nEX_i)=\frac{1}{n}\times n\times \mu=\mu$

     $D(\overline X)=D(\frac{1}{n}\sum_{i=1}^nX_i)=\frac{1}{n^2}(\sum_{i=1}^nDX_i)=\frac{1}{n^2}\times n\times \sigma^2=\frac{\sigma^2}{n}$

     $X_1,X_2,...,X_n$独立同分布

  2. 样本方差 $S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\overline X)^2=\frac{1}{n-1}(\sum_{i=1}^nX_i^2-n\overline X^2)$

     反映了总体方差的信息

     对于正态总体X而言， $E(S^2)=\sigma^2$

  3. 样本k阶原点矩 $A_k=\frac{1}{n}\sum_{i=1}^nX_i^k\quad k=1,2,...$

     反映了总体k阶矩的信息

  4. 样本k阶中心矩 $B_k=\frac{1}{n}\sum_{i=1}^n(X_i-\overline X)^k, \quad k=1,2,...$

     反映了总体k阶中心矩的信息

• 抽样分布

  • 背景：统计量是依赖于样本的，而后者又是随机变量，故统计量也是随机变量，因而就有一定的分布，这个分布叫做统计量的”抽样分布“。
  • 实质：就是通常的随机变量函数的分布，只是强调这一分布是由一个统计量所产生的。因此研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质。
  • 按样本数量大小分类：精确抽样分布（小样本问题中使用）、渐近分布（大样本问题中使用）