【统计学笔记】第十章 方差分析

方差分析表和回归分析表的解读
各种统计量检验的决策准则
各种假设检验的假设的建立

第十章 方差分析

10.1 方差分析引论

10.1.1 方差分析及其有关术语

• 1）方差分析：
  • 通过各总体的均值是否相等来判断分类型自变量对数值型因变量是否有显著影响
  • 在例子中：检验饮料的颜色对销售量是否有显著影响，也就是检验四种颜色饮料的平均销售量是否相同
• 2）因素或因子（$factor$）：
  • 所要检验的对象称为因子
  • 在例子中：要分析饮料的颜色对销售量是否有影响，颜色是要检验的因素或因子
• 3）水平（$treatment$）：
  • 因素的具体表现称为水平
  • 在例子中：橘黄、粉色、绿色和透明色四种颜色就是因素的水平
• 4）观察值：
  • 在每个因素水平下得到的样本值
  • 在例子中：每种颜色饮料的销售量就是观察值
• 5）试验
  • 这里只涉及一个因素，因此称为单因素四水平的试验
• 6）总体
  • 因素的每一个水平可以看作是一个总体
  • 比如橘黄、粉色、绿色和透明色四种颜色可以看作是四个总体
• 7）样本数据
  • 上面的数据可以看作是从这四个总体中抽取的样本数据

10.1.2 方差分析的基本思想和原理

1. 两类误差

• 组内误差：来自水平内部的数据误差
  • 比如，同一种颜色的饮料在不同超市上的销售量的差异。
• 组间误差：来自不同水平之间的数据误差
  • 比如，同一家超市，不同颜色饮料的销售量的差异
  • 可能是由于抽样的随机性所造成的，也可能是由于颜色本身所造成的，后者所形成的误差是由系统性因素造成的，称为系统误差

2. 两类方差

• 组内方差（误差平方和、残差平方和、SSE）：因素的同一水平(同一个总体)下样本数据的方差
  • 比如，无色饮料A1在5家超市销售数量的方差
  • 组内方差只包含随机误差
• 组间方差（因素平方和、SSA）：因素的不同水平(不同总体)下各样本之间的方差
  • 比如，四种颜色饮料销售量之间的方差
  • 组间方差既包括随机误差，也包括系统误差

• 如果颜色(水平)对销售量(结果)没有影响，那么在SSA中只包含有随机误差，而没有系统误差。这时，SSA与SSE就应该很接近，两个方差的比值就会接近1
• 如果不同的水平对结果有影响，在SSA中除了包含随机误差外，还会包含有系统误差，这时SSA就会大于SSE，SSA与SSE的比值就会大于1
• 当这个比值大到某种程度时，就可以说不同水平之间存在着显著差异

10.1.3 方差分析的基本假定

• 1）每个总体都应服从正态分布
  • 对于因素的每一个水平，其观察值是来自服从正态分布总体的简单随机样本。
  • 比如，每种颜色饮料的销售量必需服从正态分布
• 2）各个总体的方差${\sigma }^2$必须相同
  • 对于各组观察数据，是从具有相同方差的总体中抽取的
  • 比如，四种颜色饮料的销售量的方差都相同
• 3）观察值是独立的
  • 比如，每个超市的销售量都与其他超市的销售量独立

10.2 单因素方差分析

10.2.1 数据结构

10.2.2 分析步骤

• 1）提出假设
  

• 2）构造检验的统计量

  1. 计算各样本的均值
     $${\overline{x}}_i=\frac{{\sum }_{j=1}^{n_i}{x}_{ij}}{n_i}(i=1,2,...,k)$$

  2. 计算全部观测值的总均值
     
     

  3. 计算各误差平方和

     1. 总平方和（$SST：sumofsquaresfortotal$）：全部的观测值$x_{ij}$与总均值$\bar{x}$的误差平方和
        
     2. 组间平方和（$SSA：sumofsquaresforfactorA$）：各组均值$x_i(i=1\sim k)$和总均值 $\overline{\overline{x}}$的误差平方和
        
        
     3. 组内平方和（$SSE：sumofsquaresforerror$）：每个水平或组的各样本数据与其组均值的2误差平方和
        
        
     4. 三个平方和的关系
        
     5. 三个平方和的作用
        1. $SST$反映了全部数据总的误差程度；$SSE$反映了随机误差的大小；$SSA$反映了随机误差和系统误差的大小
        2. 如果原假设成立，即μ1=μ2=…=μk为真，则表明没有系统误差，组间平方和SSA除以自由度后的均方与组内平方和SSE和除以自由度后的均方差异就不会太大；如果组间均方显著地大于组内均方，说明各水平(总体)之间的差异不仅有随机误差，还有系统误差
        3. 判断因素的水平是否对其观察值有影响，实际上就是比较组间方差与组内方差之间差异的大小
        4. 为检验这种差异，需要构造一个用于检验的统计量

  4. 计算统计量
     
     $$组间均值MSA=\frac{SSA}{k-1}$$
     $$组内均方MSE=\frac{SSE}{n-k}$$
     $$F=\frac{MSA}{MSE}\sim F(k-1,n-k)$$

• 3）做出统计决策

  • 选定显著性水平$\alpha$
  • 在F分布表中寻找$F_{\alpha }(k-1,n-k)$
  • 比较$F$和$F_{\alpha }$
    • $F>F_{\alpha }$：拒绝原假设$H_0$，表明均值之间有显著性差异，所检验的因素对观测值有显著影响
    • $F<F_{\alpha }$：不拒绝原假设$H_0$，没有证据表明均值之间有显著性差异，不能认为所检验的因素对观测值有显著影响
      

• 4）方差分析表
  

10.2.3 关系强度的测量

• 相关系数（$R$）：用来来测量变量之间的关系强度
  $$R=\sqrt{\frac{SSA}{SST}}$$

10.2.4 方差分析中的多重比较

感觉不重要，就不写了

10.3 双因素方差分析

10.3.1 双因素方差分析及其类型

有两个影响因素：

• 如果两个因素对结果的影响是相互独立的，那么就叫做无交互作用
• 如果两个因素的搭配还会对结果造成新的影响，那么就叫做有交互作用

10.3.2 无交互作用的双因素方差分析

• 数据结构

• 分析步骤

  • 1）提出假设
    
  • 2）构造统计量
    
    
    
    
    
    
  • 3）做出统计决策
    
  • 4）方差分析表
    

• 关系强度的测量
  

10.3.3 有交互作用的双因素方差分析

• 分析步骤
  • 1）提出假设
  • 2）构造统计量
    
    
  • 3）做出统计决策
  • 4）方差分析表