方差分析（一）（单因素方差分析）

方差分析是根据试验数据来推断一个或多个因素在其状态变化时，是否对试验指标产生显著影响的一种数理统计方法。方差分析按影响试验指标的因素的个数可分为单因素方差分析、双因素方差分析以及多因素方差分析。

在数理统计中，把试验的结果（如产品的性能、产量等）称为试验指标，影响试验指标的条件称为因素或因子，因素所处的不同状态称为水平。通常用大写字母 $A,B,...$ 等表示不同的因素，用带下标的 $A_1,A_2,...$ 等表示因素 $A$ 的不同水平。

单因素方差分析

如果在一项试验中，只让一个因素的水平变动，其余因素的水平保持不变，那么称这种试验为单因素试验。在单因素试验下进行的方差分析称为单因素方差分析。

数学模型

设因素 $A$ 有 $r$ 个不同的水平 $A_1,A_2,...,A_r$，在每个水平 $A_i$ 下，进行 $n_i$ 次独立重复试验，得到下表的结果

水平	样本	样本均值
$A_1$	$X_{11}{X}_{12}\cdots X_{1n_1}$	${\bar{X}}_1$
$A_2$	$X_{21}{X}_{22}\cdots X_{2n_2}$	${\bar{X}}_2$
$⋮$	$\cdots \cdots \cdots$	$⋮$
$A_r$	$X_{r1}{X}_{r2}\cdots X_{r{n}_r}$	${\bar{X}}_r$

假定各个水平 $A_i$ 对应的总体 $X_i$ 服从正态分布 $N({\mu }_i,{\sigma }^2)$，又假定来自不同水平 $A_i$ 的样本之间是相互独立的。简而言之，正态总体、同方差、独立样本是进行方差分析的三个基本假定。

由于 $X_{ij}\sim N({\mu }_i,{\sigma }^2),j=1,2,...,n_i$，因而 $X_{ij}-{\mu }_i\sim N(0,{\sigma }^2)$，记 ${ϵ}_{ij}=X_{ij}-{\mu }_i$，于是
$$\begin{array}{rl}& X_{ij}={\mu }_i+{\epsilon }_{ij},j=1,\cdots ,n_i;i=1,\cdots ,r\\ & {\epsilon }_{ij}\sim N(0,{\sigma }^2),j=1,\cdots ,n_i;i=1,\cdots ,r\\ & {\epsilon }_{11},\cdots ,{\epsilon }_{r{n}_i}\text{相互独立}.\end{array}$$ 构成了单因素方差分析的数学模型，其中 ${\mu }_i$ 和 ${\sigma }^2$ 是模型中待定的未知参数。

方差分析的基本任务是对上述模型检验假设
$$H_0:{\mu }_1={\mu }_2=\cdots ={\mu }_r\leftrightarrow H_1:{\mu }_1,{\mu }_2,...,{\mu }_r不全相等$$ 也就是通过对试验数据的分析，来检验同方差的各正态总体的均值是否相等，从而推断因素是否对试验指标产生显著影响。

为了便于分析，引入下述记号，令
$$n=\sum _{i=1}^r{n}_i,\mu =\frac{1}{n}\sum _{i=1}^r{n}_i{\mu }_i,{\delta }_i={\mu }_i-\mu$$ 其中，$\mu$ 称为理论总平均，${\delta }_i$ 称为水平 $A_i$ 的效应，它反映因素的第 $i$ 个水平 $A_i$ 对试验指标作用的大小。${\delta }_1,...,{\delta }_r$ 满足关系式 ${\sum }_{i=1}^r{n}_i{\delta }_i=0$.

由这些记号，前面提出的模型可改写为
$$\begin{array}{l}{X}_{ij}=\mu +{\delta }_i+{\epsilon }_{ij},j=1,2,\cdots ,n_i,i=1,2,\cdots ,r\\ {\sum }_{i=1}^r{n}_i{\delta }_i=0,\\ {\epsilon }_{ij}\sim N(0,{\sigma }^2),j=1,2,\cdots ,n_i;i=1,2,\cdots ,r\\ {\epsilon }_{11},\cdots ,{\epsilon }_{r{n}_i}\text{ 相互独立}.\end{array}\}$$
对上述模型，欲检验的假设是
$$H_0:{\delta }_1={\delta }_2=\cdots ={\delta }_r=0\leftrightarrow H_1:{\delta }_1,{\delta }_2,...,{\delta }_r不全为零$$
在方差分析中，采用平方和分解法把整批数据总的离差平方和分解为若干部分，其中，有的反映因素的效应，称之为因素的效应平方和，有的反映随机波动所引起的误差，称之为误差平方和。通过分析它们的比值的大小，一次性完成对假设的检验工作。

统计分析

首先，引入以下记号：
$$\begin{array}{l}{\overline{ϵ}}_i=\frac{1}{n_i}{\sum }_{j=1}^{n_i}{ϵ}_{ij},i=1,\cdots ,r\\ \\ \overline{ϵ}=\frac{1}{n}{\sum }_{i=1}^r{\sum }_{j=1}^{n_i}{ϵ}_{ij}=\frac{1}{n}{\sum }_{i=1}^r{n}_i{\overline{ϵ}}_i\\ \\ {\bar{X}}_i=\frac{1}{n_i}{\sum }_{j=1}^{n_i}{X}_{ij},i=1,\cdots ,r\\ \\ \bar{X}=\frac{1}{n}{\sum }_{i=1}^r{\sum }_{j=1}^{n_i}{X}_{ij}=\frac{1}{n}{\sum }_{i=1}^r{n}_i{\bar{X}}_i\end{array}\}.$$
由概率论知识可知
$$\begin{array}{l}{\overline{ϵ}}_i\sim N(0,\frac{{\sigma }^2}{n_i}),i=1,\cdots ,r\\ \overline{ϵ}\sim N(0,\frac{{\sigma }^2}{n}),\\ {\bar{X}}_i=\mu +{\delta }_i+{\overline{ϵ}}_i\sim N(\mu +{\delta }_i,\frac{{\sigma }^2}{n_i}),i=1,\cdots ,r\\ \overline{X}=\mu +\bar{\epsilon }\sim N(\mu ,\frac{{\sigma }^2}{n})\end{array}\}$$
齐次，引入总的偏差平方和
$$Q_T=\sum _{i=1}^r\sum _{j=1}^{n_i}(X_{ij}-\bar{X}{)}^2$$
由于 $\bar{X}$ 是整批数据的平均值，而 $Q_T$ 是整批数据方差的 $n$ 倍，即 $Q_T$ 反映了数据的波动程度，因而 $Q_T$ 被称为总离差平方和。

$Q_T$ 可分解为 $Q_T=Q_A+Q_E$，其中
$$\begin{gathered} Q_A=\sum _{i=1}^r{n}_i({\bar{X}}_i-\bar{X}{)}^2 \\ {Q}_E=\sum _{i=1}^r\sum _{j=1}^{n_i}(X_{ij}-{\bar{X}}_i{)}^2 \end{gathered}$$ $Q_A$ 称为因素 $A$ 的效应平方和（又称为组间平方和），$Q_E$ 称为误差平方和（又称为组内平方和）。

当 $H_0$ 成立时，$Q_A$ 与 $Q_E$ 相互独立，且有
$$F=\frac{\frac{Q_A/{\sigma }^2}{r-1}}{\frac{Q_E/{\sigma }^2}{n-r}}=\frac{Q_A/(r-1)}{Q_E/(n-r)}\sim F(r-1,n-r)$$
对给定的显著水平 $\alpha$，得 $H_0$ 的拒绝域为 W = { F ≥ F α ( r − 1 , n − r ) } W=\{F \ge F_\alpha(r-1,n-r)\} W={ F≥Fα​(r−1,n−r)}。

通常将计算结果列成方差分析表：

方差来源	平方和	自由度	均方和	$F$ 值
因素 $A$ (组间)	$Q_A={\sum }_{i=1}^r{n}_i({\bar{x}}_i-\bar{x}{)}^2$	$r-1$	${\bar{Q}}_A=\frac{Q_A}{r-1}$	$F=\frac{{\bar{Q}}_A}{{\bar{Q}}_E}$
方差 $E$ (组内)	$Q_E={\sum }_{i=1}^r{\sum }_{j=1}^{n_i}(x_{ij}-{\bar{x}}_i{)}^2$	$n-r$	${\bar{Q}}_E=\frac{Q_E}{n-r}$
总和	$Q_T={\sum }_{i=1}^r{\sum }_{j=1}^{n_i}(x_{ij}-\bar{x}{)}^2$	$n-1$

参考文献

[1] 《应用数理统计》，施雨，西安交通大学出版社。