笔记：多元回归OLS估计量有效性和一致性证明

• 有效性
  OLS估计量 $\hat\beta=CY$
  假设 $\beta^*$是其他方法得到的关于无偏估计量:
  $\beta^*=C^*Y$
  其中 $C^*=C+D=(X'X)^{-1}X'+D$， $D$为固定矩阵。于是
  $\beta^*=C^*Y=C^*X\beta+C^*\mu \\E(\beta^*)=C^*X\beta+C^*E(\mu)=C^*X\beta$
  根据无偏性要求 $C^*X=I$。而
  $C^*X=(X'X)^{-1}X'X+DX$
  所以需要 $DX=0$。

${\rm Cov}(\beta^*)=E[(\beta^*-\beta)(\beta^*-\beta)']\\ =E[(C^*Y-\beta)(C^*Y-\beta)]\\=E[(C^*\mu)(C^*\mu)']\\=E[C^*\mu\mu'{C^* }']\\=[(X'X)^{-1}X'+D]E(\mu \mu')[X(X'X)^{-1}+D']\\=\sigma^2[(X'X)^{-1}X'X(X'X)^{-1}+DX(X'X)^{-1}+(X'X)^{-1}X'D'+DD']\\=\sigma^2(X'X)^{-1}+\sigma^2DD'\\={\rm Cov}(\hat\beta)+\sigma^2DD'\geq {\rm Cov}( \hat \beta)$

• 一致性
  $\hat\beta=(X'X)^{-1}X'Y$
  其中 $Y=X\beta+\mu$，所以
  $\hat\beta=(X'X)^{-1}X'(X\beta+\mu)=\beta+(X'X)^{-1}X'\mu$
  ${\rm P lim }\hat\beta=\beta+Plim(X'X)^{-1}X'\mu=\beta$