【时间序列分析】自相关函数和协方差函数相关笔记

协方差函数

在平稳 $AR(p)$模型两边同乘 $x_{t-k}, \forall k > 1$， 再求期望
对于中心化的AR模型， 其均值为0, 则有 $cov(x_t, x_s) = E(x_t)E(x_s)$
又因为 $x_t = \phi_1x_{t-1} + \phi_2x_{t-2}+\cdots+\phi_px_{t-p} + \varepsilon_t$
所以 $E(x_tx_{t-k}) = \phi_1E(x_{t-1}x_{t-k}) +\cdots+\phi_pE(x_{t-p}x_{t-k}) + E(\varepsilon_tx_{t-k})$
又因为 $\varepsilon_t$ 与 x_t 独立， 即 $E(\varepsilon_tx_{t-k})=0, \forall k \geq 1$
最终可得协方差的递推公式 $r_k = \phi_1r_{k-1} + \phi_2r_{k-2} +\cdots+\phi_pr_{k-p}$

例子： 求平稳 $AR(1)$模型的协方差
递推公式 $r_k = \phi_1r_{k-1} = \phi_1^kr_{0}$ , 其中 $r_0$ 为相差为0的协方差函数，即为方差
平稳AR(1)模型的方差为 $r_0 = \frac{\sigma_{\varepsilon}^2}{1-\phi_1^2}$

协方差函数的地推公式为 $r_k = \phi_1^k\frac{\sigma_{\varepsilon}^2}{1-\phi_1^2}, \forall k \geq 1$
由平稳 $AR(1)$的
$\phi_1 < 1 \Rightarrow 当 k\rightarrow \infty, 时， \phi_1^k \rightarrow0 \\ \Rightarrow r_k < r_{k-1} , \forall k \geq 1$
所以随着间隔期数的拉长， 协方差函数的绝对值不断减少且趋近于零。

平稳 $AR(2)$模型的协方差函数递推公式为
$r_k = \phi_1r_{k-1} + \phi_2r_{k-2}, k\geq2 r_1 = \phi_1r_0 + \phi_2r_{-1}=\phi_1r_0 + \phi_2r_{1} \\ \Rightarrow r_1 = \frac{\phi_1r_0}{1-\phi_2} r_0=\frac{1-\phi_2}{(1+\phi_2)(1-\phi_1-\phi_2)(1+\phi_1-\phi_2)}\sigma_{\varepsilon}^2$

$AR(2)$模型的平稳性条件有一条： $\phi_1 \pm \phi_2 < 1 且\left| \phi_2 \right| < 1$
有知道 $r_1 < r_0$ ， 所以 $\frac{\phi_1}{1-\phi_2} - 1 = \frac{\phi_1 + \phi_2 -1}{1-\phi_2}$
那么该分式的分母大于零，分子小于零，即整个分式小于零
其协方差函数也是不断减小，趋近于零的（拖尾性）

自相关系数

定义为: $\rho_k = \frac{r_k}{r_0}$
平稳 $AR(p)$模型的自相关系数递推公式
$\rho_k = \phi_1\rho_{k-1} + \phi_2\rho_{k-2} +\cdots+ \phi_p\rho_{k-p}$

常用 $AR$模型自相关系数递推公式
AR(1)模型: $\rho_k = \phi_i^k, k \geq 0$
AR(2)模型: $\rho_k= \begin{cases} 1& \text{k=0}\\ \frac{\phi_1}{1-\phi_2} & \text{k=1} \\ \phi_1\rho_{k-1} + \phi_2\rho_{k-2} & k\geq2 \end{cases}$
观察数据是否适合AR模型去拟合时，可以观察数据的自相关图。 如果自相关图展现出相对于的拖尾性质时，那么这个数据肯能是适合AR模型的。
总结: $AR$模型自相关系数的性质
拖尾性： $\rho(k) = \sum_{i=1}^{p}c_i\lambda_i^k (c_1, c_2, \cdots, c_p$不能恒等于零)
呈复指数衰减 $\rho(k) = \sum_{i=1}^{p}c_i\lambda_i^k \rightarrow0$
这个性质告诉我们： 对于平稳序列而言， 通常只有近期的序列影响更强，时间越远，影响越小。

偏自相关系数

定义： 对于平稳 $AR(p)$序列， 所谓滞后k偏自相关系数就是指在给定中间k-1个随机变量 $x_{t-1}, x_{t-2}, \cdots, x_{t-k+1}$ 的条件下，或者说，在剔除了中间k-1个随机变量的干扰滞后， $x_{t-k}$ 对 $x_k$ 影响的相关度量。用属性语言描述就是
$\rho_{x_t,x_{t-k}|x_{t-1}, \cdots, x_{t-k+1}} = \frac{E[(x_t - \hat{E}x_t)]E[(x_{t-k} - \hat{E}x_{t-k})]}{E[(x_{t-k} - \hat{E}x_{t-k})^2]}$

偏自相关系数的截尾性

$AR(p)$模型偏自相关系数P阶截尾：
$\phi_{kk} = 0, k >p$

总结：

判断一个时间序列是否可以用AR模型的方式
如果自相关图拖尾，偏自相关系数图呈截尾现象，那么这个时间序列就可以使用AR模型拟合，其中偏自相关系数图呈现几阶截尾，就可以建立几阶的AR模型