MIT 18.06 linear algebra 第二十四讲笔记

MIT 18.06 linear algebra 第二十四讲笔记

---

第二十四讲课程要点：

• Markov matrices
• Steady State
• Fourier Series & Projections

---

$A= \begin{bmatrix} 0.1&0.01&0.3\\0.2&0.99&0.3\\0.7&0&0.4 \end{bmatrix}$，这个矩阵就是马尔科夫矩阵。

马尔科夫矩阵的性质：

1. 矩阵中的每个元素大于等于0，即$a_{ij}\geq 0$。
2. 马尔科夫矩阵中每一列的各个元素相加之和为1。
3. 马尔科夫矩阵的幂依旧是马尔科夫矩阵。
4. 马尔科夫矩阵必定有一个特征值为1。即$\lambda_i=1$。

---

$\lambda=1$是矩阵的一个特征值。其对应的特征向量中的元素是大于等于0的。其它的特征值的绝对值小于1。即$\lambda_i<1$。

前面有公式$U_k=A^kU_0=C_1\lambda_1^kx_1+C_2\lambda_2^kx_2+\cdots+C_n\lambda_n^kx_n$。假设上式中$\lambda_1=1$,其它的$\lambda<0$。当$k\rightarrow\infty$时，$U_k\approx C_1x_1$。

$A-I=\begin{bmatrix}-0.9&0.01&0.3 \\ 0.2&-0.01&0.3 \\ 0.7&0&-0.6\end{bmatrix}$,此时我们可以发现矩阵$A-I$的每一列之和为0。因此$A-I$是一个奇异矩阵。原因为：对矩阵$A-I$的行向量线性组合后可以得到零向量，即$(A-I)^Tx^{'}=0$，可以得出矩阵$(A-I)^T$的秩小于三，就可以知道矩阵$A$的秩同样小于三那么$(A_I)x=0$，必定有解。
矩阵$A$的特征值和$A^T$的特征值是一样的，因为$|A-\lambda I |=0$,那么$|A^T-\lambda I^T|=0$

---

下面为马尔科夫矩阵的应用：
关于加州和麻省的人数变化，假设每年加州有20%的人搬迁去加州，80%的人留下。每年加州有10%的人迁移到麻省来，90%的人留在本地。那么k年后，加州和麻省的人口情况如何？

$$\begin{bmatrix} U_{cal}\\U_{Mass} \end{bmatrix}_{k+1}= \begin{bmatrix} 0.9&0.2\\0.1&0.8\\ \end{bmatrix} \begin{bmatrix} U_{cal}\\U_{Mass} \end{bmatrix}_{k}$$
上面的式子中系数矩阵就是一个马尔科夫矩阵。对于这个系数矩阵，先求出它的特征值和特征向量。矩阵的迹为1.7，特征值有一个为1,那么 $\lambda_2=0.7$。将特征值代入就可以解出对应的特征向量 $x_1=\begin{bmatrix}2\\1\end{bmatrix}$, $x_2=\begin{bmatrix}-1\\1\end{bmatrix}$。因此

$U_k=C_1\begin{bmatrix}2\\1\end{bmatrix}+C_2(0.7)^k\begin{bmatrix}-1\\1\end{bmatrix}$。

$U_0=\begin{bmatrix}0\\1000\end{bmatrix}$,分别解出$C_1=\frac{1000}{3}, C_2=\frac{2000}{3}$

---

关于标准正交基的投影：
假设有一组标准正交基$q_1,q_2\cdots,q_n$,那么任意向量都可以用这组基来表示，$v=x_1q_1+x_2q-2+\cdots+x_nq_n$。只要分别求出$x_1,x_2,\cdots$即可。求$x-1$的方法可以让$q_1$乘以$v$那么$q_1^Tv=x_1q_1^tq_1+0+0+\cdots+0=x_1$,这样就可以求出$x_1$，同理可以求出其他系数。

上面的意思可以表述为矩阵形式$\begin{bmatrix}q_1,q_2\cdots,q_n\end{bmatrix}\begin{bmatrix}x_1\\\vdots\\x_n\end{bmatrix}=v$。也就是$Qx=v$，$x=Q^{-1}v=Q^Tv\rightarrow x_1=q_1^Tv$。

---

傅里叶级数（FOURIER SERIES:$f(x)=f(x+2\pi)$）

$f(x)=a_0+a_1\cos{x}+b_1\sin{x}+a_2\cos{(2x)}+b_2\sin(2x)+\cdots$这就是福利叶级数的样子。这里的傅里叶级数和上面写的向量$v$很像，$v$是由一些系数和标准正交向量表示的，这里的傅里叶级数是由系数和函数表示的。而且傅里叶函数中的函数都是正交的，这里的正交是什么意思？，我们知道两个向量$v^Tw=v_1w_1+v_2w_2+\cdots+v_nw_n=0$,那么关于函数的正交可以类比着来，假设有$f(x),g(x)$正交，由于向量的维度是有限的，而函数时连续的，且$\sin,\cos$的周期都为$2 \pi$,函数的正交为$\int _0^{2\pi}(f(x)g(x))=0$。我么可以试一下$\int _0^{2\pi}(sinx cosx)=\frac{1}{2}(sinx)^2|_0^{2\pi}=0$,那么系数$a_1$如何确定，类比向量的做法，我们用$cosx$乘以$f(x)$。$\int_0^{2\pi}f(x)cosx=a\int_0^{2\pi}(cosx)^2=\pi$,得出$a=\frac{1}{\pi}$。