4.4 高斯消元法的矩阵表示

4.4 高斯消元法的矩阵表示

高斯消元法的原子操作为： 方程 $j$ 乘以 $-a_{i,j}/a_{jj},i>j$ ，加到方程 $i$ ，使 $a_{i,j}$ 为 $0$ ，令 $l_{ij}=a_{i,j}/a_{jj}$ ，称该操作为消元操作， $l_{ij}$ 为乘子。矩阵 $A$ 的任意列向量 $\mathbf{a_p}=(a_{1p},a_{2p},\cdots,a_{ip},\cdots,a_{np})$ 经过该操作后，变换为 $\mathbf{a'_p}=(a_{1p},a_{2p},\cdots,a_{ip}-l_{ij}a_{jp},\cdots,a_{np})$ ，只有第 $i$ 分量加了个数，其它分量不变。消元操作把一个向量变换为另一个向量，是线性可逆变换，能用可逆矩阵表示，矩阵为
$E_{ij}= \left[ \begin{matrix} 1 & 0 & \cdots & 0 & \cdots & 0 \cdots 0\\ 0 & 1 & \cdots & 0 & \cdots & 0 \cdots 0\\ \vdots \\ 0 & \cdots & -l_{ij} & \cdots 1 \cdots & 0 \cdots & 0 \cdots 0\\ \vdots \\ 0 & 0 & \cdots &0 & \cdots & 1 \cdots 0 \\ 0 & 0 & \cdots &0 & \cdots & 0 \cdots 1 \\ \end{matrix} \right]$

定义 消元矩阵 矩阵 $E_{ij}$ 是单位矩阵 $E$ 的 $(i,j),i>j$ 元素为 $-l_{ij}$ ，称为消元矩阵， $E_{ij}\mathbf{a_p}=\mathbf{a'_p}$ ，是单位下三角阵。

第一阶段用矩阵乘法表示为 $E_{n1} \cdots E_{31}E_{21}A$ 。

第二阶段用矩阵乘法表示为 $(E_{n2} \cdots E_{42}E_{32}) (E_{n1} \cdots E_{31}E_{21})A$ 。

最终矩阵 $A$ 经过一系列矩阵乘法变换为上三角阵， $(E_{n,n-1}) \cdots (E_{n2} \cdots E_{42}E_{32}) (E_{n1} \cdots E_{31}E_{21})A=U$ 。因为矩阵 $E_{ij}$ 可逆，故乘以对应逆矩阵得 $A= (E^{-1}_{21} E^{-1}_{31} \cdots E^{-1}_{n1}) (E^{-1}_{32} E^{-1}_{42} \cdots E^{-1}_{n2}) \cdots (E^{-1}_{n,n-1})U=LU$ 。矩阵 $E_{ij}$ 的逆矩阵 $E^{-1}_{ij}$ 是单位矩阵 $E$ 的 $(i,j),i>j$ 元素为 $l_{ij}$ ，经过计算可得矩阵 $L$ 是单位矩阵 $E$ 的任意 $(i,j),i>j$ 元素为 $l_{ij}$ ，对角线元素全为 $1$ ， $(i,j),i < j$ 元素为 $0$ ，是单位下三角阵，且对应位置保存了对应乘子 $l_{ij},i>j$ 。矩阵 $A$ 可逆，则上三角阵 $U$ 的对角线元素均不为 $0$ ，这两个条件是等价的。

定义 主元 上三角阵 $U$ 的对角线元素称为矩阵 $A$ 的主元。

重要性质 矩阵 $A$ 的主元均不为 $0$ 时，矩阵 $A$ 可逆。

例如上面矩阵 $A=\left[ \begin{matrix} 2 & 4 & -2\\ 4 & 9 & -3\\ -2 & -3 & 7 \end{matrix} \right]$ 的主元为 $2,1,4$ ； $LU$ 分解为
$A= \left[ \begin{matrix} 1 & 0 & 0\\ 2 & 1 & 0\\ -1 & 1 & 1 \end{matrix} \right] \left[ \begin{matrix} 2 & 4 & -2\\ 0 & 1 & 1\\ 0 & 0 & 4 \end{matrix} \right]$

$LU$ 分解，不是很对称，因为 $L$ 是单位下三角阵， $U$ 对角线是主元，不是 $1$ 。我们可以继续对 $U$ 进行分解，把主元提取出来，使 $U$ 成为单位上三角阵。

$U = \left[ \begin{matrix} d_1 & 0 & \cdots & 0\\ 0 &d_2 & \cdots & 0\\ \vdots & \vdots & & \vdots\\ 0 & 0 & \cdots & d_n \end{matrix} \right] \left[ \begin{matrix} 1 & u_{12}/d_1 & \cdots & u_{1n}/d_1\\ 0 & 1 & \cdots & u_{2n}/d_2\\ \vdots & \vdots & & \vdots\\ 0 & 0 & \cdots & 1 \end{matrix} \right]$

重要性质 矩阵 $LDU$ 分解 矩阵 $A$ 分解为单位下三角矩阵、对角阵和单位上三角矩阵的乘积， $A=LDU$ ， $D$ 对角线元素为矩阵主元。

例如上面矩阵的 $LDU$ 分解为
$A= \left[ \begin{matrix} 2 & 4 & -2\\ 4 & 9 & -3\\ -2 & -3 & 7 \end{matrix} \right]= \left[ \begin{matrix} 1 & 0 & 0\\ 2 & 1 & 0\\ -1 & 1 & 1 \end{matrix} \right] \left[ \begin{matrix} 2 & 0 & 0\\ 0 & 1 & 0\\ 0 & 0 & 4 \end{matrix} \right] \left[ \begin{matrix} 1 & 2 & -1\\ 0 & 1 & 1\\ 0 & 0 & 1 \end{matrix} \right]$