线性代数：矩阵的LU分解

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/Xw_Classmate/article/details/60363925

本节是网易公开课上的麻省理工大学线性代数课程第四节： A的LU分解 的学习笔记。

本篇主要讲解 矩阵的LU分解。

矩阵的LU分解

基础公式

公式一

假设方阵 A 可逆矩阵为 $A^{-1}$，则 $AA^{-1}=I=A^{-1}A$。

公式二

假设方阵 A 、B 可逆矩阵分别为 $A^{-1}$、$B^{-1}$，那 AB 的可逆矩是什么呢？ 答案是： $B^{-1}A^{-1}$。

我们可以证明下：

$(AB)(B^{-1}A^{-1})=A(BB^{-1})A^{-1}=AIA^{-1}=I$

公式三

$$(AB)^T=B^TA^T$$

公式四

假设方阵 A 可逆，那 $A^T$ 的可逆矩阵是什么呢？

$$AA^{-1}=I\\ (AA^{-1})^{T}=I^{T}\\ (A^{-1})^{T}(A)^{T}=I$$

上面公式说明A转置的逆矩阵为A的逆矩阵的转置。

示例说明

系数矩阵 A 经过消元后得到矩阵 U (upper，表示上三角矩阵)，那A 和 U 有什么关系呢，它们之间的关系可以通过矩阵 L （lower，表示下三角矩阵）来表示。

2x2 矩阵情况

以2x2矩阵为例，系数矩阵为 A， 由于需要将 $A_{2,1}$ 变为0，所以设初等矩阵为 $E_{2,1}$。则：

$$E_{2,1}A=U$$

$$\begin{bmatrix} & \\ & \end{bmatrix} \begin{bmatrix} 2 & 1\\ 8 & 7 \end{bmatrix}= \begin{bmatrix} 2 & 1\\ 0 & 3 \end{bmatrix}$$

考虑下，最左侧矩阵（$E_{2,1}$）应该为什么呢？

$$\begin{bmatrix} 1 & 0\\ -4 & 1 \end{bmatrix} \begin{bmatrix} 2 & 1\\ 8 & 7 \end{bmatrix}= \begin{bmatrix} 2 & 1\\ 0 & 3 \end{bmatrix}$$

我们想要得到的矩阵是 L。

$$A = LU$$

$$\begin{bmatrix} 2 & 1\\ 8 & 7 \end{bmatrix}= \begin{bmatrix} & \\ & \end{bmatrix} \begin{bmatrix} 2 & 1\\ 0 & 3 \end{bmatrix}$$

观察下这两个公式：

$$E_{2,1}A = U\\ A = LU$$

可以发现，L 其实就是 $(E_{2,1})^{-1}$。

$$L=(E_{2,1})^{-1}= \begin{bmatrix} 1 & 0\\ 4 & 1 \end{bmatrix}$$

有时候也会将主元单独提取出来，即 A=LU=LDU

$$\begin{bmatrix} 2 & 1\\ 8 & 7 \end{bmatrix}= \begin{bmatrix} 1 & 0\\ 4 & 1 \end{bmatrix} \begin{bmatrix} 2 & 0\\ 0 & 3 \end{bmatrix} \begin{bmatrix} 1 & 1/2\\ 0 & 3 \end{bmatrix}$$

3x3 矩阵情况

对于3x3矩阵来说，首先需要将 $A_{2,1}$ 变为0，其次需要将 $A_{3,1}$ 变为0，最后需要将 $A_{3,2}$ 变为0。所以依次左乘 $E_{2,1}$、$E_{3,1}$、$E_{3,2}$。即：

$$E_{3,2}E_{3,1}E_{2,1}A=U$$ 。

则：

$$A=(E_{2,1})^{-1}(E_{3,1})^{-1}(E_{3,2})^{-1}U=LU\\ L=(E_{2,1})^{-1}(E_{3,1})^{-1}(E_{3,2})^{-1}$$

假设

$$A=\begin{bmatrix} 2 & 2 & 2\\ 4 & 7 & 7\\ 6 & 18 & 22 \end{bmatrix} \overset{row2=row2-2row1}{\rightarrow} \begin{bmatrix} 2 & 2 & 2\\ 0 & 3 & 3\\ 6 & 18 & 22 \end{bmatrix} \overset{row3=row3-3row1}{\rightarrow} \begin{bmatrix} 2 & 2 & 2\\ 0 & 3 & 3\\ 0 & 12 & 16 \end{bmatrix} \overset{row3=row3-4row1}{\rightarrow} \begin{bmatrix} 2 & 2 & 2\\ 0 & 3 & 3\\ 0 & 0 & 4 \end{bmatrix}=U$$

使用初等矩阵E左乘实现。

$$E_{3,2}E_{3,1}E_{2,1}= \begin{bmatrix} 1 & 0 & 0\\ 0 & 1 & 0\\ 0 & -4 & 1 \end{bmatrix} \begin{bmatrix} 1 & 0 & 0\\ 0 & 1 & 0\\ -3 & 0 & 1 \end{bmatrix} \begin{bmatrix} 1 & 0 & 0\\ -2 & 1 & 0\\ 0 & 0 & 1 \end{bmatrix}$$

则：

$$L= \begin{bmatrix} 1 & 0 & 0\\ 2 & 1 & 0\\ 0 & 0 & 1 \end{bmatrix} \begin{bmatrix} 1 & 0 & 0\\ 0 & 1 & 0\\ 3 & 0 & 1 \end{bmatrix} \begin{bmatrix} 1 & 0 & 0\\ 0 & 1 & 0\\ 0 & 4 & 1 \end{bmatrix}= \begin{bmatrix} 1 & 0 & 0\\ 2 & 1 & 0\\ 3 & 4 & 1 \end{bmatrix}$$
对于 $A=LU$，如果不存在行互换，则 L 中主对角线元素为1，主对角线上元素为0，主对角线下元素分别为消去该位置元素的消元乘数。