线性代数——矩阵

版权声明

本文大部分内容皆来自李永乐老师考研教材和视频课。

基础概念

• 矩阵：由$m\times n$个数组成的$m$行$n$列的表格称为一个$m\times n$矩阵，记为$A$。当$m=n$时，称$A$为$n$阶矩阵。
  $$\left[\begin{array}{ccccc}{a}_{11}& a_{12}& \dots & a_{1n}& \\ a_{21}& a_{22}& \dots & a_{2n}& \\ ⋮& ⋮& & ⋮& \\ a_{m1}& a_{m2}& \dots & a_{mn}& \end{array}\right]$$
• 同型矩阵：如果$A$和$B$都是$m\times n$矩阵，那么称$A$和$B$是同型矩阵。
• 相等矩阵：设$A,B$是同型矩阵，如果$a_{ij}=b_{ij}(\forall i=1,2,\dots ,m;j=1,2,\dots ,n)$，则称$A$和$B$相等，记为$A=B$。
• 零矩阵：如果一个矩阵的所有元素都是$0$，那么就称这个矩阵为零矩阵，记为$O$。
• 对角矩阵： $$\left[\begin{array}{cccc}{a}_{11}& & & \\ & a_{22}& & \\ & & \ddots & \\ & & & a_{nn}\end{array}\right]$$
• 单位矩阵：$$\left[\begin{array}{cccc}1& & & \\ & 1& & \\ & & \ddots & \\ & & & 1\end{array}\right]$$记为$E$。
• 上三角矩阵：$$\left[\begin{array}{cccc}{a}_{11}& a_{12}& \dots & a_{1n}\\ & a_{22}& \dots & a_{2n}\\ & & \ddots & ⋮\\ & & & a_{nn}\end{array}\right]$$当$i>j$时，$a_{ij}=0$
• 下三角矩阵：$$\left[\begin{array}{cccc}{a}_{11}& & & \\ a_{21}& a_{22}& & \\ ⋮& ⋮& \ddots & \\ a_{n1}& a_{n2}& \dots & a_{nn}\end{array}\right]$$当$i<j$时，$a_{ij}=0$

矩阵的运算

矩阵的加法

若$A=[a_{ij}],B=[b_{ij}]$为同型矩阵，那么
$$A+B=[a_{ij}+b_{ij}]$$
加法运算法则（$A,B,C$同型）：

• $A+B=B+A$
• $(A+B)+C=A+(B+C)$
• $A+O=A$
• $A+(-A)=O$

数与矩阵相乘

$$kA=[k{a}_{ij}]$$
数乘运算法则：

• $k(mA)=m(kA)=(mk)A$
• $(k+m)A=kA+mA$
• $k(A+B)=kA+kB$
• $1A=A$
• $0A=O$

矩阵的乘法

若$A=[a_{ij}{]}_{m\times s},B=[b_{ij}{]}_{s\times n}$，则$$A\times B=C=[c_{ij}{]}_{m\times n}$$其中$$c_{ij}=a_{i1}{b}_{1j}+a_{i2}{b}_{2j}+\cdots +a_{is}{b}_{sj}=\sum _{k=1}^n{a}_{ik}{b}_{kj}$$
乘法运算法则：

• $A(BC)=(AB)C$
  证明：设$A=[a_{ij}{]}_{m\times s}$，$B=[b_{ij}{]}_{s\times t}$，$C=[c_{ij}{]}_{t\times n}$：
  $$\begin{gathered} A(BC)=D_{m\times n} \\ (AB)C=E_{m\times n} \end{gathered}$$
  $D$中第$i$行第$j$列的元素等于$A$中$i$行与$BC$中$j$列对应元素相乘再相加：
  $$\sum _{k=1}^s{a}_{ik}(\sum _{p=1}^t{b}_{kp}{c}_{pj})=\sum _{k=1}^s\sum _{p=1}^t{a}_{ik}{b}_{kp}{c}_{pj}$$
  同理$E$中第$i$行第$j$列的元素等于：
  $$\sum _{p=1}^t(\sum _{k=1}^s{a}_{ik}{b}_{kp})c_{pj}=\sum _{k=1}^s\sum _{p=1}^t{a}_{ik}{b}_{kp}{c}_{pj}$$
  证毕。
• $A(B+C)=AB+AC$
• $(kA)(lB)=klAB$
• $AE=A,EA=A$
• $OA=O,AO=O$

注意：

• $AB\ne BA$
• $AB=O\nRightarrow A=O$或$B=O$
• $AB=AC,A\ne O\nRightarrow B=C$
• 若$A,B$是对角矩阵，则$AB=BA$
• ${\left[\begin{array}{ccc}{a}_1& & \\ & a_2& \\ & & a_3\end{array}\right]}^n=A=\left[\begin{array}{ccc}{a}_1^n& & \\ & a_2^n& \\ & & a_3^n\end{array}\right]$

矩阵的转置

设$A=[a_{ij}{]}_{m\times n}$，将$A$的行列互换，得到的$n\times m$矩阵$[a_{ji}{]}_{n\times m}$称为$A$的转置矩阵，记为$A^T$。转置运算法则：

• $(A+B{)}^T=A^T+B^T$
• $(kA{)}^T=k{A}^T$
• $(AB{)}^T=B^T{A}^T$
  证明：设$A=[a_{ij}{]}_{m\times s},B=[b_{ij}{]}_{s\times n}$，则有：
  $$\begin{gathered} AB=[c_{ij}{]}_{m\times n} \\ \Downarrow \\ (AB{)}^T=[c_{ji}{]}_{n\times m} \end{gathered}$$
  其中
  $$c_{ji}=\sum _{k=1}^s{a}_{ik}{b}_{kj}$$
  令
  $$B^T{A}^T=[d_{ij}{]}_{n\times m}$$
  $B^T{A}^T$的$j$行$i$列元素是$B^T$的$j$行与$A^T$的$i$列所得，也是$B$的$j$列与$A$的$i$行所得，因此：
  $$d_{ji}=\sum _{k=1}^s{b}_{kj}{a}_{ik}=c_{ji}$$
  证毕。
• $(A^T{)}^T=A$

若$A^T=A$，则称$A$为对称矩阵，若$A^T=-A$，则称$A$为反对称矩阵。

矩阵和方程组

现有一二元一次方程组：
$$\{\begin{array}{l}{a}_{1}x+b_{1}y=c_1(1)\\ a_{2}x+b_{2}y=c_2(2)\end{array}$$
可用矩阵表示为：
$$\begin{gathered} \left[\begin{array}{cc}{a}_1& b_1\\ a_2& b_2\end{array}\right]\left[\begin{array}{c}x\\ y\end{array}\right]=\left[\begin{array}{c}{c}_1\\ c_2\end{array}\right] \\ \Downarrow \\ AX=C \end{gathered}$$
其中$A$称为系数矩阵，$X$称为未知数矩阵，$C$称为常数项矩阵。

方阵和行列式

设$A=[a_{ij}]$为$n$阶方阵，其所有元素保持位置不动所构成的行列式称为方阵$A$的行列式，记为$$|A|$$注意：

• 仅有方阵才有行列式。
• $A=O$和$|A|=0$没有任何关系。

方阵行列式的性质：

• $|A^T|=|A|$
• $|kA|=k^n|A|$
• $|AB|=|A||B|$
  证明：设$A$、$B$为$n$阶矩阵（以$n=2$）为例：
  $$A=\left[\begin{array}{cc}{a}_{11}& a_{12}\\ a_{21}& a_{22}\end{array}\right]B=\left[\begin{array}{cc}{b}_{11}& b_{12}\\ b_{21}& b_{22}\end{array}\right]$$
  构成四阶行列式$D$：
  $$D=|A||B|=\left|\begin{array}{cc}A& O\\ -E& B\end{array}\right|=\left|\begin{array}{cccc}{a}_{11}& a_{12}& 0& 0\\ a_{21}& a_{22}& 0& 0\\ -1& 0& b_{11}& b_{12}\\ 0& -1& b_{21}& b_{22}\end{array}\right|=\left|\begin{array}{cccc}{a}_{11}& a_{12}& a_{11}{b}_{11}+a_{12}{b}_{21}& a_{11}{b}_{12}+a_{12}{b}_{22}\\ a_{21}& a_{22}& a_{21}{b}_{11}+a_{22}{b}_{21}& a_{21}{b}_{12}+a_{22}{b}_{22}\\ -1& 0& 0& 0\\ 0& -1& 0& 0\end{array}\right|=\left|\begin{array}{cc}A& AB\\ -E& O\end{array}\right|=-1^{(2\times 2)}|-E||AB|=|AB|$$

伴随矩阵

设$A=[a_{ij}]$是$n$阶方阵，行列式$|A|$的每个元素$a_{ij}$的代数余子式$A_{ij}$所构成的如下方阵称为$A$的伴随矩阵。$$A^{\ast }=\left[\begin{array}{cccc}{A}_{11}& A_{21}& \dots & A_{n1}\\ A_{12}& A_{22}& \dots & A_{n2}\\ ⋮& ⋮& & ⋮\\ A_{1n}& A_{2n}& \dots & A_{nn}\end{array}\right]$$伴随矩阵的性质：

• $A{A}^{\ast }=A^{\ast }A=|A|E$
  证明：设$A$为$n$阶矩阵（以$n=2$）为例：
  $$A{A}^{\ast }=\left|\begin{array}{cc}{a}_{11}& a_{12}\\ a_{21}& a_{22}\end{array}\right|\left|\begin{array}{cc}{A}_{11}& A_{21}\\ A_{12}& A_{22}\end{array}\right|=\left|\begin{array}{cc}{a}_{11}{A}_{11}+a_{12}{A}_{12}& a_{11}{A}_{21}+a_{12}{A}_{22}\\ a_{21}{A}_{11}+a_{22}{A}_{12}& a_{21}{A}_{21}+a_{22}{A}_{22}\end{array}\right|=\left|\begin{array}{cc}|A|& O\\ O& |A|\end{array}\right|=|A|\left|\begin{array}{cc}1& 0\\ 0& 1\end{array}\right|=|A|E$$
• 二阶矩阵的伴随矩阵：主对角线互换，副对角线变号。

可逆矩阵

对于$n$阶方阵$A$，如果存在$n$阶方阵$B$，使$$AB=BA=E$$则称矩阵$A$是可逆的，矩阵$B$是$A$的逆矩阵。如果矩阵$A$是可逆的，那么$A$的逆矩阵是唯一的，记作$$A^{-1}$$可逆矩阵的性质如下：

• 如果$A$可逆，则$A^{-1}$也是可逆的，且$(A^{-1}{)}^{-1}=A$。
  证明：令$$B=A^{-1}$$
  那么：$$BA=AB=E$$
  所以$B$可逆且$$B^{-1}=(A^{-1}{)}^{-1}=A$$
• 如果$A$可逆，且$k\ne 0$，则$kA$可逆，且$(kA{)}^{-1}=\frac{1}{k}{A}^{-1}$。
• 如果$A,B$可逆，则$AB$也可逆，且$(AB{)}^{-1}=B^{-1}{A}^{-1}$。
• 如果$A$可逆，则$A^T$也可逆，且$(A^T{)}^{-1}=(A^{-1}{)}^T$。
• $A$可逆$\iff |A|\ne 0$。
  证明：因为
  $$|A{A}^{-1}|=|A||A^{-1}|=|E|=1$$
  所以$|A|\ne 0$
• $A,B$是$n$阶方阵，如果$AB=E$，则$A^{-1}=B$。
• 如果$A$可逆，则$A^{-1}=\frac{1}{|A|}{A}^{\ast }$。
• 如果$A$可逆，则$|A^{-1}|=\frac{1}{|A|}$。
• 如果$A=\left[\begin{array}{ccc}{a}_1& & \\ & a_2& \\ & & a_3\end{array}\right]$是对角矩阵，则$A^{-1}=\left[\begin{array}{ccc}\frac{1}{a_1}& & \\ & \frac{1}{a_2}& \\ & & \frac{1}{a_3}\end{array}\right]$。

分块矩阵

对矩阵适当的进行分块处理，可以有效地进行计算，分块后有如下运算法则：

• $\left[\begin{array}{cc}{A}_1& A_2\\ A_3& A_4\end{array}\right]+\left[\begin{array}{cc}{B}_1& B_2\\ B_3& B_4\end{array}\right]=\left[\begin{array}{cc}{A}_1+B_1& A_2+B_2\\ A_3+B_3& A_4+B_4\end{array}\right]$
• $\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]\left[\begin{array}{cc}X& Y\\ Z& W\end{array}\right]=\left[\begin{array}{cc}AX+BZ& AY+BW\\ CX+DZ& CY+DW\end{array}\right]$
• ${\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]}^T=\left[\begin{array}{cc}{A}^T& C^T\\ B^T& D^T\end{array}\right]$

设$A,B$分别为$m,n$阶方阵，则：

• ${\left[\begin{array}{cc}A& O\\ O& B\end{array}\right]}^n=\left[\begin{array}{cc}{A}^n& O\\ O& B^n\end{array}\right]$

设$A,B$分别为$m,n$阶可逆矩阵，则：

• ${\left[\begin{array}{cc}A& O\\ O& B\end{array}\right]}^{-1}=\left[\begin{array}{cc}{A}^{-1}& O\\ O& B^{-1}\end{array}\right]$
• ${\left[\begin{array}{cc}O& A\\ B& O\end{array}\right]}^{-1}=\left[\begin{array}{cc}O& C^{-1}\\ B^{-1}& O\end{array}\right]$

若$A$是$m\times n$矩阵，$B$是$n\times s$矩阵且$AB=C$，则对$B$，$C$按列分块有：
$$\left[\begin{array}{cccc}{a}_{11}& a_{12}& \dots & a_{1n}\\ a_{21}& a_{22}& \dots & a_{2n}\\ ⋮& ⋮& & ⋮\\ a_{m1}& a_{m2}& \dots & a_{mn}\end{array}\right]\left[\begin{array}{cccc}{\beta }_1& {\beta }_2& \dots & {\beta }_n\end{array}\right]=\left[\begin{array}{cccc}{\gamma }_1& {\gamma }_2& \dots & {\gamma }_n\end{array}\right]$$
即$$\{\begin{array}{l}{a}_{11}{\beta }_1+a_{12}{\beta }_2+\cdots +a_{1n}{\beta }_n={\gamma }_1\\ a_{21}{\beta }_1+a_{22}{\beta }_2+\cdots +a_{2n}{\beta }_n={\gamma }_2\\ \dots \\ a_{n1}{\beta }_1+a_{n2}{\beta }_2+\cdots +a_{nn}{\beta }_n={\gamma }_n\end{array}$$

矩阵的初等变换

欲求解以下线性方程组：
$$\{\begin{array}{l}2x_1-x_2+3x_3=1\\ 4x_1+2x_2+5x_3=4\\ 2x_1+2x_3=6\end{array}$$
根据加减消元法：

• 方程两边同时乘以一个非零的数。
• 将一个方程的$k$倍加到另一个方程。
• 交换两个方程的位置。

将方程组化简至：
$$\{\begin{array}{l}2x_1-x_2+3x_3=1\\ x_2-x_3=5\\ x_3=-6\end{array}$$
即可将方程的解求出，加减消元本质是对未知数系数和常数项的改变，因此可以把未知数系数和常数项写成一个矩阵：
$$\left[\begin{array}{cccc}2& -1& 3& 1\\ 4& 2& 5& 4\\ 2& 0& 2& 6\end{array}\right]$$
这个矩阵就称为线性方程组的增广矩阵。并把以下三种变换称为矩阵的初等行（列）变换，统称为矩阵的初等变换：

• 用非零的常数乘矩阵的某一行（列）。
• 将一行（列）的$k$倍加至另一行（列）。
• 交换矩阵中两行（列）的位置。

现对该矩阵由上往下进行初等行变换将矩阵化简至阶梯型（这个过程也被称为正向消元）：
$$\left[\begin{array}{cccc}2& -1& 3& 1\\ 0& 1& -1& 5\\ 0& 0& 1& -6\end{array}\right]$$
接着由下往上将化简后的矩阵加入未知数，即可得出线性方程的解（这个过程也被称为反向求解）。

初等矩阵

由单位矩阵经过一次初等变换得到的矩阵称为初等矩阵。初等矩阵的性质如下：

• 初等矩阵$P$左乘$A$所得到的$PA$就是对$A$做一次与$P$同样的初等行变换。
• 初等矩阵$P$右乘$A$所得到的$AP$就是对$A$做一次与$P$同样的初等列变换。
• ${\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& k& 1\end{array}\right]}^{-1}=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& -k& 1\end{array}\right]$
• ${\left[\begin{array}{ccc}1& 0& 0\\ 0& 0& 1\\ 0& 1& 0\end{array}\right]}^{-1}=\left[\begin{array}{ccc}1& 0& 0\\ 0& 0& 1\\ 0& 1& 0\end{array}\right]$
• ${\left[\begin{array}{ccc}1& 0& 0\\ 0& k& 0\\ 0& 0& 1\end{array}\right]}^{-1}=\left[\begin{array}{ccc}1& 0& 0\\ 0& \frac{1}{k}& 0\\ 0& 0& 1\end{array}\right]$

等价矩阵

如果矩阵$A$经过有限次初等变换变成矩阵$B$，就称矩阵$A$与$B$等价，记作$A\cong B$。矩阵等价的性质如下：

• 反身性：$A\cong A$
• 对称性：若$A\cong B$，则$B\cong A$
• 传递性：若$A\cong B,B\cong C$，则$A\cong C$

行阶梯矩阵

设$A$是一个$m\times n$的矩阵，如果满足：

• 如果矩阵有零行，则零行都在矩阵的底部。
• 每个非零行的矩阵的主元（即某一行中最左边的第一个非零元）所在的列的下面元素都是$0$。

则称$A$为行阶梯矩阵。

行最简矩阵

设$A$是一个$m\times n$的矩阵，如果满足：

• $A$是行阶梯矩阵。
• 非零行的主元都是$1$，且主元所在列的其它元素都是$0$。

则称$A$为行最简矩阵。

初等变换在矩阵求解中的应用

• 通过初等行变换求解矩阵的逆矩阵：$A$矩阵可逆$\iff$$A$可以表示为若干个初等矩阵的乘积。即
  $$P_n\dots P_2{P}_1=A$$
  那么
  $$(P_n\dots P_2{P}_1{)}^{-1}A=E$$
  因为$(P_n\dots P_2{P}_1{)}^{-1}=P_1^{-1}{P}_2^{-1}\dots P_n^{-1}=Q_1{Q}_2\dots Q_n$（$Q$仍为初等矩阵），所以原式可写为：
  $$Q_1{Q}_2\dots Q_{n}A=E$$
  那么
  $$Q_1{Q}_2\dots Q_{n}E=A^{-1}$$
  因此：$A$矩阵经过若干次行变换可变为单位矩阵，单位矩阵经过若干次同样的行变换可变为$A$的逆矩阵，即：
  $$(A|E)\to \cdots \to (E|A^{-1})$$
• 通过初等行变换求解矩阵方程：若$AX=B$，如果$A$可逆，那么$$X=A^{-1}B$$又$$PA=E$$那么$$PB=A^{-1}B=X$$所以$$P(A|B)=(E|X)$$

矩阵的秩

在$m\times n$阶的矩阵$A$中，任取$k$行与$k$列（$k\le n,k\le m$），位于这些行与列的交叉点上的$k^2$个元素按其在原来矩阵$A$的次序可构成一个$k$阶行列式，称其为矩阵$A$的一个$k$阶子式。若矩阵$A$中存在$k$阶子式不为$0$，$k+1$阶子式（如果存在）全为零，则称$k$为矩阵$A$的秩，记为$r(A)=k$，零矩阵的秩规定为$0$。秩的性质如下：

• 若$A$是$n$阶方阵，那么
  • $r(A)=n\iff |A|\ne 0\iff A可逆$
  • $r(A)<n\iff |A|=0\iff A不可逆$
• 经过初等变换矩阵的秩不变。
• $0\le r(A_{m\times n})\le min(m,n)$
• $r(A^T)=r(A)$
• $r(A+B)\le r(A)+r(B)$
  例：
  $$\left[\begin{array}{cc}E& O\\ O& O\end{array}\right]+\left[\begin{array}{cc}O& O\\ O& E\end{array}\right]$$
• $r(kA)=r(A)(k\ne 0)$
• $r(AB)\le min(r(A),r(B))$
  证明：设$r(A)=r$，则存在可逆矩阵$P,Q$使得$$PAQ={\left[\begin{array}{cc}{E}_r& O\\ O& O\end{array}\right]}_{m\times n}$$则$$PAB=\left[\begin{array}{cc}{E}_r& O\\ O& O\end{array}\right]Q^{-1}B=\left[\begin{array}{cc}{E}_r& O\\ O& O\end{array}\right]\left[\begin{array}{c}{B}_{r\times s}\\ B_{(n-r)\times s}\end{array}\right]=\left[\begin{array}{c}{B}_{r\times s}\\ O\end{array}\right]$$即$$r(AB)=r(PAB)=r(\left[\begin{array}{c}{B}_{r\times s}\\ O\end{array}\right])=r(B_{r\times s})\le r\le r(A)$$由此可得$$r(AB)=r((AB{)}^T)=r(B^T{A}^T)\le r(B^T)=r(B)$$故$r(AB)\le min(r(A),r(B))$
• 如果矩阵$P,Q$可逆，则$r(PAQ)=r(A)$
• $r(\left[\begin{array}{cc}A& O\\ O& B\end{array}\right])=r(A)+r(B)$
• $max(r(A),r(B))\le r(A|B)\le r(A)+r(B)$
  证明：设$r(A)=r,r(B)=t$，$$\begin{gathered} P{A}^T=A_1(行阶梯，r个非零行) \\ Q{B}^T=B_1(行阶梯，t个非零行) \end{gathered}$$那么$$\left[\begin{array}{cc}P& O\\ O& Q\end{array}\right]\left[\begin{array}{c}{A}^T\\ B^T\end{array}\right]=\left[\begin{array}{c}{A}_1\\ B_1\end{array}\right]$$则$$r(A|B)=r\left[\begin{array}{c}{A}^T\\ B^T\end{array}\right]=\left[\begin{array}{c}{A}_1\\ B_1\end{array}\right]\le r+t\le r(A)+r(B)$$
• $n$元线性方程组$AX=B$解的判定：其增广矩阵为$C$那么其解的情况如下：

情况	说明
无解	$r(A)+1=r(C)$
唯一解	$r(A)=r(C)=n$
无穷解	$r(A)=r(C)<n)$

• $n$元齐次方程组$AX=O$有非零解$\iff r(A)<n$
• 矩阵方程$AX=B$有解$\iff r(A)=r(A,B)$
  证明：设$A-m\times n$，$X-n\times t$，$B-m\times t$，将$B$矩阵按列分块:
  $$B=[{\beta }_1,{\beta }_2,\dots ,{\beta }_n]$$
  $AX=B$有解$\iff$$AX={\beta }_j(j=1,2,\dots ,t)$都有解，设$r(A)=r$，则$r(A,{\beta }_j)=r$，化为行最简$\iff r(PA,P{\beta }_j)=r$，那么$P{\beta }_j$的后$m-r$行就为$0\iff r(PA,PB)=r\iff r(A,B)=r=r(A)$。