二四、向量在子空间上的投影

1. 向量在直线上的投影

L = \{c\vec{v} | c \in \mathbb{R} \}

Proj_L(\vec{x}) = \frac{\vec{x} \cdot \vec{v}}{\vec{v} \cdot \vec{v}} \vec{v}

2. 向量在子空间上的投影

直线L实际上是一个特殊的子空间

定义:

假设V是Rn的一个子空间,V正交补是Rn的另一个子空间,Rn中的任意向量x为

\vec{x} = \vec{v} + \vec{w},\vec{x} \in R^n, \vec{v} \in V, \vec{w} \in V^{\perp}

那么,向量x在子空间V上的投影为向量v,向量x在子空间V正交补上的投影为w,即:

Proj_{V} \vec{x} = \vec{v}, Proj_{V^\perp} \vec{x} = \vec{w}

在二维、三维空间可以可视化,超过三维就没有办法可视化了

3. 求向量在子空间上的投影

Proj_V \vec{x} = A (A^T A)^{-1} A^T \vec{x} 

假设V是Rn的一个子空间,且V的一组基为:

\left \{ \vec{b}_1, \vec{b}_2, \cdots, \vec{b}_k \right \}

\Rightarrow \vec{a} \in V

\Rightarrow \vec{a} = y_1 \vec{b}_1 + y_2 \vec{b}_2 + \cdots + y_k \vec{b}_k

现在,用V的基向量构建一个矩阵A:

\underset{n \times k}{A} = \begin{bmatrix} \vec{b}_1 & \vec{b}_2 & \cdots & \vec{b}_k \end{bmatrix}

\Rightarrow A \vec{y} = \vec{a} \qquad \vec{y} \in R^k

假设:

\vec{x} \in R^n

\Rightarrow Proj_{V} \vec{x} \in V

\Rightarrow Proj_V \vec{x} = A \vec{y}

如果知道向量y,那么就可以求出向量x在子空间上的投影,下面为如何求出向量y

因为:

\vec{x} \in R^n

\begin{align*} \Rightarrow \vec{x} &= \vec{v} + \vec{w}\\ &= Proj_V \vec{x} + Proj_W \vec{x} \end{align*}

\Rightarrow \vec{x} - Proj_v \vec{x} = \vec{w}

\Rightarrow \vec{x} - Proj_v \vec{x} \in V^\perp

因为V子空间等于矩阵A的列空间,所以V正交补等于A转置矩阵的零空间

\Rightarrow \vec{x} - Proj_V \vec{x} \in N(A^T)

\Rightarrow A^T (\vec{x} - Proj_V \vec{x}) = \vec{0}

\Rightarrow A^T (\vec{x} - A \vec{y}) = \vec{0}

\Rightarrow A^T \vec{x} = A^T A \vec{y}

\Rightarrow \vec{y} = (A^T A)^{-1}A^T \vec{x}

\Rightarrow Proj_V \vec{x} = A \vec{y} = A (A^T A)^{-1} A^T \vec{x}

4. 向量在子空间上的投影是线性变换

任何表示成矩阵向量积的变换都是线性变换,所以向量在子空间上的投影是线性变换

5. 向量x在子空间的投影是子空间中距离x最近的向量

根据直角三角形斜边大于两个直角边可以证明

猜你喜欢

转载自blog.csdn.net/gutsyfarmer/article/details/104197969
今日推荐