笔记：宾大《Algebra, Topology, Differential Calculus, and Optimization Theory For CS and ML》——第三章第七节

3.7 线性映射

下面我们希望可以将一个向量空间转换为另一个向量空间。保持向量空间结构的两个向量空间之间的函数称为向量空间的同态（homomorphism）或线性映射（linear map）。线性映射形式化了函数线性的概念

定义3.18 对于两个向量空间 $E$ 和 $F$ ，一个在 $E$ 和 $F$ 间的线性映射（linear map）可以表示为函数 $f:E \rarr F$ ，并且其满足以下两个条件：

1. 对于所有的 $x,y\in E$
   $f(x+y) =f(x)+f(y)$

$f(\lambda x)=\lambda f(x)$

对于上面的第一个恒等式令 $x=y=0$，我们可以得到 $f(0)=0$ 。

线性映射的基本性质是将线性组合变换为线性组合。对于 $E$ 中任意的有限向量簇 $(u_i) _{i \in I}$ ，对于标量集 $(\lambda_i)_{i \in I}$ ，我们有
$f(\sum_{i \in I}\lambda_iu_i)=\sum_{i \in I} \lambda_i f(u_i)$
下面是一些线性映射的例子：

• 对于映射 $f:\R^2 \rarr \R^2$ 定义如下

$x^\prime = x-y\\ y^\prime = x+y$

其是一个线性映射，它是由一个旋转组成，由半径放大 $\sqrt[2]{2}$ 倍，并旋转 $\pi /4$ 组成。

• 对于向量空间 $E$ ，恒等映射是一个线性映射，即 $id:E \rarr E$ ，对于所有的 $u \in E$ 存在

$id(u)=u$

• 映射 $D:\R[X] \rarr \R[X]$ 定义如下：

$D(f(X)) = f^\prime(X)$

其为线性映射，其中的 $f^\prime(X)$ 是多项式 $f(X)$ 的导数。

• 映射 $\Phi:C([a,b]) \rarr\R$ 定义如下：

$\Phi(f)=\int_a^bf(t)dx$

其中 $C([a,b])$ 是定义在区间 $[a,b]$ 上的连续函数集，是一个线性映射。

• 函数 $<-,->:C([a,b])\times C([a,b]) \rarr \R$ 定义如下：

$<f,g>=\int^b_af(t)g(t)dt$

对于变量 $f,g$ 来说都是线性映射。本质上来说，其为内积（inner product），其满足以下两个性质：

1. $<f,g>=<g,f>$
2. 当 $<f,f>=0$ 时 ，当且仅当 $f=0$

定义3.19 对于一个线性映射 $f:E \rarr F$ ，我们定义它的象（image）为 $Im f= f(E)$ ，即
$Im f=\{y \in F|(\exist x \in E)(y=f(x))\}$
它的核 Kernel（或零空间 nullspace）定义为 $Ker f=f^{-1}(0)$ ，即
$Ker f=\{x \in E|f(x)=0\}$
对于上面介绍的导数映射 $D:\R[X] \rarr \R[X]$ 有不变的多项式核，所以 $Ker D=\R$ 。如果我们考虑二阶导数 $D\circ D:\R[X] \rarr \R[X]$ ，那么对于 $D \circ D$ 的核包含了所有的次数小于等于1的多项式。对于象 $D:\R[X] \rarr \R[X]$ 实际上就是它本身，因为对于每一个多项式 $P(X) =a_0X^n+…+a_{n-1}X+a_n$ 都是多项式 $Q(X)$ 的导数：
$Q(X) = a_0 \frac{X^{n+1}}{n+1} +...+a_{n-1}\frac{X^2}{2}+a_nX$
另一方面，如果我们考虑对次数小于 $n$ 的多项式向量空间 $\R[X]_n$ 的约束 $D$ ，则多项式的核仍然存在且为 $\R$，而多项式的图像 $\R[X]_{n-1}$，多项式的向量空间小于等于 $n-1$。

命题3.14 对于给定的一个线性映射 $f:E \rarr F$ ，我们定义 $Im f$ 为 $F$ 的子空间且 $Ker f$ 是 $E$ 的子空间。线性映射 $f:E \rarr F$ 是单射injective，即一对一的映射，当且仅当 $Ker f =(0)$ ，其中的 $(0)$ 是平凡子空间 $\{0\}$ 。

定义3.20 对于一个线性映射 $f:E\rarr F$ ， $f$ 的秩 $rank(f)$ 是 $Im f$ 的维度。

所以向量空间中的基的一个基本性质就是允许将线性映射定义为唯一的同态扩展。

命题 3.15 对于两个向量空间 $E$ 和 $F$ ，对于任意的 $E$ 的基 $(u_i)_{i \in I}$ 以及对于 $F$ 中其他的向量簇 $(v_i)_{i \in I}$ ，这里必有一个唯一的线性映射 $f:E\rarr F$ 例如 $f(u_i)=v_i$ 。另外，当且仅当 $(v_i)_{i \in I}$ 线性独立时， $f$ 是单射。当且仅当 $(v_i)_{i \in I}$ 可生成 $F$ 时， $f$ 是满射的（surjective）。

下面的图示可以阐述上面的命题，其中 $E=\R^3$、 $V=\R^2$ :

对于 $u_1=(1,0,0),u_2=(0,1,0),u_3=(0,0,1)$ 和 $v_1=(1,1),v_2=(-1,1),v_3=(1,0)$ ，我们定义唯一的线性映射为 $f:\R^3 \rarr \R^2$ ， $f(u_1)=v_1,f(u_2)=v_2,f(u_3)=v_3$ 。这个映射不是单射而是满射因为 $f(u_1-u_2) = f(u_1)-f(u_2)=(1,1)-(-1,1)=(2,0)=2f(u_3)=f(2u_3)$ 。

命题3.16 对于任意的集合 $I$ ，对于向量空间 $F$ ，对于函数 $f:I \rarr F$ ，有唯一的线性映射 $\overline{f}:K^{(I)} \rarr F$ ，即
$f=\overline{f} \circ \iota$
如图示：

证明：

如果存在一个线性映射 $\overline{f}:K^{(I)} \rarr F$ ，因为有 $f=\overline{f} \circ \iota$ ，所以对任意的 $i \in I$ 有
$f(i) = \overline{f} ( \iota(i)) = \overline{f}(e_i)$
但对于 $K^{(I)}$ 的基 $(e_i)_{i \in I}$ 和 $F$ 中的向量簇 $(f(i))_{i \in I}$ 。由命题3.15，这里一定有唯一的线性映射 $\overline{f}:K^{(I)} \rarr F$ 例如 $\overline{f}=f(i)$ ，这也同时证明了线性映射 $f=\overline{f} \circ \iota$ 的存在性和唯一性。

命题3.17 对于两个向量空间 $E$ 和 $F$ (非平凡的向量空间) ，对于 $E$ 中的任意向量簇 $(u_i)_{i \in I}$ 有以下的性质：

1. 当且仅当对于每一个 $F$ 中向量簇 $(v_i)_{i \in I}$ 都有至多一个的线性映射 $f:E \rarr F$ 例如 $f(u_i)=v_i$ 时，向量簇 $(u_i)_{i \in I}$ 可以生成向量空间 $E$ 。
2. 当前仅当对于每一个 $F$ 中向量簇 $(v_i)_{i \in I}$ 都有一些线性映射 $f:E \rarr F$ 例如 $f(u_i)=v_i$ 时，向量簇 $(u_i)_{i \in I}$ 时线性独立的。

另外线性空间也具有传递性，即有给定的三个向量空间 $E,F,G$ ，存在线性映射 $f:E \rarr F$ 以及 $g:F \rarr G$ ，则必有 $f,g$ 的组合 $g \circ f:E \rarr G$ 存在，且其为线性映射。

定义3.21 一个线性映射 $f:E \rarr F$ 是同构的(isomorphism)，当且仅当存在一个线性映射 $g:F\rarr E$，其中
$g \circ f = id_E \quad and \quad f \circ g = if_F$
映射 $g$ 在上面的定义中是唯一的，这是因为如果 $g \ h$ 都满足 $g \circ f=id_E$ , $f \circ g=id_F$ , $h \circ f=id_E$ , $f \circ h=id_F$ ，那么
$g=g \circ id_F =g \circ (f \circ h) = (g \circ f) \circ h = id_E \circ h=h$
满足定义3.21的映射 $g$ 被叫做 $f$ 的逆（inverse），通常被写为 $f^{-1}$ 。

命题3.18 令 $E$ 为一个维数 $n \ge 1$ 向量空间，并令 $f:E \rarr E$ 为任意的线性映射。

1. 如果 $f$ 存在一个左逆 $g$ ，即当 $g$ 是一个线性映射，例如 $g \circ f = id$ ，那么 $f$ 是同构的，且 $f^{-1}=g$。
2. 如果 $f$ 存在一个右逆 $h$ ，即当 $h$ 是一个线性映射，例如 $f \circ h = id$ ，那么 $f$ 是同构的，且 $f^{-1}=h$。

定义3.22 两个向量空间 $E、F$ 之间的所有线性映射的集合可以被表示为 $Hom(E,F)$ 或者 $L(E;F)$ (标记 $L(E;F)$ 通常保留为连续线性映射的集合，其中是赋范向量空间)。当我们希望更精确地在向量空间 $E,F$ 中指向空间 $K$ , 我们就将其写为 $Hom_K(E,F)$。

定义3.23 当 $E=F$ 时，线性映射 $f:E \rarr E$ 也可以被称为自同态（endomorphism） 前面我们所定义的空间 $Hom(E,E)$ 也可以被称为 $End(E)$ 。

定义3.24 双线性映射（Bijective linear maps） $f:E \rarr E$ 也称为自同构（automorphism） ，自同构 $E$ 所构成的组合我们称为一般线性组（general linear group），表示为 $GL(E)$ 或 $Aut(E)$ 。尤其地，当 $E =\R^n$，可以表示为 $GL(n,\R)$ 或 $GL(n)$ 。

预告

3.8 商空间（Quotient Spaces）