G-S正交化与矩阵的QR分解+最小二乘法

A 列 向 量 线 性 无 关 , 对 A 正 交 化 的 过 程 , A m , n T n , n = Q m , n 两 边 同 时 乘 T 的 逆 记 为 R A = Q R n , n A列向量线性无关,对A正交化的过程,\\A_{m,n}T_{n,n}=Q_{m,n}\\两边同时乘T的逆记为R\\ A=QR_{n,n} A线A,Am,nTn,n=Qm,nTRA=QRn,n
可 以 表 述 为 A 在 新 的 基 标 准 正 交 基 Q 中 用 R 表 示 [ a 1   a 2   a 3 ] = [ q 1   q 2   q 3 ] [ q 1 t a 1 q 1 t a 2 q 1 t a 3 q 2 t a 2 q 2 t a 3 q 3 t a 3 ] ( R = Q T A ) 可以表述为A在新的基标准正交基Q中用R表示\\ [a_1\ a_2\ a_3]=[q_1\ q_2\ q_3]\begin{bmatrix}q_1^ta_1&q_1^ta_2&q_1^ta_3\\&q_2^ta_2&q_2^ta_3\\&&q_3^ta_3\end{bmatrix}(R=Q^TA) AQR[a1 a2 a3]=[q1 q2 q3]q1ta1q1ta2q2ta2q1ta3q2ta3q3ta3(R=QTA)

算例

最小二乘法

A x = b , 当 b 不 在 A 的 列 空 间 时 希 望 ∣ ∣ b − A x ˉ ∣ ∣ 最 小 几 何 上 解 释 为 b 到 列 空 间 投 影 的 垂 直 长 度 最 小 Ax=b,当b不在A的列空间时希望||b-A\bar x||最小\\几何上解释为b到列空间投影的垂直长度最小 Ax=b,bAbAxˉb

b − A x ˉ 与 A 的 列 空 间 正 交 。 A t ∗ ( b − A x ˉ ) = 0 A t A x ˉ = A t ∗ b 解 出 x ˉ = ( A t A ) − 1 A t b , 投 影 为 A x ˉ = A ( A t A ) − 1 A t b , 称 A ( A t A ) − 1 A t 为 投 影 矩 阵 若 A 列 向 量 线 性 无 关 , 带 入 A = Q R 后 其 中 Q t Q = I , R x ˉ = Q t b b-A\bar x与A的列空间正交。A^t*(b-A\bar x)=0\\ A^tA\bar x=A^t*b解出\bar x=(A^tA)^{-1}A^tb,投影为A\bar x=A(A^tA)^{-1}A^tb,称A(A^tA)^{-1}A^t为投影矩阵\\ 若A列向量线性无关,带入A=QR后\\ 其中Q^tQ=I,R\bar x=Q^tb\\ bAxˉAAt(bAxˉ)=0AtAxˉ=Atbxˉ=(AtA)1Atb,Axˉ=A(AtA)1AtbA(AtA)1AtA线,A=QRQtQ=I,Rxˉ=Qtb
若 A 的 列 向 量 线 性 无 关 , A t A 一 定 是 可 逆 对 称 方 阵 若A的列向量线性无关,A^tA一定是可逆对称方阵 A线,AtA

おすすめ

転載: blog.csdn.net/ResumeProject/article/details/118935053