線形代数 - 最小二乗法と射影行列

統計的に最小二乗法は重要な概念であり、この記事では、曲線の性質に合わせてそれを説明し、投影行列とのリンクします

例えば直線に最小自乗フィットを取ります

エラーとして正方形の総誤差和、最小の総誤差がベストフィット線形によって得ることができます

ここで展開していない、場合極値のでゼロに偏導関数をとり、そのような機能はほとんど凹状の関数であるので、Yが、それぞれ、AX + B、AおよびBの誘導体であると仮定。

このアプローチは、一次元画像から誤差ベクトルのノルムを求めるの最小化であるが、我々は高緯度からこの方法を見てもよい、第1のY-yiが記載されています

AX1 + B = Y1-E1

AX2 + B = Y2-E2

AX3 + B = Y3-E3

AX4 + B = Y4-E4

決定?その後、我々は行列に変換することができます

 

それは言って、より正確であるbはY1、Y2、Y3、Y4は、当社の被嵌合、E1、E2、E3、E4がエラーであるAxは=、この式はAxが=可能であるということではありません

eは= 0、xは、我々は答えを必要とする。この場合にはあるが、変数のデータセットの数よりもはるかに多くなる傾向があり、列空間外B、我々は空間ベクトル準通過することができない場合はAx = bのは解けるですベクター係合宇宙ので、二次元平面テイク(列空間)と3つのベクトルは、(B)は、例えば、最も近いベクトルが平面上に投影B bがある場合、我々は、最も近いフィッティングベクトルbに移動し、このとき、正方形の平面までの最短距離の点で最小値E ^ 2、。

今列空間に直交するAX-B面が拡大することを前提とし、すなわち、AX-B Aのヌル空間内で、その結果、AT(AX-B)= 0

ATAx AB- => X = AB *(ATA)^ - 1

このとき、係数の係数xは、コンピュータアルゴリズムに、そのようなマトリックスは、の係数を計算する高速な方法を提供し、最良適合であります

 

おすすめ

転載: www.cnblogs.com/matrixmlpforever/p/10963240.html