最小二乘法的原理及改进

1 最小二乘法

最小二乘使所有点到曲线的方差最小.利用最小二乘对扫描线上的所有数据点进行拟合,得到一条样条曲线,然后逐点计算每一个点Pi到样条曲线的欧拉距离ei(即点到曲线的最短距离),ε是距离的阈值,事先给定,如果ei≥ε,则将该点判断为噪点.

该方法最重要的事先拟合样条曲线。

确定曲线类型的方法:根据已知数据点类型初步确定曲线类型,经验观察初步尝试拟合函数类型.

曲线类型选择:直线,二次曲线,三次曲线,对数函数拟合,幂函数拟合,直至方差最小。

直线:f(X1) = aX1 + b;

二次曲线:f(X1) = aX12 + bX1 + c;

对数函数:f(X1) = a + b log(X1);

幂函数: f(X1)  = aX1b

 

曲线方程参数求解方法:

已知数据点(Xi , Yi)(i = 0,1,2,3…n);Ø为所有次数不超过n的多项式函数;

求(当k=1,为线性拟合,当k>1为多项式拟合)

注:特殊的多项式拟合-非线性拟合方程需先转换为线性方程,

eg:对数函数:f(X1) = a + b log(X1),令log(X1) = t ,则 f(X1) = a + b*t,被转化为线性函数,根据t反解X1

幂函数: f(X1)  = aX1b ,(假设a为正)等式两边同时转变为对数函数,lg(f(X1)) = lg(a)+b(lg(X1)),

令lg(f(X1))为q, (lg(X1))为p,则q = lg(a) + b*p,转换为线性关系,解出p,q。

以求解

 ${f_k}\left( {{X_i}} \right) = \mathop \sum \limits_{k = 0}^n {a_k}X_i^k$

为例

方差公式:

min,     (公式1)

公式1存在极小值的必要条件是方程在点Xi处的偏导为零,由此可得,

     (公式2)

即:

    (公式3)

将Xi近似为Yi,由公式3可以求出方程的唯一系数解ak(k = 0,1,2…n),从而确定拟合函数,对于多个点需要对系数ak进行优化,求得满足平均距离最低的系数。

猜你喜欢

转载自www.cnblogs.com/fujj/p/9615510.html