一元线性回归—最小二乘法参数估计

 

目录

1.回归分析前的两个必不可少的检验

1.1自相关检验

1.2多重共线性检验

2.一元线性回归参数估计

3.点估计和区间估计的差别

4.计算回归系数——最简单的方法(无需得出参数推导式)

4.1建立二元回归分析表

4.2方程组法套路计算

5.二次多项式曲线预测模型参数估计


1.回归分析前的两个必不可少的检验


1.1自相关检验

自相关检验是多元回归和简单回归共同面临的问题。

检查随机扰动项\mu_i之间是否满足独立的原假设,使用D-W检验指标,统计量在1.5-2.5之间,则不存在显著的自相关问题。

若存在自相关问题,一般对所有原始数据进行差分消除它,即用每个数据的变化量代替原始变量,进行回归分析。

1.2多重共线性检验

仅仅是多元回归中的问题,由于各个自变量所提供的是各个不同因素的信息,可能变量之间存在信息的重叠,这样会导致建立错误的回归模型。

检查自变量之间的相关性,任意两个自变量x,z之间的相关系数为:

                                                     $$r_{xz}=\frac{\sum(x-\bar x)(z-\bar z)} {\sqrt {\sum(x-\bar x)^2} \sqrt{\sum(z-\bar z)^2}}=\frac{\sigma_{xz}}{\sigma_x\sigma_z}$$

x,z之间的相关系数越接近1,表明x,z之间越可能存在多重共线性。

2.一元线性回归参数估计


3.点估计和区间估计的差别


点估计:自变量代入建立的一元线性回归模型。

区间估计:带有精确度的估计,在一定概率保证程度下的区间估计方法。

4.计算回归系数——最简单的方法(无需得出参数推导式)


4.1建立二元回归分析表

4.2方程组法套路计算

解简单方程组就ok。

5.附多项式曲线模型,与线性回归参数估计步骤相同

5.1二次多项式曲线预测模型参数估计



发布了22 篇原创文章 · 获赞 3 · 访问量 3106

猜你喜欢

转载自blog.csdn.net/weixin_39920026/article/details/84668768