一元回归：依变数Y对一个自变数X的回归。
多元回归或复回归（multiple regression）:依变数依两个或两个以上自变数的回归。
主要内容：
（1）确定各个自变数对依变数的单独效应和综合效应，建立由各个自变数描述和预测依变数反应量的多元回归方程。
（2）对上述综合效应和单独效用的显著性进行测验，并在大量自变数中选择仅对依变数有显著效用的自变数，建立最优多元回归方程
（3）评定各个自变数对依变数的相对重要性，以便研究者抓住关键，能动地调节依变数的响应量。
一、多元回归方程
（1）多元回归线性模型和多元回归方程式
依变数同时受到m个自变数X1，X2，...,Xm的影响，且这m个自变数皆与Y成线性关系，这m+1个变数的关系就形成m元线性回归：
线性模型： 其中，
则一个m元线性回归的样本观察值组为：
在一个具有n组观察值的样本中，第j组观察值（j=0,1,2,...,m）可表示为,便是M=m+1维空间中的一个点。
一个m元线性回归方程可给定为：
b0是都为0时y的点估计值
b1是在皆保持一定时，x1每增加一个单位对y的效用，称为
不变（取常量）时x1对y 的偏回归系数（partial regression coefficient）。
在多元回归系统中，b0一般很难确定其专业意义，它仅是调节回归响应面的一个统计数；bi(i=1,2,...,m)表示了各个自变数xi对依变数y的各自效应，是这些各自效应的集合，代表多有自变数对依变数的综合效用。
（2）多元回归统计数的计算
二、多元回归的假设测验
测验m个自变数的综合对Y的效用是否显著。无效假设：,备择假设：
不全为0
三、最优多元线性回归方程的统计选择
一个实际的多变数资料，既含有对Y 有显著效用的自变数，也含有无显著效应的自变数。在偏回归关系的假设测验中，通常一些bi显著，另一些bi不显著。
多元线性回归分析中，必须剔除没有显著效用的自变数，以使所得的多元回归方程比较简化而又能较准确地分析和预测Y的反应。剔除不显著自变数的过程称为自变数的统计选择，所得的仅包含显著自变数的多元回归方程，叫做最优的（在被研究的自变数范围内）多元线性回归方程。
由于自变数间可能存在相关，当m元线性回归中不显著的自变数有几个时，并不能肯定这些自变数对Y的线性效用不显著，而只能肯定偏回归平方和最小的哪一个自变数不显著。当剔除了这个不显著且偏回归平方和最小的自变数后，其余原来不显著的自变数可能变为显著，而原来显著的自变数也可能变得不显著。为了获得最优方程，回归计算要一步一步做下去，直至所有不显著的自变数皆被剔除为止。这一统计选择自变数的过程称为逐步回归（stepwise regression）。
自变数统计选择的具体步骤：
（1）：m个自变数的回归分析，一直进行到偏回归的假设测验。若各自变数的偏回归皆显著，则分析结束，所得方程就是最优多元回归方程；若有一个或一个以上自变数的偏回归不显著，则剔除那个偏回归平方最小的自变数（设为Xp）,进行第二步分析。
（2）：m-1个自变数的回归分析，也是一直进行到偏回归的假设测验。这一步的计算程序是将矩阵X中的Xp所占有的那一列（第p+1列）剔除，再由新X计算X'X、（X'X）^-1和b等，从而获得新的Q和。如果这一步仍有一个以上自变数的偏回归不显著，则再将偏回归平方和最小的那个变数（设为Xq）剔除，进入第三步分析。若第一步中有二个或更多个自变数的偏回归不显著，这一步可轮流试踢，直到找到最需剔除的一个，在进入第三步。
（3）m-2个自变数的回归分析，又一直进行到偏回归的假设测验。这一步的计算是在X中剔除Xq所占的一行，其余过程同第二步。
如此重复进行，直至留下的所有自变数的偏回归都显著，即得最优多元线性回归方程。