ch多元回归分析.pdf

中国地质大学•北京 数学教研室 第五章 多元回归分析 §1 一元线性回归 变量之间的关系大致可以归纳为两类关系： 确定性关系( 函数关系) ：变量之间存在着某种完全确定的关系。 非确定性关系(统计关系) ：变量之间由于受到某些随机因素的影响 而呈现出一种不确定的关系。 非确定性关系可以分为两大类： (1) 相关关系：两个变量处于完全对等的位置，且两个变量皆为随 机变量，常用相关系数来度量。如：数学成绩与外语成绩等。 (2) 回归关系：一个变量的变化是另一个变量变化的原因。如：消 x 费量Y 与可支配收入X 之间便是一种回归关系。这样对应于一个 的 y x y 值， 有多个不同的值相对应， 与 呈现出不确定性的关系，此时： y f x    ( 为随机因素) x , y 表现在图形上， 的点不是完全处于一条直线(或曲线)上，而是围 绕在一条理论线的两旁变化。 Y X 注：相关分析和回归分析都是研究和度量两个或两个以上变量之 间的数量关系的方法，二者相辅相成又有区别。（1）相关分析不考虑 变量间的因果关系，只度量变量间相互依存关系的密切程度，通常用 相关系数来度量；（2）通常把研究回归模型时所采用的估计方法、检 验方法及预测方法称为回归分析。包括 （1）根据样本观测值对参数进行估计，求得回归方程； （2）对回归方程及参数估计值进行统计推断检验； （3）利用回归方程进行预测。 1 中国地质大学•北京 数学教研室 两个变量具有回归关系，则一定是相关关系，但具有相关关系的变量 却不一定具有回归关系。 “回归”一词最初来源于生物学，英国生物学家F.Galton 在研究身 高的遗传问题时发现，就身高的平均意义而言，父辈的身高和子辈的 身高之间存在着某种关系。K.Pearson 通过对1000 多个家庭作抽样调 查，证实了F.Galton 的结论。在统计中“回归”一词用来泛指变量之间 的回归关系及回归分析方法，即根据解释变量的变化来估计或预测被 解释变量的平均变化状态。 一. 一元线性回归模型 一元线性回归模型的形式为： y x  0 1 其中, 称为回归系数，x 是系统因素，由解释变量可以解释 0 1 0 1  y 的部分； 为随机因素，即对 有着影响所有不确定因素的总和，通 常要求 满足古典假定(Gauss 假定): 2 ，称之为古典线性  ~ N (0,) 回归模型。 x , y , x , y ,  x , y 假定已有样本观测值：    符合线性回归 1 1 2 2 n n 模型，则样本形式：