第三节 一元线性回归.doc

第三节 一元线性回归 在客观世界中, 普遍存在着变量之间的关系.数学的一个重要作用就是从数量上来揭示、表达和分析这些关系。而变量之间关系, 一般可分为确定的和非确定的两类. 确定性关系可用函数关系表示, 而非确定性关系则不然. 例如, 人的身高和体重的关系、人的血压和年龄的关系、某产品的广告投入与销售额间的关系等, 它们之间是有关联的，但是它们之间的关系又不能用普通函数来表示。我们称这类非确定性关系为相关关系。具有相关关系的变量虽然不具有确定的函数关系，但是可以借助函数关系来表示它们之间的统计规律，这种近似地表示它们之间的相关关系的函数被称为回归函数。回归分析是研究两个或两个以上变量相关关系的一种重要的统计方法。 在实际中最简单的情形是由两个变量组成的关系。考虑用下列模型表示. 但是，由于两个变量之间不存在确定的函数关系，因此必须把随机波动考虑进去，故引入模型如下 其中是随机变量，是普通变量，是随机变量（称为随机误差）。 回归分析就是根据已得的试验结果以及以往的经验来建立统计模型，并研究变量间的相关关系，建立起变量之间关系的近似表达式，即经验公式，并由此对相应的变量进行预测和控制等。 本节主要介绍一元线性回归模型估计、检验以及相应的预测和控制等问题。 内容分布图示 ★ 引言 ★ 引例 ★ 一元线性回归模型 ★ 最小二乘估计 ★ 例1 ★ 例2 ★ 最小二乘估计的性质 ★ 回归方程的检验假设 ★ 总偏差平方和的分解 ★ 回归方程的检验方法 ★ 例3 ★ 例4 ★ 预测问题 ★ 例5 ★ 控制问题 ★ 可化一元线性回归的情形 ★　 　例6 ★ 内容小结 ★ 课堂练习 ★ 习题8-3 ★ 返回 内容要点： 一、引例 为了研究某一化学反应过程中温度对产品得率的影响. 测得数据如下: 试研究这些数据所蕴藏的规律性. 二、一元线性回归模型 一般地,当随机变量与普通变量之间有线性关系时, 可设 , （1） 其中为待定系数。 设是取自总体的一组样本,而是该样本的观察值,在样本和它的观察值中的是取定的不完全相同的数值，而样本中的在试验前为随机变量，在试验或观测后是具体的数值，一次抽样的结果可以取得对数据，则有 , (2) 其中相互独立。在线性模型中,由假设知 (3) 回归分析就是根据样本观察值寻求的估计. 对于给定值, 取 (4) 作为的估计，方程(4)称为关于的线性回归方程或经验公式，其图像称为回归直线，称为回归系数. 三、最小二乘估计 对样本的一组观察值…,对每个, 由线性回归方程(4)可以确定一回归值 , 这个回归值与实际观察值之差 刻画了与回归直线的偏离度. 一个自然的想法就是: 对所有,若与的偏离越小, 则认为直线与所有试验点拟和得越好. 令 上式表示所有观察值与回归直线的偏离平方和, 刻划了所有观察值与回归直线的偏离度。所谓最小二乘法就是寻求的估计,使 利用微分的方法，求关于的偏导数, 并令其为零, 得 整理得 ， 称此为正规方程组，解正规方程组得 （5） 其中,, 若记 ， , 则 或叫做的最小二乘估计. 而 为关于的一元经验回归方程. 四、最小二乘估计的性质 定理1 若为的最小二乘估计，则分别是的无偏估计, 且 , 五、回归方程的显著性检验 前面关于线性回归方程的讨论是在线性假设, 下进行的. 这个线性回归方程是否有实用价值, 首先要根据有关专业知识和实践来判断，其次还要根据实际观察得到的数据运用假设检验的方法来判断. 由线性回归模型，可知，当时，就认为与之间不存在线性回归关系，故需检验如下假设: . 为了检验假设, 先分析对样本观察值的差异,它可以用总的偏差平方和来度量, 记为 , 由正规方程组, 有 = =. 令 , , 则有 上式称为总偏差平方和分解公式. 称为回归平方和,它由普通变量的变化引起的,它的大小(在与误差相比下)