1一元线性回归方程.ppt

第一章 一元线性回归模型 §1.1 模型的建立及其假定条件 二、随机误差项εi的假定条件 §1.2 一元线性回归模型的参数估计 普通最小二乘法（Ordinary Least Squares） OLS回归直线的性质 OLSE的性质 一、普通最小二乘法 二、OLS回归直线的性质 §1.3 回归方程的显著性检验 §1.4 回归系数估计值的置信区间 §1. 5 一元线性回归方程的预测和控制 点预测Yi 区间预测 （1）单个值Yi的区间预测 （2）均值E(Yi)的区间预测 控制 * * 回归分析 变量间的关系 确定性关系或函数关系y =f (x) 人的身高和体重 家庭的收入和消费 商品的广告费和销售额 粮食的施肥量和产量 非确定性关系 称这种非确定性关系为统计关系或相关(相依)关系. x Y 相关关系 以下设 x 为自变量(普通变量) Y 为因变量(随机变量) .现给定 x 的 n 个值 x1,…, xn, 观察 Y 得到相应的 n 个值 y1,…,yn, (xi ,yi) i=1,2,…, n 称为样本点. 以 (xi ,yi) 为坐标在平面直角坐标系中描点,所得到的这张图便称之为散点图. 例如：研究某市可支配收入X对人均消费支出Y 的影响。建立如下理论回归模型： Yi = ?0 + ?1 Xi + εi 其中： Yi——被解释变量； Xi——解释变量； ε I ——随机误差项； ?0，?1—回归系数 随机变量ε i包含： 回归模型中省略的变量; 确定数学模型的误差； 测量误差 一、一元线性回归模型 5 6 7 5 6 6 7 5 6 5 户数 1211 966 1043 685 750 678 707 445 462 325 总支出 191 － 162 － － － 115 － － － 185 189 160 － 140 125 113 － 88 － 180 175 157 145 135 118 108 98 85 75 178 165 152 144 130 116 103 94 80 70 175 155 140 140 120 110 95 90 74 65 152 145 137 136 115 107 93 84 70 60 150 137 135 120 110 102 80 79 65 55 260 240 220 200 180 160 140 120 100 80 X Y 假设调查了某社区所有居民，他们的人均可支配收入和消费支出数据如下： Y X 55 100 120 140 160 80 描出散点图发现：随着收入的增加，消费“平均地说”也在增加，且Y的条件均值均落在一根正斜率的直线上。这条直线称为总体回归线。 为了估计总体回归模型中的参数，需对随机误差项作出如下假定： 假定1：零期望假定：E(εi) = 0。 假定2：同方差性假定：Var(εi) = ? 2。 假定4： εi 服从正态分布，即εi ? N (0, ? 2 )。 假定3：无序列相关假定：Cov(εi, εj) = 0, (i ? j )。 前三个条件称为G-M条件 对于所研究的问题，通常真实的回归直线 E(Yi|Xi) = ?0 + ?1Xi 是观测不到的。可以通过收集样本来对真实的回归直线做出估计。 经验回归直线： 其中： 为Yi的估计值（拟合值）； 为 ?0 , ?1 的估计值； 如果观测值到这条直线的纵向距离（真实值与估计值的偏差）用ei表示（称为残差），则经验回归模型为： （ei为εi的估计值） 注意：分清4个式子的关系 （4）经验（估计的）回归直线： （1）理论（真实的）回归模型： （3）经验（估计的）回归模型： （2）理论（真实的）回归直线： 对于参数的估计采用最小二乘估计法、最小二乘法的原则是以“残差平方和最小” 确定直线位置（即估计参数）。（Q为残差平方和） Q = = = 则通过Q最小确定这条直线，即确定 ，以 为变量，把它们看作是Q的函数，就变成了一个求极值的问题，可以通过求导数得到。 求Q对 两个待估参数 的偏导数： = = 0 = = 0 正规方程组 即 根据以上两个偏导方程得以下正规方程（Normal equation） ： 若记 则 （1）估计的回归直线 过点 . （3） Yi 的拟合值的平均数等于其样本观测值的平均数 . = = = （2）