第6章方差分析与回归分析.pptVIP

第6章　方差分析与回归分析 第2节　回归分析 1.回归分析的概念 现实世界中，变量之间相互依赖、相互制约的关系，可大致分为两类：一类是函数关系，即变量之间存在着确定的关系．例如圆半径与圆面积的关系是 另一类是相关关系．例如消费者对某种商品的月需求量与该种商品的价格的关系．又如农作物的单位面积产量与降雨量、施肥量等的关系.这类关系不能用函数来表达．变量之间的这种非确定性关系，称为相关关系． 对于相关关系，虽然不能求出变量之间精确的函数关系式，但是通过大量的观测数据，可以发现它们之间存在着一定的统计规律性． 由一个(或一组)非随机变量来估计或预测某一个随机变量的观测值时，所建立的数学模型和所进行的统计分析，称为回归分析.如果这个模型是线性的，就称为线性回归分析.研究两个变量间的相关关系的回归分析，称为一元回归分析． 2.一元线性回归 在一元回归分析里，我们要考察的是随机变量 与非随机变量 之间的相互关系．虽然 和 之间没有确定的函数关系.但是我们可以借助函数关系来表达它们之间的统计规律性．用以近似地描述具有相关关系的变量间的联系的函数，称为回归函数． 由于 与 之间不存在完全确定的函数关系，因此必须把随机波动产生的影响考虑在内.于是我们的模型的一般形式为 其中 是随机项． 进行 次独立试验，观测值如下表所示： 取一个容量为 的样本 ，则有 其中， 满足 (1) (2) 相互独立. 我们用 即 来描述点 与回归直线沿平行于纵轴方向的远近距离，则 定量地描述了回归直线与 个观测点的接近程度．要找出一条总的看来最接近这 个观测点的直线，就是要找出使 达到最小值的 (记作 )．由于平方又叫做二乘方．因此把这种使“偏差平方和为最小”的方法称为最小二乘法.这样求得的 称为 的最小二乘估计． 的求法如下： 整理可得 解这个方程组，可得 其中 可以证明，所求得的 ，确实使 取得最小值. 于是，所求的回归直线方程为 解　列表计算 前面提到，只有当两个变量间存在线性相关关系时，才能用直线方程大致表示它们之间的关系.但是，对任意两个变量的一组观察数据 都可以用最小二乘法形式上求得对的回归直线.这样就需要考察与间是否确有线性相关关系，能否用直线方程来表示，即判断回归方程是否有意义.这种问题一般称为回归方程的显著性检验． 在 的假设下，如果 ，说 明 值的变化对 没有影响，因而变量 不能控制变量 ，用回归直线方程 不能描述两个变量 与 之间的关系，因此，要判明 与 是否确有线性相关关系，就是要检验假设 ．这和前面介绍的假设检验一样，首先要构造统计量 设 为变量 ， 间的一组容量为 的样本， 为由这组样本出发求得的变量 ， 间的回归直线方程，则 就表示了观测数据的总的变动情况，故称 为总变动平方和．因为 而 这里 对 的线性影响后所剩余的平方和，因此称 为剩余平方和(或残差平方和)，它主要反映了试验误差的大小． 数学上已经证明：在 成立时， . 这样，我们得到显著性检验的步骤如下： (1) 选取统计量