第十章相关与回归总论.pptVIP

§2.4 回归系数的推断 假设检验所需经典线性回归模型假设： 假定1：自变量X和误差项 不相关，即 。 假定2：误差项 的均值为0， 。 假定3：同方差假定： 的方差为一常数，即 。 假定4：无自相关：即两个误差项之间是不相关的，即： 。 * §2.4 回归系数的推断 §2.4.1 最小二乘估计量的最优线性无偏性 在给定经典回归模型的假定下，由高斯-马尔科夫定理保证了：最小二乘估计量是最优线性无偏的估计量。可通过蒙特卡罗模拟实验来验证 ， 的无偏性。假设已知如下的总体回归方程（参数值是真实已知的）： 其中 服从均值为0，方差为1的正态分布。 * §2.4 回归系数的推断 现在假定X的观测值为1、2、3、4、5、6、7、8、9、10。根据误差的分布分别生成10个误差值，再由X的观测值和给定的系数，计算出Y的值，记为样本1。再根据误差的分布分别生成10个误差值，由X的观测值和给定的系数，计算出Y的值，记为样本2。按照这个方法生成30组样本。分别对每个样本进行回归，得到估计的系数 。由此可以得到30个不同的 ，见表10-4。 * §2.4 回归系数的推断 表10-4 蒙特卡罗模拟实验：1.5+0.6Xi+ ; ~N(0，1) * §2.4 回归系数的推断 可以算出 的平均值是1.33、0.61，和真实参数1.5和0.6已经非常接近了。在这里例子中，如果做更多次的抽样实验，会得到更加逼近的估计值。 * §2.4 回归系数的推断 §2.4.2 回归系数的抽样分布 中Yi依赖于X和误差项 ，而 是一个随机变量，因此Yi也是随机变量。同时作为Yi的线性组合的 也是随机变量。因此它们的值根据样本数据的不同而变化。 为了了解估计量抽样的差异性，对随机变量进行推断，需要求出估计量的方差，并求出它们的抽样分布。 * §2.4 回归系数的推断 的方差： 服从均值为 ，方差为 的正态分布，即 * §2.4 回归系数的推断 的方差为： 服从均值为 ，方差为 的正态分布，即 * §2.4 回归系数的推断 残差的方差（估计误差的方差）公式 对 进行调整得到 的无偏估计为： * §2.4 回归系数的推断 【例10.4 】在例10.3中拟合的产品销售额对广告投入额的回归方程中，考察系数估计量 和 的方差。 * §2.4 回归系数的推断 解： 记产品销售额为Y，广告投入额为X，回归方程为 * §2.4 回归系数的推断 * §2.4 回归系数的推断 §2.4.3 回归系数的显著性检验 当使用 代替 和 中的 时有： * §2.4 回归系数的推断 系数检验步骤： 1．提出假设： : = 0 (没有线性关系) : ? 0 (有线性关系) 2. 计算检验的统计量 3. 确定显著性水平?，并进行决策： ，拒绝 。 * §2.4 回归系数的推断 【例10.5 】以产品销售额和广告投入额的数据为例，对系数 的显著性水平做检验。 解：已知回归方程为： * §2.4 回归系数的推断 设 : = 0, : ? 0。 在显著性水平 的条件下， ， 因此拒绝域为： 。 因此拒绝原假设，认为系数 显著不为0。 * §2.5 回归方程的评价 §2.5.1 回归方程的显著性检验 回归方程的显著性检验从对因变量Y取值变化的成因分析入手。 表10-5 一元线性回归方差分析表 * §2.5 回归方程的评价 回归平方和 回归方程反映的是自变量不同取值变化对因变量的线性影响规律，因此由此引起的Y的变差平方和称为回归平方和（SSR）；自由度是n-1。 残差平方和 由随机因素引起的Y的变差平方和通常称为残差平方和（SSE）。自由度为n-k-1。 总离差平方和 总离差平方和（SST）指的是数据总的波动情况，用观测值Yi和平均值 的离差平方和 表示。自由度是自变量的个数k。