课件：统计学七.ppt

多元线性回归的最小二乘估计式 正规方程组可简记为矩阵形式 存在 参数向量β的最小二乘估计为 参数最小二乘估计的性质 可以证明：多元线性回归的最小二乘估计也是最佳线性无偏估计。 随机误差项方差的估计 方差 未知，需要利用样本回归的残差平方 和去估计。 可以证明， 是随机扰动项方差 的无偏估计 三、多元线性回归模型的检验 拟合优度检验 多元线性回归离差平方和的分解式 变差 TSS = RSS + ESS (总离差平方和) (残差平方和) (回归平方和) 自由度 n-1 = n-k + k-1 多重可决系数： 修正的可决系数 为什么要修正？ 可决系数是自变量个数的不减函数，比较因变量相同而自变量个数不同的两个模型的拟合程度时，不能简单地对比多重可决系数。需要用自由度去修正多重可决系数中的残差平方和与总离差平方和 相互关系： 回归参数的显著性检验 —— t 检验 在多元回归中可以证明 其中： 是矩阵 第 j 行第 j 列的元素。 因为 未知，故 也未知。现用 代替 对原假设 分别作 t 检验 ，可构造统计量 ： 回归方程的显著性检验 —— F 检验 目的: 检验多个变量联合对因变量是否有显著影响 方法: 在方差分析的基础上利用F检验进行 假定: 不全为零 方 差 分 析 表 离差来源 平方和 自由度 方差 源于回归 源于残差 k-1 n-k ESS/(k-1) RSS/( n-k) 总离差 n-1 F检验的方法 给定显著性水平，在F分布表中查出自由度为k-1和n-k 的临界值 F服从自由度为 k-1 和 n-k 的 F 分布。 F检验：在 成立的条件下，统计量 : ▲若 ，则拒绝 ， 说明回归方程中所有自变量联合起来对因变量有显著影响 ▲若 ，则接受 ， 说明回归方程中所有自变量联合起来对因变量影响不显著 本章小结 1、各种变量相互之间的依存关系： 确定性的函数关系 、不确定性的相关关系 2、变量间的相关关系的程度用相关系数去度量 3、现代意义的回归是关于一个变量对另一个或另外多个变量依存关系的研究 。回归分析的目的是要用样本回归函数去估计总体回归函数。 4、线性回归的各项基本假定 5、简单线性回归和多元线性回归的最小二乘估计 6、可决系数或修正的可决系数去度量回归的拟合优度 本章小结（续） 7、各个回归系数显著性的t检验或P值检验 8、回归方程的显著性检验：在方差分析基础上的F检验 9、利用估计的线性回归模型对因变量作点预测和区间预测 10、应用Excel去实现 相关分析和回归分析的实际计算和图形描绘 第七章重要公式 1、总体相关系数 2、样本相关系数 3、总体回归函数（PRF） 4、样本回归函数（SRF） 第七章重要公式（续1） 5、最小二乘估计 6、 的无偏估计 7、可决系数 第七章重要公式（续2） 8、修正可决系数 9、t检验统计量 10、F检验统计量 第7章结束了! THANK YOU SUCCESS * * 可编辑 一、相关分析与回归分析的联系 回归的古典意义： 高尔顿遗传学的回归概念 父母身高与子女身高的关系: 无论高个子或低个子的子女