线性回归精品简介.pdfVIP

线性回归简介 张伟平 例子 ：Hooke’s law 设想在胡克定律发现之前…… 测量x 悬挂物重量 ，y 弹簧伸长长度 相关分析 ：x增加时 ，y也增加。很强的相关性 问题 ：x ，y具体的数量关系 ？X增加一个单位 ，y增加多少 ？是不是 正比关系 ？ 解决方案 ：回归模型 2 例子 ：Hooke’s law 研究设计 ：悬挂不同重量W的物体于弹簧末端 ， 测量弹簧长度L。 实验 ：Table1给出了伯克利大学一个物理课上 的实验结果 初步探索 ：散点图显示了L与W的关系 ： 较强的线性关系 ，但L测量有随机误差 3 例子 ：Hooke’s law 4 简单线性模型 5 简单线性模型 6 最小二乘法 误差平方和最小化 求导得到正则方程 ： 7 最小二乘法 得回归系数的最小二乘估计 从而得到回归直线(的估计): 8 父子身高数据 轮廓线是概率密度等高线 ，r刻画其扁平 程度 9 父子身高数据 通过最小二乘拟合 ，得到回归直线 ： 在两端有向中心回归的趋势 ！ 10 残差平方和与误差方差估计 11 残差平方和与误差方差估计 残差平方和RSS(Residual Sum of Squares): 注意到误差的方差为 12 假设检验(正态模型) 若假设误差为正态分布 ，即 假设检验 H0:b 0 13 假设检验(正态模型) 14 假设检验(正态模型) 我们有分解 称为判定系数 ，其为(复)相关系数平方 由F检验 即回归平方和的大小 （相对于误差 ）可用来进行检验 ！ 15 因果与关联 • 因果 ： 其他条件不变时