回归直线方程—最小二乘法.ppt

  1. 1、本文档共19页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
回归直线方程—最小二乘法精要

2 0 y=2x 问题:在一次对人体脂肪含量与年龄关系的研究中, 研究人员获得了一组样本数据: 年龄 23 27 39 41 45 49 50 53 54 56 57 58 60 61 脂肪 9.5 17.8 21.2 25.9 27.5 26.3 28.2 29.6 30.2 31.4 30.8 33.5 35.2 34.6 散点图 回 归 直 线 回归直线概念:散点图中心的分布从整体上看大致是一条直线附近,该直线称为回归直线 求出回归直线的方程 我们就可以比较清楚地了解年龄与体内脂肪含量之间的相关性 由此可以预测相应年龄段的脂肪含量 那我们又该如何具体求这个回归方程呢? 方法汇总 ? 1.画一条直线 2.测量出各点与它的距离 3.移动直线,到达某一位置使距离的和最小,测量出此时直线的斜率与截距,得到回归方程。 1.选取两点作直线 ps:使直线两侧 的点的个数基本相同。 1.在散点图中多取几组点,确定出几条直线的方程 2.分别求出各条直线的斜率、截距的平均数 3.将这两个平均数当成回归方程的斜率与截距。 法一 法四 法二 法三 ? 上面三种方法都有一定的道理,但总让人感到可靠性不强. 回归直线与散点图中各点的位置用数学的方法来刻画应具有怎样的关系? 方法汇总 1.画一条直线 2.测量出各点与它的距离 3.移动直线,到达某一位置使距离的和最小,测量出此时直线的斜率与截距,得到回归方程。 1.选取两点作直线 ps:使直线两侧 的点的个数基本相同。 1.在散点图中多取几组点,确定出几条直线的方程 2.分别求出各条直线的斜率、截距的平均数 3.将这两个平均数当成回归方程的斜率与截距。 最小二乘法 法一 法四 法二 法三 求回归方程的关键 ——如何使用数学方法来刻画“从整体上看,各点到此直线的距离最小”。 假设两个具有线性相关关系的变量的一组数据:(x1, y1),(x2, y2),...... (xn, yn) 下面讨论如何表达这些点与一条直线y=bx+a之间的距离。 最小二乘法的公式的探索过程如下: 1.设已经得到具有线性相关关系的变量的一组数据: (x1,y1),(x2,y2),…,(xn,yn) 2.设所求的回归直线方程为Y=bx+a,其中a,b是待定的系数。当变量x取x1,x2,…,xn时,可以得到 Yi=bxi+a(i=1,2,…,n) 3.它与实际收集得到的yi之间偏差是 yi-Yi=yi-(bxi+a)(i=1,2,…,n) (x1,y1) (x2,y2) (xi ,yi ) yi-Yi y x 这样,用这n个偏差的和来刻画“各点与此直线的整体偏差”是比较合适的。 因此用 表示各点到直线y=bx+a的“整体距离” (x1 ,y1) (x2 ,y2) (xi ,yi) yi-(bxi+a) (x1,y1) (x2,y2) (xi,yi) (xn,yn) 由于绝对值使得计算不方便,在实际应用中人们更喜欢用 (x1,y1) (x2,y2) (xi,yi) (xn,yn) 这样,问题就归结为:当a,b取什么值时Q最小?即点到直线 的“整体距离”最小. 这样通过求此式的最小值而得到回归直线的方法,即使得样本数据的点到回归直线的距离的平方和最小的方法叫做最小二乘法. 根据有关数学原理推导,a,b的值由下列公式给出 Σ(yi-Yi)的最小值 n i=1 Σ|yi-Yi|的最小值 n i=1 Σ(yi-Yi)2的最小值 n i=1 Q=(y1-bx1-a) 2+(y2-bx2-a) 2+…+(yn-bxn-a) 2 当a,b取什么值时,Q的值最小,即总体偏差最小 * 求线性回归方程的步骤: (1)求平均数 ; (2)计算 与 yi 的乘积,再求 ; (3)计算 ; (4)将上述有关结果代入公式,写出回归 直线方程. xi 年龄 23 27 39 41 45 49 50 53 54 56 57 58 60 61 脂肪 9.5 17.8 21.2 25.9 27.5 26.3 28.2 29.6 30.2 31.4 30.8 33.5 35.2 34.6 根据最小二乘法公式,利用计算机可以求出其回归直线方程 散点图 回 归 直 线 思考:将表中的年龄作为x代入回归方程,看看得出的数值与真实数值之间的关系,从中

文档评论(0)

dajuhyy + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档