第3章 相关与回归分析000PPT.ppt

* * 24 This teleology is based on the number of explanatory variables nature of relationship between X Y. * * * * * * * * * * * * * * * * * * * * * * * * * 105 * * * ‘Standard Error’ is the estimated standard deviation of the sampling distribution, sbP. * * * 多元线性回归模型（基本假定） 自变量 x1，x2，…xp是确定性变量，不是随机变量 随机误差项ε的期望值为0，且方差σ2 都相同 误差项ε是一个服从正态分布的随机变量，即ε~N(0,σ2)，且相互独立 3.4 非线性回归分析（略） 基本概念 非线性模型及其线性化方法 非线性回归 1. 因变量 y 与 x 之间不是线性关系 2. 可通过变量代换转换成线性关系 用最小二乘法求出参数的估计值 并非所有的非线性模型都可以化为线性模型 几种常见的非线性模型 指数函数 线性化方法 两端取对数得：lny = ln? + ? x 令：y = lny，则有y = ln? + ? x 基本形式： 图像 ? ? ? ? ? ? 几种常见的非线性模型 幂函数 线性化方法 两端取对数得：lg y = lg? + ? lg x 令：y = lgy，x= lg x，则y = lg? + ? x 基本形式： 图像 0? 1 ? ? 1 ? = 1 -1? 0 ? -1 ? =-1 几种常见的非线性模型 双曲线函数 线性化方法 令：y = 1/y，x= 1/x, 则有y = ? + ? x 基本形式： 图像 ? 0 ? 0 几种常见的非线性模型 对数函数 线性化方法 x= lgx , 则有y = ? + ? x 基本形式： 图像 ? ? 0 ? 0 几种常见的非线性模型 S 型曲线 线性化方法 令：y = 1/y，x= e-x, 则有y = ? + ? x 基本形式： 图像 非线性回归（实例） 【例】为研究生产率与废品率之间的关系，记录数据如下表。试拟合适当的模型。 废品率与生产率的关系 生产率（周/单位) x 1000 2000 3000 3500 4000 4500 5000 废品率（%） y 5.2 6.5 6.8 8.1 10.2 10.3 13.0 非线性回归（实例） 生产率与废品率的散点图 非线性回归（实例） 用线性模型：y =?0??1x+? ，有 y = 2.671+0.0018x 用指数模型：y = ?? x ，有 y =4.05?(1.0002)x 比较 直线的残差平方和＝5.3371指数模型的残差平方和＝6.11。直线模型略好于指数模型。 * * * * * * * * * * * * * * * * * * * * * 1 判定系数 r 2 ：离差平方和的分解 1.因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面： 由于自变量 x 的取值不同造成的 除 x 以外的其他因素(如x对y的非线性影响、测量误差等)的影响 2.对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表示。 离差平方和的分解图示 x y y { } } ? 离差分解图 离差平方和的分解 （三个平方和的关系） 2. 两端平方后求和有 1.从图上看有 SST = SSR + SSE 总变差平方和 （SST） { 回归平方和 （SSR） { 残差平方和 （SSE） { 离差平方和的分解 （三个平方和的意义） 1.总平方和(SST) 反映因变量的 n 个观察值与其均值的总离差。 2.回归平方和(SSR) 反映自变量 x 的变化对因变量 y 取值变化的影响，或者说，是由于 x 与 y 之间的线性关系引起的 y 的取值变化，也称为可解释的平方和。 3.残差平方和(SSE) 反映除 x 以外的其他因素对 y 取值的影响，也称为不可解释的平方和或剩余平方和。 样本决定系数(判定系数r2) 1.回归平方和占总离差平方和的比例 反映回归直线的拟合程度； 取值范围在 [ 0 , 1 ] 之间； r2 ?1，说明回归方程拟合的越好；r2?0，说明回归方程拟合的越差； 判定系数等于相关系数的平方，即r2＝(r)2 。 估计标准误差 Sy 1.实际观察值与回归估计值离差平方和的均方根； 2.反映实际观察值在回归直线周围的分散状况； 3.从另一个角度说明了回归直线的拟合程度； 4.计算公式为