数学建模多元回归分析.ppt

多元线性回归模型 多元线性回归模型 （概念要点） 一个因变量与两个及两个以上自变量之间的回归 描述因变量 y 如何依赖于自变量 x1 ， x2 ，…， xp 和误差项 ? 的方程称为多元线性回归模型 涉及 p 个自变量的多元线性回归模型可表示为 多元线性回归模型 （概念要点） ? 对于 n 组实际观察数据(yi ; xi1,，xi2 ， ? ，xip )，(i=1,2,…,n)，多元线性回归模型可表示为 多元线性回归模型（基本假定） 自变量 x1，x2，…，xp是确定性变量，不是随机变量 随机误差项ε的期望值为0，且方差σ2 都相同 误差项ε是一个服从正态分布的随机变量，即ε~N(0,σ2)，且相互独立 多元线性回归方程 （概念要点） 描述 y 的平均值或期望值如何依赖于 x1， x1 ，…，xp的方程称为多元线性回归方程 多元线性回归方程的形式为 E( y ) = ?0+ ?1 x1 + ?2 x2 +…+ ?p xp 多元线性回归方方程的直观解释 多元线性回归的估计(经验)方程 总体回归参数 是未知的，利用样本数据去估计 参数的最小二乘估计 参数的最小二乘法 （要点） 回归方程的显著性检验 多重样本决定系数 （多重判定系数 R2 ） 回归平方和占总离差平方和的比例 修正的多重样本决定系数 （修正的多重判定系数 R2 ） 由于增加自变量将影响到因变量中被估计的回归方程所解释的变异性的数量，为避免高估这一影响，需要用自变量的数目去修正R2的值 用n表示观察值的数目，p表示自变量的数目，修正的多元判定系数的计算公式可表示为 回归方程的显著性检验 （线性关系的检验 ） 检验因变量与所有的自变量和之间的是否存在一个显著的线性关系，也被称为总体的显著性检验 检验方法是将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较，应用 F 检验来分析二者之间的差别是否显著 如果是显著的，因变量与自变量之间存在线性关系 如果不显著，因变量与自变量之间不存在线性关系 回归方程的显著性检验 （步骤） 提出假设 H0：?1??2????p=0 线性关系不显著 H1：?1，?2，?，?p至少有一个不等于0 回归系数的显著性检验（要点） 如果F检验已经表明了回归模型总体上是显著的，那么回归系数的检验就是用来确定每一个单个的自变量 xi 对因变量 y 的影响是否显著 对每一个自变量都要单独进行检验 应用 t 检验 在多元线性回归中，回归方程的显著性检验不再等价于回归系数的显著性检验 回归系数的显著性检验 （步骤） 提出假设 H0： bi = 0 (自变量 xi 与 因变量 y 没有线性关系) H1： bi ? 0 (自变量 xi 与 因变量 y有线性关系) 计算检验的统计量 t 一个二元线性回归的例子 一个二元线性回归的例子(Excel 输出的结果) 一个二元线性回归的例子(计算机输出结果解释) 销售额与人口数和年人均收入的二元回归方程为 非线性回归 1. 因变量 y 与 x 之间不是线性关系 2. 可通过变量代换转换成线性关系 用最小二乘法求出参数的估计值 并非所有的非线性模型都可以化为线性模型 几种常见的非线性模型 ? 指数函数 几种常见的非线性模型 ? 幂函数 几种常见的非线性模型 ? 双曲线函数 几种常见的非线性模型 ? 对数函数 几种常见的非线性模型 ? S 型曲线 非线性回归（实例） 【例】为研究生产率与废品率之间的关系，记录数据如下表。试拟合适当的模型。 非线性回归（实例） 非线性回归（实例） 用线性模型：y =?0??1x+? ，有 y = 2.671+0.0018x 用指数模型：y = ?? x ，有 y =4.05?(1.0002)x 比较 直线的残差平方和＝5.3371指数模型的残差平方和＝6.11。直线模型略好于指数模型 本章小结 相关系数与相关分析 一元线性回归模型、回归方程与估计的回归方程 多元线性回归模型、回归方程与估计的回归方程 回归方程与回归系数的显著性检验 非线性回归的线性化 5. 用Excel 进行回归分析 结 束 12 9 - * 三峡大学理学院 于 林 数理统计 第三节 多元线性回归 一. 多元线性回归模型 回归参数的估计 回归方程的显著性检验 回归系数的显著性检验 多元线性回归的预测 b0 ，b1，b2 ，?，bp是参数 ? 是被称为误差项的随机变量 y 是x1,，x2 ，? ，xp 的线性函数加上误差项? ? 说明了包含在y里面但不能被p个自变量的线性关系所解