回归分析的原理及应用.pptVIP

第七讲 回归分析的原理与应用 杨伊生 内蒙古师范大学教育科学学院 导言 回归分析是研究变量与变量之间的关系，分析一些变量对某个变量的影响并进行预测和控制的一种数理统计方法。 变量之间的关系可以分为函数关系和相关关系。函数关系可以用一个精确的定量关系式来表示。相关关系不能用一个确定的函数关系式来描述，存在一定的不确定关系。如何预测因变量的取值，就靠回归分析来完成 回归分析在教育心理中的应用包括：教育目标的定量指标；对教育目标的定量指标进行预测和对影响这一指标的因素进行控制；找出对教育目标真正起作用的主要因素和它们之间的定量关系式。 基本概念的理解 什么是回归分析 从一组样本数据出发，确定变量之间的数学关系式。 对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著。 利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度。 基本概念的理解 回归分析与相关分析的区别 相关分析中，变量x变量y处于平等的地位；回归分析中，变量y称为因变量，处在被解释的地位，x称为自变量，用于预测因变量的变化。 相关分析中所涉及的变量x和y都是随机变量；回归分析中，因变量y是随机变量，自变量 x可以是随机变量，也可以是非随机的确定变量。 相关分析主要是描述两个变量之间线性关系的密切程度；回归分析不仅可以揭示变量x 对变量y的影响大小，还可以由回归方程进行预测和控制。 基本概念的理解 回归模型的类型 基本概念的理解 回归模型 1 .回答“变量之间是什么样的关系？” 2 .方程中运用 1 个数字的因变量(响应变量) 被预测的变量 1 个或多个数字的或分类的自变量 (解释变量) 用于预测的变量 3. 主要用于预测和估计 一元线性回归模型 概念要点 当只涉及一个自变量时称为一元回归，若因变量 y 与自变量 x 之间为线性关系时称为一元线性回归； 对于具有线性关系的两个变量，可以用一条线性方程来表示它们之间的关系； 描述因变量 y 如何依赖于自变量 x 和误差项? 的方程称为回归模型 一元线性回归模型 概念要点 当只涉及一个自变量时称为一元回归，若因变量 y 与自变量 x 之间为线性关系时称为对于只涉及一个自变量的简单线性回归模型可表示为： 一元线性回归模型 对模型的说明 模型中，y 是 x 的线性函数(部分)加上误差项 线性部分反映了由于 x 的变化而引起的 y 的变化 误差项 ? 是随机变量 反映了除 x 和 y 之间的线性关系之外的随机因素对 y 的影响 是不能由 x 和 y 之间的线性关系所解释的变异性 ?0 和 ?1 称为模型的参数 一元线性回归模型 基本假定 误差项ε是一个期望值为0的随机变量，即E(ε)=0。对于一个给定的 x 值，y 的期望值为E ( y ) =? 0+ ? 1 x 对于所有的 x 值，ε的方差σ2 都相同 误差项ε是一个服从正态分布的随机变量，且相互独立。即ε~N( 0 ,σ2 ) 独立性意味着对于一个特定的 x 值，它所对应的ε与其他 x 值所对应的ε不相关 对于一个特定的 x 值，它所对应的 y 值与其他 x 所对应的 y 值也不相关 一元线性回归模型 回归方程 描述 y 的平均值或期望值如何依赖于 x 的方程称为回归方程； 简单线性回归方程的形式如下 E( y ) = ?0+ ?1 x 一元线性回归模型 估计(经验)的回归方程 总体回归参数? 0和? 1是未知的，必需利用样本数据去估计 用样本统计量 和 代替回归方程中的未知参数 ? 0和 ? 1 ，就得到了估计的回归方程 简单线性回归中估计的回归方程为 一元线性回归模型 参数 ?0 和 ?1 的最小二乘估计 使因变量的观察值与估计值之间的离差平方和达到最小来求得 和 的方法。即 一元线性回归模型 一元线性回归模型 最小二乘法（ 和 的计算公式） 根据最小二乘法的要求，可得求解 和 的标准方程如下 一元线性回归模型（实例） 一元线性回归模型（实例） 基本概念 根据例6.1中的数据，配合人均消费金额对人均国民收入的回归方程，根据 和 的求解公式得： 一元线性回归模型（实例） 人均消费金额对人均国民收入的回归方程为： y = 54.22286 + 0.52638 x 回归方程的显著性检验 离差平方和的分解 因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面 由于自变量 x 的取值不同造成的 除 x 以外的其他因素(如x对y的非线性影响、测量误差等)的影响 对一个具体的观测值来说，变