spss第五讲回归分析.pptVIP

第五讲 回归分析、线性回归和曲线估计 第一部分 回归分析 第二部分 线性回归 第三部分 曲线估计 第一部分 第十讲回顾 在对其他变量的影响进行控制的条件下，衡量多个变量中某两个变量之间的线性相关程度的指标称为偏相关系数。 偏相关分析的公式表达 什么是回归分析？ 1、重点考察一个特定的变量(因变量)，而把其他变量(自变量)看作是影响这一变量的因素，并通过适当的数学模型将变量间的关系表达出来 2、利用样本数据建立模型的估计方程 3、对模型进行显著性检验 4、进而通过一个或几个自变量的取值来估计或预测因变量的取值 回归分析的模型 一、分类 按是否线性分：线性回归模型和非线性回归模型 按自变量个数分：简单的一元回归和多元回归 二、基本的步骤 利用SPSS得到模型关系式，是否是我们所要的？ 要看回归方程的显著性检验（F检验） 回归系数b的显著性检验(T检验) 拟合程度R2 (注：相关系数的平方，一元回归用R Square，多元回归用Adjusted R Square) 回归分析的过程 在回归过程中包括： Liner：线性回归 Curve Estimation：曲线估计 Binary Logistic： 二分变量逻辑回归 Multinomial Logistic：多分变量逻辑回归； Ordinal 序回归；Probit：概率单位回归； Nonlinear：非线性回归； Weight Estimation：加权估计； 2-Stage Least squares：二段最小平方法； Optimal Scaling 最优编码回归 我们只讲前面2个简单的（一般教科书的讲法） 第二部分 线性回归 线性回归分为一元线性回归和多元线性回归。 一、一元线性回归： 1、涉及一个自变量的回归 2、因变量y与自变量x之间为线性关系 被预测或被解释的变量称为因变量(dependent variable)，用y表示 用来预测或用来解释因变量的一个或多个变量称为自变量(independent variable)，用x表示 3、因变量与自变量之间的关系用一个线性方程来表示 线性回归的过程 一元线性回归模型确定过程 一、做散点图(Graphs -Scatter-Simple) 目的是为了以便进行简单地观测（如： Salary与Salbegin的关系)。 二、建立方程 若散点图的趋势大概呈线性关系，可以建立线性方程，若不呈线性分布，可建立其它方程模型，并比较R2 (--1)来确定一种最佳方程式（曲线估计）。 多元线性回归一般采用逐步回归方法-Stepwise。 (一) 一元线性回归模型(linear regression model) 1、描述因变量 y 如何依赖于自变量 x 和误差项? 的方程称为回归模型 2、一元线性回归模型可表示为 y = b0 + b1 x + e 注：线性部分反映了由于x的变化而引起的y的变化；误差项?反映了除x和y之间的线性关系之外的随机因素对y的影响，它是不能由x和y之间的线性关系所解释的变异性。 一元线性回归模型（基本假定） 1、因变量x与自变量y之间具有线性关系 2、在重复抽样中，自变量x的取值是固定的，即假定x是非随机的 3 、误差项 ?满足条件 误差项 ? 满足条件 正态性。 ?是一个服从正态分布的随机变量，且期望值为0，即? ~N(0 , ?2 ) 。对于一个给定的 x 值，y 的期望值为E(y)=?0+ ?1x 方差齐性。对于所有的 x 值， ?的方差一个特定的值，的方差也都等于 2 都相同。同样，一个特定的x 值， y 的方差也都等于?2 独立性。独立性意味着对于一个特定的 x 值，它所对应的ε与其他 x 值所对应的ε不相关；对于一个特定的 x 值，它所对应的 y 值与其他 x 所对应的 y 值也不相关 估计的回归方程(estimated regression equation) （二） 参数的最小二乘估计 德国科学家Karl Gauss(1777—1855)提出用最小化图中垂直方向的误差平方和来估计参数 使因变量的观察值与估计值之间的误差平方和达到最小来求得 和 的方法。即 Karl Gauss的最小化图 参数的最小二乘估计 ( 和 的计算公式) （三） 回归直线的拟合优度 一、变差 1、因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个