spss回归分析的实现.pptVIP

第六章 多元线性回归模型 经典多元回归模型 回归分析的机理 经典回归模型及其参数估计 残差分析与假设检验 线性回归模型的延伸 含有虚拟变量的回归 用回归模型作预测 线性回归过程 总体回归函数说明在给定的身高下，体重平均水平。 但对某一个妇女，其体重可能与该平均水平有偏差。 被解释变量观察值围绕其期望值的离差，是一个不可观测的随机变量，称为随机误差项。 为什么要设随机误差项？ 在解释变量中被忽略的因素的影响； 变量观测值的观测误差的影响； 模型关系的设定误差的影响； 其它随机因素的影响。 产生并设计随机误差项的主要原因： 理论的模糊性； 数据的欠缺； 节省原则； 样本回归函数 从被研究总体中随机抽取n个样本（本例n=20），利用样本观测数据可得到样本回归函数： 样本回归函数是对总体回归函数的一个估计 对某一个妇女，其体重观测值不会恰好等于估计值，而是会有残差 残差是对随机误差项的一个估计 二、经典回归模型及其参数估计 多元回归模型及其经典假设 多元回归模型的参数估计 偏回归系数的含义 1.多元回归模型及其经典假设 找到导致被解释变量变化的主要因素作为解释变量，构建多元回归模型： 设因变量Y是k个解释变量X1， … Xk和误差项的线性函数： 其中：?0为常数项，?1 ,… ?k为偏回归系数，?i为随机误差项 对容量为n的样本，这一模型实际上包含n个方程： y1=??0+?1x11+?kxk1+?1 …… yn=??0+?1x1n+?kxkn+?n 多元回归模型的矩阵表示 多元回归模型的经典假设 假设1： x1，x3， … xk是非随机的。 假设2：E(?i)=0 i=1,2, …n 假设3：同方差Var(?i)=?2 (E(?i?i)= ?2 ) 假设4：无序列相关， cov (?i?j)=E(?i?j)=0 假设5：x诸变量间无准确的线性关系，即：无多重共线性。 不存在一组不全为零的数?1、?2、… ?k，使得： ?1x1i+ ?2x2i+ …+ ?kxki=0 假设6：?i ?N(0, ?2) 关于多重共线性的进一步说明 如果存在一组不全为零的数?1、?2、… ?k，使得： ?1x1i+ ?2x2i+ …+ ?kxki=0 不妨设?1?0，则上式可变为： x1i=-(?2x2i+ …+ ?kxki)/?1 称解释变量之间存在完全共线性，此时，某个解释变量可以写为其它解释变量的线性组合。 如果 ，会不会破坏无多重共线假定？ 经典假设的矩阵表示 假设2： 2.回归参数的普通最小二乘估计：残差平方和最小 例：二元回归模型的参数估计 OLS参数估计量的性质 在满足基本假设的情况下，其结构参数?的普通最小二乘估计具有： 线性性、无偏性、有效性。 样本容量问题 所谓“最小样本容量”，即从最小二乘原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。 3. 偏回归系数的含义 二元回归模型为：yi=?1+?2x2i+?3x3i+?i 1) 偏相关系数 简单相关：两个变量之间线性关联的紧密程度 偏相关定义：在多个变量y,x1,x2,…xk之间，如果只考虑两个变量之间的真实相关关系，而排除其他变量对它们的影响（或者说其他变量保持不变），这种相关成为偏相关。 例 控制第三变量 某地15名13岁男童身高x1(cm)、体重x2(kg)、和肺活量y(ml)的数据如表。试对该资料做控制体重影响的身高与肺活量的偏相关分析。 步骤： Analyze?Corelate?Partial 选“身高”和“肺活量”为分析变量，“体重”为控制变量，“双尾检验”，“显示实际显著性水平” 选项：同时输出均值和标准差及零阶相关系数 偏相关系数 在偏相关中，根据被固定的变量数目的多少，可分为零阶偏相关（即简单相关）、一阶偏相关、二阶偏相关、…（k-1）阶偏相关等。 偏相关系数：用来衡量偏相关程度的数量指标。 例： 为x3保持不变下y和x2的一阶偏相关系数 简单相关系数vs偏相关系数 r12·3与r12的关系 r12=0时， r12·3并不为0，除非r13或r23为0。 r12·3与r12不一定同号。 例1 “期望扩充”菲利普斯曲线 菲利普斯曲线表明：通货膨胀率和失业率是反向变化的。期望扩充菲利普斯曲线增加了预期通货膨胀率的影响。 1970-1982年美国真实通货膨胀率y（%）、失业率x2（%）和预期通货膨胀率x3（%）数据如表，作菲利普斯曲线。 原始菲利普斯曲线：yt=b1+b12x2t+?1t 期望扩充菲利普斯曲线:yt=?1+?2x2t+?3x3t