1-回归分析.pptVIP

多元统计分析 多元统计分析 多元统计分析 第一章 回归分析 §1.1 一元回归 §1.1 一元回归 §1.1 一元回归 §1.1 一元回归 §1.1 一元回归 §1.1 一元回归 §1.1 一元回归 §1.1 一元回归 §1.1 一元回归 §1.1 一元回归 §1.2 多元回归 §1.2 多元回归 §1.2 多元回归 §1.2 多元回归 §1.2 多元回归 §1.2 多元回归 §1.2 多元回归 * * 参考教材： 《多元统计分析 方法与应用》 李静萍 谢邦昌 编著 中国人民大学出版社 统计软件： SPSS 山东科技大学 经济管理学院 刘晨曦 主要内容安排 回归分析； 主成分分析； 因子分析； 聚类分析； 判别分析； 典型相关分析； 对应分析。 多元统计分析是研究多个随机变量之间相互依赖关 系以及内在统计规律性的一门统计学科。 主要范畴包括：多元正态总体的参数估计和假设检验以及常用的统计方法。 研究目标：数据简化或结构简化、分类与分组、变量间依赖性的研究、预测、假设的构造与检验； 应用领域：经济学、工业、农业、医学、教育学、心理学、体育科学、生态学、地质学、社会学、考古学、军事科学、环境科学、文学等。 回归分析是研究一个因变量与一个或多个自变量之间相互关系的统计方法。我们可以利用变量间的回归关系进行：描述、控制、预测。 本章主要内容 §1.1 一元回归 §1.2 多元回归 1.1.1回归分析概述 1.1.1回归分析概述 1.1.2参数估计 1 普通最小二乘法 普通最小二乘法最常用的估计模型中参数值的方法，即使随机误差的平方和（离差平方和）达到最小来取得参数的估计值。 由微积分原理中极值存在的必要条件： 得到参数的估计值为： 2 极大似然估计 极大似然估计是利用总体的分布密度或概率分布的表达式及样本提供的信息建立似然函数，从而求解未知参数估计量的一种方法。通常用微分法求似然函数的极大值： 3 回归方程的显著性检验 当我们得到一个问题的经验回归方程 后，不能直接利用它进行分析，还需要用统计方法对回归方程进行检验。具体的检验方法有： （1）t检验：用于检验回归系数的显著性，即因变量对自变量的影响程度是否显著。t检验的原假设是： （2）F检验。对线性回归方程显著性的另一检验是F检验，它是根据平方和分解，直接从回归效果检验回归方程的显著性。 总平方和SST(n-1)反应因变量的波动程度，回归平方和SSR(k)是由回归方程确定的，也就是自变量x的波动引起的，误差平方和SSE(n-k-1)是不能用自变量解释的波动，是由x外的不能控制的因素引起的。显然，SSR越大，回归效果越好。 F检验的假设和t检验相同，其检验统计量如下： 4 样本决定系数 由前述可知：SST=SSR+SSE，那么，总平方和中回归平方和占据的比重越大，线性回归的效果越好，也就是说拟合优度越好： r2的值总是在0~1之间，越接近于1，拟合优度越好，反之说明回归的效果不好，应进行修改，一般我们认为，0.6时，该回归就不合适了。 1.2.1 多元回归概述 通常影响因变量y的自变量x不止一个，而有k个，自变量与因变量的数据形势如下： y1 x11 x12 ……. x1k y2 x21 x22 ……. x2k ………………………. yn xn1 xn2 ……. xnk y x1 x2 ……. xk 上述自变量和因变量也可以用数学模型来表示，其中各自变量皆为一次式，称为多元线性回归模型。 1.2.2 参数估计 在样本数据中，多元回归模型中未知参数的估算通常采用最小二乘法，可得回归系数的估计值为 1.2.3 方差分析和回归参数检验 （1）方差分析法 用F值来检验一组回归系数是否为0，其假设检验为： F=MSR/MSE MSR MSE SSR=b’x’y SSE=e’e SST=y’y k n-k-1 n-1 回归（R） 残差（E） 总计（T） 实测F值 均方 平方和 自由度 变因 * *