应用线性回归第一章讲课.ppt

教材 S.Weisberg著《应用线性回归分析》，王静 龙等译，中国统计出版社。 参考书 SANFORD WEISBERG Applied Linear Regression JOHN WILEY SONS,1985 陈希孺， 王松桂 近代回归分析 安徽教育出版社，1987 《线性统计模型》，王松桂，陈敏，陈立萍，高等教育出版社。 《Regression Analysis by Example》 (Fourth Edition). Authors: Samprit Chatterjee and Ali S. Hadi. Published by Wiley Series in Probability and Statistics. 《统计学》， David Freedman,等著，魏宗舒等译，中国统计出版社，1997 一、变量间的统计关系 在客观世界中普遍存在着变量间的关系。变量间的关系一般来说可分为两大类型：一类是变量间有确定性关系，它们之间的关系可以用函数关系来表达。另一类是变量之间有非确定性关系，且有统计规律。 二、回归模型的一般形式 Y: 因变量、响应变量或被解释变量； ：自变量、预报变量或解释变量。 统计模型： ， 其中， 称为随机误差； 回归函数： 三、回归模型的基本假设 （1）自变量是非随机变量，观察值 是常数； （2）高斯-马尔科夫（Gauss-Markov)条件：非线性回归模型 （3）正态分布的假定条件为 四、回归分析研究内容 回归分析目前是所有统计分支中应用最广泛的一门学科，它被用于几乎所有的研究领域及工农业生产，包括产品的统计质量管理，市场预测，自动控制中数学模型的建立、气象预报、地质勘探、医学卫生等等。回归分析研究的范围大致如下： 五、回归方程与回归名称的由来 在回归分析中，当自变量给定x的值时，y的值不能确定，只能通过一定的概率分布来描述。 用F(y|x)表示当X=x时，所对应的Y的分布函数。若Y的数学期望E(Y|x)存在，则它的值随x取值而定，是x的函数，记为 f(x).称f(x)=E(y|x)为y关于x的均值回归函数。 回归分析的方法以至“回归”这个名称的起源，统计史上一般归功于英国生物学家兼统计学家F.Galton（1822—1911）。 Galton是一个英国绅士科学家之一。他是一个上层英格兰人，在剑桥学医。他在开始遗传学研究之前，他探索了非洲大陆。在1859年出版的巨著《物种的起源》的Ohnrles Dorwin是他的侄子。 六、建立实际回归模型的过程 1.在回归分析的应用中，定性分析和定量分析相结合。 回归方程在一定程度上揭示了两个相关变量x和y之间的规律。 但仔细研究回归直线计算公式时就会发现，在计算过程中，并不需要事先假定两个变量之间一定要具有线性相关关系。这就是说，就方法本身而言，即使是对平面上一堆杂乱无章的点，也可以用最小二乘法给它们配一条直线来近似表示x和y之间的关系。如果x和y之间根本不存在线性相关关系，这样求出的回归方程其实是没有意义的。通常情况下，希望因变量与自变量有因果关系。 2.自变量选择原则：少而精。 自变量太多，会出现共线性和随机误差增大，影响计算精度； 漏掉主要变量肯定会影响模型效果。 3.数据收集：时间序列数据、横截面数据、面板数据。如何掉调整统一统计口径，如何折算、差分、取对数、标准化、补缺、处理异常值、处理异方差数据。 4.模型的检验：放在实践中去检验；统计检验包含模型检验与回归系数的检验。 5.回归模型的应用：下结论。 好的模型可用来进行分析、控制和预测。 6.回归分析，随着自变量的增加，计算会变得相当复杂，所以在计算机出现以前，它的应用受到了一定的限制。随着计算机的不断发展，速度成倍增加，回归分析的复杂的计算问题已经基本解决。目前世界上有许多能进行回归分析的统计软件：如SAS、SPSS、S-PLUS、R等等。 思考题 1.通过阅读文献回答： （1）什么是SD线？ （2）回归线与SD线的区别？ （3）举例说明回归谬误。 2.回归分析与相关分析的区别于联系是什么？ 3.回归模型中随机误差项的意义是什么？ 4.线性回归模型的基本假设是什么？ 第一章 简单线性回归 §1.1一元线性回归模型 回归分析由许多步骤组成。如：数据的收集、模型的确定、模型的修正等等。我们这里主要在理论上研究回归模型，包括参数的估计，模型的检验等等。 例1.1 Forbes