一元回归分析补.pptVIP

一元线性回归分析 变量间的关系 确定型的关系：指某一个或某几个现象的变动必然会引起另一个现象确定的变动，他们之间的关系可以使用数学函数式确切地表达出来，即y=f(x)。当知道x的数值时，就可以计算出确切的y值来。如圆的周长与半径的关系：周长=2πr。 非确定关系：例如，在发育阶段，随年龄的增长，人的身高会增加。但不能根据年龄找到确定的身高，即不能得出11岁儿童身高一定就是1.40米公分。年龄与身高的关系不能用一般的函数关系来表达，但确实存在着一种关系。研究变量之间既存在又不确定的相互关系及其密切程度的分析称为相关分析。 回归分析 如果把其中的一些因素作为自变量，而随自变量的变化而变化的变量作为因变量，研究他们之间的非确定因果关系，这种分析就称为回归分析。 回归分析：研究一个自变量或多个自变量与一个因变量之间是否存在某种线性关系或非线性关系的一种统计学方法。 一元线性回归：最简单的回归关系，即一个变量y和一个变量x间的回归关系，称x为自变量，y为因变量（或响应变量、依赖变量） 一元回归关系 一元线性回归方程的适用条件 线形趋势：自变量与因变量的关系是线形的，如果不是，则不能采用线性回归来分析。 独立性：可表述为因变量y的取值相互独立，它们之间没有联系。反映到模型中，实际上就是要求残差间相互独立，不存在自相关。 正态性：自变量x的任何一个线形组合，因变量y均服从正态分布，反映到模型中，实际上就是要求随机误差项εi服从正态分布。 方差齐性：自变量的任何一个线形组合，因变量y的方差均齐性，实质就是要求残差的方差齐性。 一元线性回归方程 直线回归分析的任务：就是根据若干个观测（xi，yi）i=1～n，找出描述两个变量x、y之间关系的直线回归方程y^=a+bx。y^是变量y的估计值。 求直线回归方程y^=a+bx,实际上是用回归直线拟合散点图中的各观测点。 常用的方法是最小二乘法。也就是使该直线与各点的纵向垂直距离最小。即使实测值y与回归直线y^之差的平方和Σ(y-y^)2达到最小。Σ(y-y^)2也称为剩余（残差）平方和。 因此求回归方程 y^=a+bx的问题，归根到底就是Σ(y-y^)2取得最小值时，求a和b的问题。a称为截距，b为回归直线的斜率，也称回归系数。 数学原理 一、两随机变量的回归关系 * 如果X是自变量， Y是依赖于x的随机变量， 可以利用数学中求极值的方法解出 a 和 b 而使得误差方差为最小。因为误差平方和为： 分别求Q 对a 和b 的偏导数，并使之为0： 整理得正规方程组： ? 解正规方程组： ? 于是： 于是： 第二节 直线回归方程 * *