统计回归完成.docVIP

统计回归 一、一元线性回归 回归分析中最简单的形式是，均为标量，为回归系数，称一元线性回归。这里不多做介绍，在线性回归中以介绍多元线性回归分析为主。 二、多元线性回归（regress） 多元线性回归是由一元线性回归推广而来的，把自然推广为多元变量。 （1） ，或者更一般地 （2） 其中，是已知函数。这里对回归系数是线性的，称为多元线性回归。不难看出，对自变量作变量代换，就可将（2）化为（1）的形式，所以下面以（1）为多元线性回归的标准型。 1.1 模型 在回归分析中自变量是影响因变量的主要因素，是人们能控制或能观察的，而还受到随机因素的干扰，可以合理地假设这种干扰服从零均值的正态分布，于是模型记作 （3） 其中未知。现得到个独立观测数据，，由（3）得 （4） 记 ， （5） ， （4）表示为 （6） 1.2 参数估计 用最小二乘法估计模型（3）中的参数。 由（4）式这组数据的误差平方和为 （7） 求使最小，得到的最小二乘估计，记作，可以推出