工业系统工程回归分析解析资料.pptVIP

相关和回归分析 研究系统的相互联系、测定其联系的紧密程度、揭示其变化的具体形式和规律性的统计方法，是构造各种系统模型、进行系统结构分析、预测和控制的重要工具。 【主要内容】 一、相关和回归分析的基本概念 二、一元线性回归分析 三、多元线性回归分析 四、非线性回归分析 一、相关和回归分析的基本概念 比较下面两种现象间的依存关系 函数关系和相关关系 函数关系 相关关系 相关分析和回归分析 研究现象之间相关关系的两种基本方法： 相关系数与判定系数 相关系数与判定系数 相关系数与判定系数 二、一元线性回归分析 1、标准的一元线性回归模型 2、一元线性回归模型的估计 3、一元线性回归模型的检验 4、一元线性回归模型预测 1、标准的一元线性回归模型 (一)总体回归函数 　 Ｙt＝β1＋β2Ｘt＋ut　　 u t是随机误差项，又称随机干扰项，它是一个特殊的随机变量，反映未列入方程式的其他各种因素对Ｙ的影响。 (二)样本回归函数: 　　 　　　　　 ｔ＝１，２，... n ｅt称为残差，在概念上，ｅt与总体误差项ut相互对应；ｎ是样本的容量。 2、一元线性回归模型的估计 ①回归系数的估计 回归系数的估计---最小二乘法 根据整理方程求解可得： 上述进行回归分析的方法可称为： ② 总体方差的估计 ③ 最小二乘估计量的性质 3、一元线性回归模型的检验 ① 回归模型的检验的种类 理论意义检验主要涉及参数估计值的符号和取值区间。 如果它们与实质性科学的理论以及人们的实践经验不相符，就说明模型不能很好地解释现实的现象。 常常会遇到理论意义检验不能通过的情况，主要原因是： 社会经济的统计数据无法像自然科学中的统计数据那样通过有控制的实验去取得; 观测的样本容量偏小，不具有足够代表性; 不满足标准线性回归分析所要求的假定条件。 一级检验又称统计学检验，它是利用统计学的抽样理论来检验样本回归方程的可靠性。 分为拟合程度评价和显著性检验。 一级检验是对所有现象进行回归分析时都必须通过的检验。 二级检验又称经济计量学检验，对标准线性回归模型的假定条件能否得到满足进行检验，包括序列相关检验、异方差性检验等。 ② 拟合程度的评价 拟合程度，是指样本观测值聚集在样本回归线周围的紧密程度。 判断回归模型拟合程度优劣最常用的数量指标是可决系数 (又称决定系数或判定系数)。 可决系数是建立在对总离差平方和进行分解的基础上的。 ③ 显著性检验 回归分析中的显著性检验包括两方面的内容: 对各回归系数的显著性检验，通常采用 t 检验; 对整个回归方程的显著性检验，通常采用在方差分析基础上的 F 检验。 在一元线性回归模型中，由于只有一个解释变量，对回归系数的 t 检验与对整个方程的F检验是等价的。 回归系数的显著性检验，就是根据样本估计的结果对总体回归系数的有关假设进行检验。 ④ 一元线性回归模型的估计与预测 点估计 区间估计： 区间估计： 在置信度为1 –α，自由度为n-2下的 Yf 预测区间为 其中： 三、多元线性回归分析 二元直线回归模型 二元线性回归模型 　 式中, 为二元回归估计值; 为x1和x2构成的平面在y轴上的截矩； 和 分别为y对x1和x2的回归系数。 二元直线回归的估计 确定 、 、 数值用最小二乘法，即选取 、 和 的数值使得 多元线性回归模型的估计 同样可采用最小二乘法，设： 对 ， ， ， 求偏导数，令其为零，可以得 到标准方程组： 标准方程组： 多元线性回归模型的矩阵形式 多元线性回归模型总体方差的估计 标准的多元线性回归模型中，高斯-马尔可夫定理同样成立。 多元线性回归模型的检验和预测 ①拟合程度的评价：一元线性回归分析中总离差平方和的分解公式依然成立。 修正自由度的可决系数 考虑到 SSE受自变量个数的影响，对可决系数进行修正： 多元回归模型的显著性检验 回归方程的显著性检验——F 检验 多元回归预测 多元线性回归预测与一元线性回归预测的原理是一致的。基本公式为： 式中，Xjf(j=2,3,……k)是给定的Xj在预测期的具体数值； 是已估计出的样本回归系数； 是Xj给定时Ｙ的预测值。 四、非线性回归分析 非线性回归模型的确定： 选择非线性函数的具体形式。 非线性回归函数有多种多样的具体形式，需要根据所要研究的问题的性质并结合实际的样本观测值作出恰当的选择。 确定估计函数中的参数。 最常用的方法仍然是最小二乘估计法。 非线性回归模型的