《数学建模回归分析》.ppt

数学建模回归分析 引言 回归分析是处理很难用一种精确方法表示出来的变量之间关系的一种数学方法，它是最常用的数理统计方法，能解决预测、控制、生产工艺优化等问题。它在工农业生产和科学研究各个领域中均有广泛的应用。 回归分析一般分为线性回归分析和非线性回归分析。本节着重介绍线性回归分析的基本结论及其在Matlab中的相应命令。线性回归分析是两类回归分析中较简单的一类，也是应用较多的一类。 一 一元线性回归分析 针对一组（二维）数据 （其中 互不相同），其最简单的数据拟合形式为寻求直线 ，使 在最小二乘准则下与所有数据点最为接近。 但由于随机观测误差的存在，满足上述数据点的直线应该是 (1.1) 其中x, y是准确的, 是两个未知参数， 是均值为零的随机观测误差，具有不可观测性， 可以合理地假设这种观测误差服从正态分布。 于是我们得到一元线性回归模型为 (1.2) 其中 未知，固定的未知参数 称为回归 系数，自变量x称为回归变量。 (1.1)式两边同时取期望得： 称为y 对x的回归直线方程。 在该模型下，第i个观测值可 以看作样本（这些样本相互独立但不同分布, i = 1,2,…,n）的实际抽样值，即样本值。 一元线性回归分析的主要任务是： a.用实验值（样本值）对 作点估计； b.对回归系数 作假设检验； c.在 处对y 作预测，并对y作区间估计。 1、 回归参数 估计 假设有n组独立观测值： 则 由(1.2)有 （1.3） 其中 相互独立。记 称 为偏离真实直线的偏差平方和。由最小二乘法得到的估计 称为 的最小二乘估计，其中 （经验）回归方程为 （1.4） 这样我们得到 的无偏估计 ， 其中 服从正态分布 2 模型的假设、预测、控制 1、回归方程的显著性检验 在实际问题中，因变量y 与自变量x之间是否有线性关系(1.1)只是一种假设，在求出回归方程之后，还必须对这种回归方程同实际观测数据拟合的效果进行检验。 由(1.1)可知， 越大，y 随x变化的趋势就 越明显；反之， 越小，y 随x变化的趋势就越不明显。特别当 =0时，则认为y 与x之间不存在线性关系，当 时，则认为y与x之间有线性关系。因此，问题归结为对假设 进行检验。 假设: 被拒绝，则回归显著，认为y 与x之间存在线性关系，所求的线性回归方程有意义；否则回归不显著，y与x的关系不能用一元线性回归模型来描述，所得的回归方程也无意义。此时，可能有如下几种情况： （1）x对y没有显著影响，此时应丢掉变量x； （2）x对y 有显著影响，但这种影响不能用线性关 系来表示，应该用非线性回归； （3）除x之外，还有其他不可忽略的变量对y 有显 著影响，从而削弱了x对y 的影响。此时应用 多元线性回归模型。因此，在接受H0 的同 时，需要进一步查明原因以便分别处理。 检验方法：（a）F检验法 对样本方差 进行分解，有 上式中的 是由实际观测值没有落在回归直线上 引起的（否则为零），U 是由回归直线引起的。因 此，U 越大， 就越小，表示y 与x的线性关系就越 显著；否则，U 越小， 就越大，表示y 与x的线性 关系就越不显著。这样我们就找到了一种判别回归 直线拟合程度好坏的方法：如果U /s接近于1，即 U / 较大时，则对拟合效果感到满意。 由F分布有 其中r称为相关系数。对给定的显著水平a ，有置信 水平为1-a 的临界值 ，从而F检验法 的检验准则为：当 时，拒绝 ；否则就接