实验十回归分析解析.docVIP

实验十.回归分析 一．实验目的 直观了解回归分析基本内容，掌握用matlab求解回归分析问题。 二．实验原理与方法 二．实验原理与方法 （一）：一元线性回归：一般地，称由确定的模型为一元线性回归模型，记为 固定的未知参数、称为回归系数，自变量x也称为回归变量. 一元线性回归分析的主要任务是： 1．用试验值（样本值）对、和作点估计； 2．对回归系数、作假设检验 3．在x=处对y作预测，对y作区间估计. 模型参数估计： 1、回归系数的最小二乘估计 有n组独立观测值，（x1，y1），（x2，y2），…，（xn，yn） 设 记 最小二乘法就是选择和的估计，使得 解得： 或 其中，. （经验）回归方程为: 2、的无偏估计 记 称Qe为残差平方和或剩余平方和.的无偏估计为 称为剩余方差（残差的方差），分别与、独立。 称为剩余标准差. 检验、预测与控制： 1、回归方程的显著性检验 对回归方程的显著性检验，归结为对假设 进行检验. 假设被拒绝，则回归显著，认为y与x存在线性关 系，所求的线性回归方程有意义；否则回归不显著，y与x的关系 不能用一元线性回归模型来描述，所得的回归方程也无意义. 检验方法根据构造的检验统计量不同主要分以下几种： （1）F检验法 当成立时， ~F（1，n-2） 其中 （回归平方和） 故F，拒绝，否则就接受. （Ⅱ）t检验法 当成立时， 故时，拒绝，否则就接受。 其中 （Ⅲ）r检验法 2、回归系数的置信区间 和置信水平为1-α的置信区间分别为 和 的置信水平为1-的置信区间为 3、预测与控制 （1）预测 用y0的回归值作为y0的预测值 的置信水平为的预测区间为： 其中 特别，当n很大且x0在附近取值时,y的置信水平为的预测区间近似为 （2）控制 要求：的值以的概率落在指定区间 只要控制x满足以下两个不等式 要求.若分别有解 和，即. 则就是所求的x的控制区间. 可线性化的一元非线性回归（曲线回归） 一般方法是：先对两个变量x和y 作n次试验观察得画出散点图，根据散点图确定须配曲线的类型.然后由n对试验数据确定每一类曲线的未知参数a和b.采用的方法是通过变量代换把非线性回归化成线性回归，即采用非线性回归线性化的方法. 通常选择的六类曲线如下: (1)双曲线 （2）幂函数曲线y=a, 其中x0,a0 （3）指数曲线y=a其中参数a0. （4）倒指数曲线y=a其中a0， （5）对数曲线y=a+blogx,x0 （6）S型曲线 （二）.多元线性回归： 一般称 为高斯—马尔柯夫线性模型(k元线性回归模型)，并简记为 ，，， 线性模型考虑的主要问题是： （1）用试验值（样本值）对未知参数和作点估计和假设检验，从而建立y与之间的数量关系； （2）在处对y的值作预测与控制，即对y作区间估计.称为回归平面方程. 多元线性回归模型的参数估计 1、对和作估计：用最小二乘法求的估计量：作离差平方和 选择使Q达到最小。 解得估计值 得到的代入回归平面方程得： 称为经验回归平面方程.称为经验回归系数. 注意：服从p+1维正态分布，且为的无偏估计，协方差阵为， C=L-1=(cij), L=X’X 2．多项式回归 设变量x、Y的回归模型为 其中p是已知的，是未知参数，服从正态分布. 称为回归多项式.上面的回归模型称为多项式回归 令，i=1，2，…，k多项式回归模型变为多元线性回归模型. 多元线性回归中的检验与预测 1、线性模型和回归系数的检验 假设 （Ⅰ）F检验法：当成立时， 如果，则拒绝，认为y与之间显著的有线性关系 否则就接受，认为y与之间的线性关系不显著。 （Ⅱ）r检验法 定义为y与x1,x2,...,xk的多元相关系数或复相关系数。 由于，故用F和用R检验是等效的。 2、预测 （1）点预测 求出回归方程，对于给定自 变量的值，用来预测 .称为的点预测. （2）区间预测 y的的预测区间（置信）区间为,其中 C=L-1=(cij), L=X’X （四）、逐步回归分析 “最优”的回归方程就是包含所有对Y有影响的变量, 而不包含对Y影响不显著的变量回归方程。选择“最优”的回归方程有以下几种方法： （1）从所有可能的因子（变量）组合的回归方程中选择最优者； （2）从包含全部变量的回归方程中逐次剔除不显著因子； （3）从一个变量开始，把变量逐个引入方程； （4）“有进有出”的逐步回归分析。 以第四种方法，即逐步回归分析