回归正交学习.pptx

正交设计是一类重要的科学试验设计方法，它能够利用较少的试验次数，获得较佳的试验结果。但是正交设计有一个缺陷，即不能在一定的试验范围内，根据所得样本数据去确定变量间的相关关系及其相应的回归方程。如果使用传统的回归分析，又只能被动地去处理由试验所得的数据，而不能对试验的设计安排做任何要求。这样不仅盲目地增加了试验次数，而且由数据所分析出的结果还往往不能提供充分的信息，造成在多因素试验的分析中，由于设计的缺陷而达不到预期试验目的。 因而有必要引入把回归与正交结合在一起的试验设计与统计分析方法——回归正交设计。;§7.1 回归设计的基本概念 回归设计（也称为响应曲面设计） 目的是寻找试验指标与各因子间的定量规律， 考察的因子都是定量的 。 它是在多元线性回归的基础上用主动收集数据的方法获??具有较好性质的回归方程的一种试验设计方法。 本章主要介绍Box的回归设计方法及其应用，并假定读者已具有多元线性回归分析的基础知识。为了符号上的统一 ，在7.1.2中列出了回归分析中的主要公式。;7.1.1 多项式回归模型 在一些试验中希望建立指标y与各定量因子 （又称变量） 间相关关系的定量表达式，即回归方程，以便通过该回归方程找出使指标满足要求的各因子的范围 。 可以假定 y与 间有如下关系： 这里 是 的一个函数，常称为响应函数，其图形也称为响应曲面； 是随机误差，通常假定它服从均值为0，方差为 的正态分布。 在上述假定下， 可以看作为在给定 后指标的均值，即 ; 称z 的可能取值的空间为因子空间。我们的任务便是从因子空间中寻找一个点z0 使E(y)满足质量要求。 当f 的函数形式已知时，可以通过最优化的方法去寻找z0 。在许多情况下f 的形式并不知道，这时常常用一个多项式去逼近它，即假定： ; 在实际中常用的是如下的一次与二次回归方程（也称一阶与二阶模型）： ;7.1.2 多元线性回归 (7.1.1)是一个多项式回归模型，在对变量作了变换并重新命名后也可以看成是一个多元线性回归模型。 1．回归模型 设所收集到的n组数据为 假定回归模型为： ;记随机变量的观察向量为 未知参数向量为 不可观察的随机误差向量为 结构矩阵 那么上述模型可以表示为： ; 2．回归系数的最小二乘估计 估计回归模型中回归系数的方法是最小二乘法。 记回归系数的最小二乘估计（LSE）为 ，应满足如下正规方程组： 当 存在时，最小二乘估计为 在求得了最小二乘估计后，可以写出回归方程： 今后称 为正规方程组的系数矩阵， 为正规方程组的常数项向量， 为相关矩阵。 在模型（7.1.5）下，有 ;若记 ，那么 ; 3．对回归方程的显著性检验 对回归方程的显著性检验是指检验如下假设： H0： HA： 不全为0 检验方法是作方差分析。 记 则有平方和分解式 其中 为残差平方和，自由度为 为回归平方和，自由度为 当H0为真时，有 对于给定的显著性水平 ，拒绝域为 。 ; 若记p+1维向量 ，那么 ; 4．失拟检验 当在某些点有重复试