《现代气象统计方法》第6章 多元线性回归.pptx

气象统计方法 第六章 多元线性回归 本章主要内容 概述 回归模型 回归系数的最小二乘估计 方差分析 回归方程显著性检验 预报因子显著性检验 复相关系数 预报步骤 一、概述 1. 意义 在气象统计预报中，通常寻找与预报量 线性关系很好的单个因子是很困难的，实际 上某个气象要素的变化和前期多个因子有关， 因此大部分气象统计预报中的回归分析都是 用多元回归技术进行。 2.基本概念 多元回归就是研究一个预报量和多个 预报因子之间的关系。主要讨论较为简 单的多元线性回归。其分析原理与一元 线性回归分析完全相同。 二、回归模型 假定预报量y与p个预报因子关系是线 性，为研究它们之间的联系作n次抽样，则 可得到如下结构表达式： (1)  y    y2  y1  0  1 x11  2 x12   p x1 p  e1     x  e     x   x  0  1 x21  2 x22   p x2 p  e2 p np n n 0 1 n1 2 n2 ， 是p个 其中，  为p+1个待估计参数 一般变量， e 是随机误差（相互独立变 量），服从 N (0, 2 ) 正态分布。上述模型 还可以写为： (2) xi i i y  X  e 其中， 都是向量。X是因子矩阵，即     y   y2     yn   y1   p      β  1    0  en      e  e2  e1    xnp     x1 p  x 2 p    1 x11   x  21    1 xn1    X   1 我们得到的是一组实测p个变量的样本，利 用这组样本（n 次抽样）对上述回归模型进行 估计，得到的估计方程为多元线性回归方程， 记为： (3) 其中， 它们。 是 i 的估计值，下面讨论如何确定 yˆ  b0  b1 x1 b2 x2  bp x p bi 三、回归系数最小二乘估计 和一元线性回归类似，在样本容量为n的y 预报量和因子变量x的实测值中，满足线性回 归方程 的要求的回归系数，应是使全部的预报量观测值与回 归估计值的差值平方和达到最小。即满足 最小。 yˆi  b0  b1xi1 b2 xi2  bp xip i  1 ~ n n Q  ( yi  yˆ i ) i 1 2 基本条件 对一组样本资料，预报值的估计可以看成 为一个向量，记为 满足（3）的回归方程，也可以写为矩阵形式， 即 yˆ  Xb 归系数，即 ，其中，X就是因子矩阵，b为回     yˆ   yˆ2     yˆn   yˆ1  b p       b0    b  b1 回归方程组的矩阵形式 预报量的观测值与回归值之差的内积就 是它们的分量的差值平方和，即 根据微分学原理，有   Q    bp b Q  b  1  Q  0  0  0 0 Q  ( y  yˆ)( y  yˆ)  ( y - Xb)( y  Xb)  yy - bX y - yXb  bX Xb 可以写成向量的形式  0 b (bX Xb)  b ( yXb)  b b b Q ( yy) (bX y)   =0 (bX y)  ( yXb)  X y b b (bX Xb)  2X Xb b 补充矢量和 矩阵的微分?？ 补充 矩阵和向量的微分?？ 设x 为 n 1 列向量，a为 n 1 列向 量， 为 xi f  xa  ax 的函数，则f 对x的偏微分记为 f  ( f f  f ) x1 x2 xn x 1）如果x、a及f如上面定义，则有 2）如果x如上面定义，令 f  xx， 则 f  2 x x f  a x 第2/3项， x---b X’y----a 3）如果A为 n  n 对称阵，则 f  xAx 对x的偏微分为 ( x Ax )  2Ax x 第四项 特别注意 当矩阵和向量的运算结果是一行一列的矩阵时， 可以表示一个多元函数；多元函数的值域是一个数量， 当它表达（x1, x2 …,xm)的有规则运算时，用向量和 矩阵运算比较方便。 当多元函数f(x1, x2 …,xm)