时间序列分析方 第04章 预测.doc

第四章 预 测 在本章当中我们讨论预测的一般概念和方法，然后分析利用模型进行预测的问题。 §4.1 预期原理 利用各种条件对某个变量下一个时点或者时间阶段内取值的判断是预测的重要情形。为此，需要了解如何确定预测值和度量预测的精度。 4.1.1 基于条件预期的预测 假设我们可以观察到一组随机变量的样本值，然后利用这些数据预测随机变量的值。特别地，一个最为简单的情形就是利用的前个样本值预测，此时可以描述为： 假设表示根据对于做出的预测。那么如何度量预测效果呢？通常情况下，我们利用损失函数来度量预测效果的优劣。假设预测值与真实值之间的偏离作为损失，则简单的二次损失函数可以表示为(该度量也称为预测的均方误差)： 定理4.1 使得预测均方误差达到最小的预测是给定时，对的条件数学期望，即： 证明：假设基于对的任意预测值为： 则此预测的均方误差为： 对上式均方误差进行分解，可以得到： 其中交叉项的数学期望为(利用数学期望的叠代法则)： 因此均方误差为： 为了使得均方误差达到最小，则有： 此时最优预测的均方误差为： End 我们以后经常使用条件数学期望作为随机变量的预测值。 4.1.2 基于线性投影的预测 由于上述条件数学期望比较难以确定，因此将预测函数的范围限制在线性函数当中，我们考虑下述线性预测： 如此预测的选取是所有预测变量的线性组合，预测的优劣则体现在系数向量的选择上。 定义4.1 如果我们可以求出一个系数向量值，使得预测误差与不相关： 则称预测为基于的线性投影。 定理4.2 在所有线性预测当中，线性投影预测具有最小的均方误差。 证明：假设是任意一个线性预测，则对应的均方误差可以分解为： 由于是线性投影，则有： 因此均方误差为： 为了使得均方误差达到最小，线性预测满足： 这是一个线性投影。 End 我们将线性投影预测表示为： 或者简化为： 显然线性投影的预测误差仍然不小于条件期望预测，因此有： 当条件中包含常数的时候，此时线性投影当中就含有常数，为此使用表示含有常数项的线性投影预测，即： 4.1.3 线性投影的性质 根据线性投影的定义，我们可以求出投影的系数向量： 如果是可逆的，则有： 命题4.1 线性预测满足下述性质： (1) 最优线性预测的均方误差为： (2) 线性投影满足线性平移性质： 证明：(1) 根据投影向量的表达式，可以得到： 化简就可以得到命题表达式。 (2) 需要证明是的线性投影。显然，它是线性函数，其次，可以证明它满足正交性质。 End 4.1.4 线性投影和普通最小二乘回归 线性投影与最小二乘估计紧密相关，这两种概念之间存在联系。例如，将基于建立线性回归方程，得到： 对于给定和的T个样本，样本残差平方和定义为： 使得残差平方和达到最小的系数最小二乘估计为： 如果过程是协方差平稳过程且关于二阶矩是遍历的，则有： 因此上述OLS估计按概率收敛到线性投影系数： 4.1.5 向量预测 上述结果可以推广到利用维向量预测维向量，记为： 其中为投影系数的一个阶矩阵，满足正交条件： 上式说明预测误差的每一个分量与条件变量的每一个分量都无关。 命题4.2 假设是的最小均方误差线性预测，则对任意的线性组合，它的最小均方误差线性预测为： 证明：只需证明是线性投影即可，这时需要验证相应的正交性。 End 类似地，投影矩阵为： 与此对应的均方误差矩阵为： §4.2 基于无限个观测值的预测 无论是条件期望预测还是正交线性预测，都是基于有限个条件变量的，下面我们分析基于无限个观测值情形下的预测。 4.2.1 基于滞后误差的预测 考察一个无限阶移动平均过程： ，， 假设已经知道过去所有时间阶段的残差观测值，也知道模型中各种参数的值。现在我们要预测个阶段以后的，根据模型它应该是： 对此最优线性预测形式为： 这个预测值的对应误差为： 这个预测值的均方误差为： 例4.1 试求过程的最优线性预测。 解：过程为： ， 则它的最优线性预测为： 对应的均方误差为： 上述预测具有清楚的含义，在时间间隔以后，使用过程的均值进行预测，而方差是过程的无条件方差。 4.2.2 基于滞后Y的预测 一般情况下，我们仅仅可以观察到Y的值，为此假设移动平均过程具有可逆表示