第4章线性预测printed.docxVIP

第四章 线性预测 我们可以预测未来吗答案是可以。 但是不一定能完全准确地预测将来。 通常， 事件之间有内 在的结构关系和惯性，因此我们的确可以基于对过去和现在的知识来估计将来。 这和图像压缩又有何关系我们的目标是用简洁有效的方式描述随机信号。 线性预测有助 于降低信号的冗余度， 用较少的比特表示波形。 实质上， 线性预测就是最小均方估值理论的一个特例。但由于它在图像压缩中的重要地位，我们单独用一章来讨论。 主要内容： 1、估值原理基础 2、带有限存储器的线性预测器 3、前向预测和后向预测 4、随机过程的表示 估值原理基础 预测是从观察的某随机变量估计一个或多个随机变量的统计估值。 被估计的变量关系到“将来”，而观察的变量关系到“过去” （或过去及现在） 。最常用的估计是从观察的 n 个先前的样值估计该平稳过程的现在样值。另外，在图像压缩应用中，从“先验”的图像样值块 估计当前的图像样值块。或者在信号压缩应用中，从一个或 n 个矢量预测某矢量。 观察随机矢量预测第二个随机矢量 给定随机矢量  X  X 1,  , X  N  T  ，要预测的矢量  Y  Y1,  , YK  T  ，两个矢量的维数 不必完全相同。例如，  K 1 是最常见的情况，即从  N  个观察样值集合预测一个随机变量。 为便于概率分析，设这些随机矢量由概率分布函数  PX ,Y  描述（概率分布可以根据经验分布 来估计）。 最佳预测总是基于某个“最佳”准则，我们选择使用最为广泛的均方误差准则（ MSE）。 ? 设预测值为 Y ，则定义均方误差为： 2 ? ? 2 ? T ? K 2 ? Y EYY EYYYY E Yi Yi i 1 MSE 准则可以反映通过预测来减小误差信号能量的程度。因为预测的目的就是要去除可预 测的信息，所以 MSE 越小则预测器的性能越好。当给定预测器的 MSE最小时，则为最佳预测器。 两种常用的特殊情况。 X X n 1, X n 2 , , X n N T 表示一个平稳随机过程的 N 个相 继样值， Y X n 是下一个（或者“未来” ）样值，已知有限个过去值，寻找最佳的一步预 测器。另一种情况， Y 是图像中的一个子块， X 包含 Y 上面及左边的图像子块，目的是利 用已经解码的图像区域预测该图像中新的区域，如图所示，用子块 A、B 和 C预测 D。 A B C D 图所示，用子块 A、B和 C预测 D 最佳线性预测 简单情况 —— 随机变量的估计当随机过程均值为 0 时： 随机矢量 X X1, ,X T X1,X 2, , X N 的线性组合来估计随机变量 N，用随机变量 Y ，其估计值用 ? Y 表示： ? a2 X 2 aN X N Y a1 X1 由最小均方误差准则（ MMSE）确定 ai ， i 1, ,N ，即， 2 a E Y ? 2 Y min 其中， a a1 , a2 , T 对 ai 0， , aN 。根据拉格朗日极值定理，将 求偏导，并使其为 得： E Y ? 0, j 1, , N Y X j 这个等式就是线性均方估值的正交原理 —— 误差 e Y ? X j 在统 Y 与所有随机变量 计上正交。或者记为 e X 。 当随机过程均值不为 0 时： ? N ai X i b Y i 1 不难证明，式仍然成立。但估值方程变成含 N 1个未知数。因此，对式也要附加如下方程： ? E[Y Y ] 0 普遍情况： 已知 N 维矢量 X X1, ,X N T ，希望预测一个 K 维矢量 Y Y1, ,YK T ，估计矢 ? 量为 Y ，则， ? AX Y 其中， AK N a1, , aK T ， ak ,k 1,K ,K 是预测系数矢量，它是 N 维列矢量。也可以将式 写成： ? ak T k 1, ,K Yk X , 2 ? K T 2 均方误差： E Yk ak X Y 1 要得到最佳线性预测器，则寻找使均方误差最小的矩阵 A。显然，当各项误差 2 ak E Yk T X 2 ? 都最小时，其误差总和也达到最小值。令 ak ek Yk Yk ，则根据 等式单个随机变量 Yk 的最佳估计有： E ek X n 0; n 1, , N ; k 1, , K 这就是矢量最佳线性预测的正交原理。 下面利用正交原理求解最佳线性预测系数方程。将代入得到： E Yk ak T X X j E Yk X j E akT XX j E Yk X j ak T E XX j 0 , j 1, , N ; k 1, , K ∴