第8章信息率失真理论及其应用.ppt

本章内容提要 在前面几章的讨论中，其基本出发点都是如何保证信息的无失真传输。 但在许多实际应用中，人们并不要求完全无失真地恢复消息，而是只要满足一定的条件，近似地恢复信源发出的消息就可以了。 然而，什么是允许的失真？如何对失真进行描述？信源输出信息率被压缩的最大程度是多少？信息率失真理论回答了这些问题，其中香农的限失真编码定理定量地描述了失真，研究了信息率与失真的关系，论述了在限失真范围内的信源编码问题，已成为量化、数据转换、频带压缩和数据压缩等现代通信技术的理论基础。 定义8.1 对于图8.1所示的系统，对应于每一对（ai, bj）（n = 1, 2, …r；j=1, 2, …, s），定义一个非负实值函数 （8.1） 表示信源发出符号ai而经信道传输后再现成信道输出符号集合中的bj所引起的误差或失真，称之为ai和bj之间的失真函数。 失真函数的值可人为地规定。 例如，若i=j时， bj＝ai； i ? j时，bj＝aj ? ai，则可规定 规定的合理性。 (1)当i = j时，x和y的消息符号都是ai，说明收发之间没有失真，所以失真函数dij = 0； (2)反之，当i ? j时，信宿收到的消息不是信源发出的符号ai，而是bj，出现了失真，所以失真函数dij ?0，而dij值的大小可以表示这种失真的程度。 (3)更确切地说，失真函数d(x, y)能够表征接收消息y与发送消息x之间的定量失真度，因此这样的规定是合理的。 失真矩阵[D] 输入符号集 X:{a1, a2, …, ar}中有r种不同的符号ai (i =1, 2, …, r) ；输出符号集Y:{b1, b2, …, bs}中有s种不同的符号bj (j =1, 2, …, s)；失真函数d (ai, bj) (i=1, 2, …, r; j=1, 2, …, s )共有(r?s)个具体值 ，按ai和bj的对应关系，排列成一个(r?s)阶矩阵，如下式所示 例8.1 已知X:{a1, a2, …, ar}，Y:{a1, a2, …, ar}，若它们的交叉传输概率相等，求其失真矩阵。 解 根据题意可得图8.2所示的香农线图。 本题特点是：信源、信宿的符号集合相同，每个符号的交叉传输概率相等，故可规定失真函数为 d(ai,bj)= 由此得其失真矩阵为 通常称上式的失真矩阵为汉明失真矩阵。 当r =2时，有 例8.2 已知X:{a1, a2, …, ar}，Y: {a1, a2, …, ar, ar +1 }。如果信宿端接收到的消息与发送端的相同，则为无失真；如果不同但不是ar +1，则为有失真；如果信宿端译码为ar +1 ，则为有失真，但其影响只是其他失真情况的一半。请给出该种信道的失真函数和失真矩阵。 解 这是多进制删除信道的情况，其中输出符号ar +1为删除符号。根据题意，可规定失真函数为 故该种信道的失真矩阵为 （8.8） 若r=2则为二进制删除信道，其失真矩阵为 （8.9） 例8.3 已知X:{a1, a2, …, ar}，Y:{b1, b2, …, br}。如果信宿端接收到的消息有失真，则失真所产生的影响程度需要用收发符号之差的平方来表示，试给出该种信道的失真函数和失真矩阵。 解 根据题意，可规定失真函数为 （8.10） 式中i, j = 1, 2, …, r。由此可得失真矩阵为 它说明失真的数值越大，后果越严重。 若X:{0, 1, 2, 3}, Y:{0, 1, 2, 3}，则有 （8.12） 这相当于四进制的情况。对于二进制情况则和式（8.6）相同。 结论： （1）失真函数d (ai, bj)是人为规定的，给出其规定时应该考虑解决问题的需要以及失真可能引起的损失、风险和主观上感觉的差别等因素。 （2）d