秋信息论第章限失真信源编码.pptxVIP

第5章 限失真信源编码;;很多情况下，不可能进行无失真信源编码—— 如，连续信源的熵 H 为无限大 很多应用中，没必要进行无失真信源编码—— 如，人眼所能分辨的灰度级 、颜色都是有限的. 人耳仅能感受 几百Hz~十几KHz 的声音信号。;4;在实际生活中，通常总是要求在保证一定质量的前提下，在信宿端近似地再现信源输出的信息，或者说，在保真度准则下允许信源输出存在一定的失真。 对于给定的信源（熵H(X))，在允许的失真条件下，信源熵所能压缩的极限（信息率失真R(D)）理论值是多少，如何计算，是本章要讨论的问题。 信息率失真理论研究的是信源熵压缩问题，但采用了研究信道的方法，即在数学上将信源熵压缩看成通过一个信道，寻找在保真度准则下的最小的平均互信息。 信息率失真理论是信号量化、模数转换、频带压缩和数据压缩的理论基础，在图像处理、数字通信等领域得到广泛应用。;6;7;8;9;10;11;12;13;例7.1.2 假定离散矢量信源N=3，输出矢量序列为X=X1X2X3，其中Xi的取值为{0,1}；经信道传输后的输出为Y=Y1Y2Y3，其中Yi的取值为{0,1}。定义失真函数;;5.1.2 平均失真;失真函数选为汉明失真，假定允许的失真限度D*=1/2，试分析信息可压缩的程度。;信息传输率：;信源的信息传输率的压缩程度：;;21;22;23;信道容量;25;D=0;;（4）;例：;;32;