信息论基础 普通高等教育十一五 国家级规划教材 教学课件 作者 田宝玉 杨洁 贺志强 王晓湘 chapter9.pptVIP

第9章信息率失真函数 本章首先在研究离散信息率失真函数的基础上，介绍限失真信源编码定理，然后研究离散与连续信源的率失真函数的计算，重点是二元信源和高斯信源，最后简单介绍有损数据压缩技术。 §9.1 概 述 对于有失真信源编码，我们总希望在不大于一定编码速率（即传送每信源符号所需的平均的二进数字数）的条件下，使平均失真最小；或者在平均失真不大于某个值的条件下，使编码速率最小。仙农提出的信息率失真理论是有损数据压缩的理论基础，该理论的核心是在保真度准则下的信源编码定理，也称仙农第三定理，定理指出信源编码的码率大于R(D)是存在平均失真不大于D的信源编码的充分与必要条件。对有损压缩编码系统，确定失真测度是首要的工作，不同的失真测度会得到不同R(D)函数。 9.1.1 系统模型 一个有损压缩系统对信源发出的消息X进行有失真信源编码，经理想无噪声信道传输，到达信源译码器，输出为Y。由于编码有失真，所以Y不是X的精确复现。 9.1.2 失真测度 1．单符号失真测度 试验信道的输入x和输出y之间的失真用 表示，其中 。 定义失真矩阵 其中， 表示当试验信道的输入为a时，输出为b所产生的失真。 9.1.2 失真测度 如果规定 那么失真矩阵变为