第六章 保真度准则下的信源编码.pptVIP

引言 引言 第一节 失真度和平均失真度 第一节 失真度和平均失真度 第一节 失真度和平均失真度 第一节 失真度和平均失真度 第二节 信息率失真函数及其性质 第二节 信息率失真函数及其性质 第二节 信息率失真函数及其性质 第二节 信息率失真函数及其性质 第二节 信息率失真函数及其性质 第三节 二元信源和离散对称信源的R(D)函数 第四节 保真度准则下的信源编码定理 第五节 联合有失真信源信道编码定理 第六节 限失真信源编码定理的实用意义 第六节 限失真信源编码定理的实用意义 第六节 限失真信源编码定理的实用意义 第六节 限失真信源编码定理的实用意义 本章重点 可以计算得：二元信源的信息率失真函数为 在汉明失真条件下， 例： 第三节 二元信源和离散对称信源的R(D)函数 对于离散对称信源，在汉明失真条件下： 第四节 保真度准则下的信源编码定理 使编码后的每个信源符号的信息传输率满足： 该定理告诉我们： 即 ，而码的平均失真度 。 该定理告诉我们：如果编码后平均每个信源符号的信息传输率 小于信息率失真函数 ，就不能在保真度准则下再现信源的消息。 第四节 保真度准则下的信源编码定理 第五节 联合有失真信源信道编码定理 第六节 限失真信源编码定理的实用意义 例： 要对此信源进行无失真编码，每个信源符号必须用一个二元符号来表示，信源的信息输出率为R=H=1。若允许失真存在，并定义失真函数为汉明失真，即 可以设想这样 一种信源编码： 无噪无损 信道传输 U V Y f(U) 失真信源编码 码字 C = (0，1) 实际信道 译码 U 000 ， 101， 100， 110， 011， 111， 001， ······ V 000 ， 111， 000， 111， 111， 111， 000， ······ C 0 ， 1， 0， 1， 1， 1， 0， ······ Y 0 ， 1， 0， 1， 1， 1， 0， ······ 000 ， 111， 000， 111， 111， 111， 000， ······ 编 码 译 码 信 道 无噪无损 信道 图7.18 信源编码引起失真的示意图 * * * * 第六章 保真度准则下的信源编码 第一节 失真度和平均失真度 第二节 信息率失真函数及其性质 第三节 二元信源和离散对称信源的R(D)函数 第四节 保真度准则下的信源编码定理 第五节 联合有失真信源信道编码定理 第六节 限失真信源编码定理的实用意义 1、实际通信中存在失真。 在实际通信中，信源输出的信息传输率总是大大超过信道容量，不可能实现完全无失真地传输信源的信息。 此外，为了提高传输和存储效率，必须进行数据压缩，这样也会损失一定的信息，带来失真。 2、实际生活中允许有一定失真。 在实际生活中，人们不一定要求完全无失真的恢复消息，也就是允许有一定的失真。 3、引出所研究的问题：允许一定失真下信源编码。 那么在允许一定程度失真的条件下，能够把信源信息压缩到什么程度，也就是，允许一定程度失真的条件下，如何能快速的传输信息，这就是本章所要讨论的问题。 本章所讨论的内容是量化、数模转换、频带压缩和数据压缩的理论基础。 失真度如何表示？基于失真度定义的信息率失真函数及其性质？什么是保真度准则？在保真度准则下如何进行信源编码？ 第一节 失真度和平均失真度 1、失真度 根据信道编码定理，我们可以把信道编码、信道和信道解码等价成是一个没有任何干扰的广义信道，这样收信者收到消息后，所产生的失真只是由信源编码带来的。我们也可以把信源编码和信源译码等价成一个信道，称此信道为试验信道。 现在我们要研究在给定允许失真的条件下，是否可以设计一种信源编码使信息传输率为最低。为此，我们首先讨论失真的测度。 设信源变量为 ，其概率分布为 对于每一对(u,v)，我们指定一