第六章限失真信源编码说课.ppt

* 第七章 限失真信源编码 7.1 失真测度 7.2 信息率失真函数 7.3 信息率失真函数的计算 7.4 限失真信源编码定理和逆定理 * 7.5 熵压缩编码具体方法 信宿 信源 编码器/信道 Y X R=I(X;Y)R(D) 概述 第七章：限失真编码 失真测度 7.1.1 失真函数 第七章：限失真编码 失真测度 失真矩阵 7.1.1 失真函数 第七章：限失真编码 失真测度 常用的失真函数有： （1）??汉明失真 （2） 平方误差失真函数 失真函数是根据人们的实际需要和失真引起的损失、风险大小等人为规定的。 7.1.1 失真函数 第七章：限失真编码 失真测度 例7.1.1 设信道输入 ，输出 ，规定失真函数 d(0,0)=d(1,1)=0， d(0,1)=d(1,0)=1， d(0,2)=d(1,2)=0.5，求 D 。 解： 7.1.1 失真函数 第七章：限失真编码 失真测度 例7.1.1 设信道输入 ，输出 ，规定失真函数 d(0,0)=d(1,1)=0， d(0,1)=d(1,0)=1， d(0,2)=d(1,2)=0.5，求 D 。 解： 7.1.1 失真函数 第七章：限失真编码 失真测度 符号序列的失真函数 7.1.1 失真函数 第七章：限失真编码 失真测度 例7.1.2 假设信源输出序列 ，其中每个随机变量均取值于 。经信道传输(编码）后的输出为 ，其中每个随机变量均取值于 。 定义失真函数 d (0,0) =d (1,1) =0， d (0,1) =d (1,0) =1，求失真矩阵 D (N ）。 7.1.1 失真函数 第七章：限失真编码 失真测度 7.1.1 失真函数 第七章：限失真编码 失真测度 7.1.2 平均失真 第七章：限失真编码 失真测度 第七章：限失真编码 失真测度 7.1.2 平均失真 第七章：限失真编码 失真测度 7.1.2 平均失真 7.2.1 D 允许信道 保真度准则 D失真允许信道 7.2 信息率失真函数 第七章：限失真编码 信息率失真函数 7.2.2 信息率失真函数的定义 当信源为离散无记忆平稳信源、信道为离散无记忆平稳信道时 7.2 信息率失真函数 第七章：限失真编码 信息率失真函数 是在信道固定前提下，选择一种信源概率分布使信息传输率最大（求极大值）。它反映了信道传输信息的能力，是信道可靠传输的最大信息传输率。信道容量与信源无关，是反映信道特性的参量，不同的信道其信道容量不同。 7.2 信息率失真函数 第七章：限失真编码 信息率失真函数 是在信源固定，满足保真度准则的条件下的信息传输率的最小值。反映了满足一定失真度的条件下信源可以压缩的程度，也就是满足失真要求而再现信源消息所必须获得的最少平均信息量。是信源特性的参量，一旦求到就与求极值过程中选择的试验信道无关，不同的信源率失真函数不同。 7.2 信息率失真函数 第七章：限失真编码 信息率失真函数 这两个概念适用范围是不一样。研究信道容量C 是为了解决在已知信道中尽可能多地传送信息的问题，是为了充分利用已给定的信道，使传输的信息量最大而错误概率任意小，以提高通信的可靠性，这是信道编码的问题。 研究信息率失真函数是为了解决在已知信源和允许失真度条件下，使信源输出的信息率尽可能小，也就是在允许一定失真度D 的条件下，使信源必须传送给信宿的信息量最少，尽可能用最少的码符号来传送信源信息，使信源的信息可以尽快地传送出去，以提高通信的有效性，这是信源编码问题。 7.2 信息率失真函数 第七章：限失真编码 信息率失真函数 1. 的定义域 例7.3：删除信道 ，求 第七章：限失真编码 信息率失真函数的性质 1. 的定义域 第七章：限失真编码 信息率失真函数的性质 例7.4 设信源 , ，求 1. 的定义域 第七章：限失真编码 信息率失真函数的性质 解： 1. 的定义域 第七章：限失真编码 信息率失真函数的性质 1. 的定义域 第七章：限失真编码 信息率失真函数的性质 例： 二元信源 ,