第七章限失真信源编码152015.pptVIP

第七章 限失真信源编码 * * 本章需要掌握的内容： 失真测度 率失真函数 限失真信源编码定理 第一节 失真测度 一.失真函数 失真函数----用一个非负函数d (xi ,yj)表示当信源发出信息 xi ，而信宿收到信息yj 的失真度的定量描述 信道 X Y X=[x1 x2 … xn] Y=[y1 y2 …ym] 失真矩阵[d] 注意:-----失真函数的形式是依实际情况人为决定的. 最常用的失真函数有： 信道 X Y 矢量失真函数 例7-1 假定离散矢量信源N=3，输出矢量序列为X=X1X2X3，其中Xi , i=1,2,3的取值为{0,1}，经信道传输后的输出为Y=Y1Y2Y3 ，其中Yj , j=1,2,3的取值为{0,1}.定义失真函数为 d(0,0)=d(1,1)=0,d(0,1)=d(1,0)=1,求矢量失真矩阵[dN]。 解：由矢量失真函数的定义得： 类似可以得到其他失真函数的值，则矢量失真矩阵为 ----用来估计全体信源发出的信息与接收信息之间的失真程度。 二.平均失真函数 定义：失真函数的数学期望定义为平均失真函数（平均失真度） 矢量平均失真函数为： ：表示第i个位置上符号的平均失真函数。 例7-2 在语音线谱频率参数的矢量量化中，引入失真函数d(X,Y) ，该失真函数反映用码字Y代替线谱频率参数X时付出的代价。平均失真测度为失真函数的数学期望值。通常我们采用加权欧氏失真测度： 为加权因子， 为经验常数 为对应测试矢量的LPA功率谱 实验证明该方法比均方误差失真每帧节省2个比特以上 第二节 信息率失真函数 在采样率为8kHz的语音信号的子带编码中，如果采用小波变换把语音信号分解为4个子带，即2~4kHz，1kHz~2kHz，500~1000Hz，0~500Hz。 原始 全带重建 0~2kHz重建 0~1kHz重建 0~500Hz重建 一.保真度准则 规定平均失真度为D，则信源压缩后的平均失真度 的准则为保真度准则。 当失真函数及信源给定后，选择适当信道，使其平均失真度 满足保真度准则 。所有满足保真度准则的信道，称为D失真允许试验信道，记作 在D允许信道中可以寻找一个信道，使得给定的信源经过此信道传输时，其信道传输率达到最小，这个最小值定义为信息率失真函数，记为： 二.信息率失真函数R(D) 含义：率失真函数是在给定信源、规定失真函数后，在满足保真度准则的前提下，为了再现信源信息，信宿从信源必须获取的最小平均信息量。也就是信源必须传输给信宿的最小信息率。 例7-3：设信源的符号表示为 即符号不发生错误时失真为0，一旦出错失真为1。 假设允许的失真限度为 试分析在给定的失真限度条件下信息压缩的程度。 ，各符 号等概分布，规定失真函数为 解：由信源概率分布可求出信源熵为 如果对信源进行无失真编码，即平均失真度 则平均每个符号至少需要 个二进制码元来表示。 此时信源编码器的输出信息率为 当允许的失真限度为 时，可以计算得 按照最大的失真度来进行编码，即平均失真度 也就是说，当收到100个符号，允许其中有50个符号发生错误。设想采用下面的编码方法： 用信道表示如下： 该信道的平均失真度为： 由平均互信息的公式可知： 该编码方法相当于一个确定信道，则 信道输出概率分布为： 则输出熵为 平均互信息： 即采用上面的编码方法后的信息率 比较率失真函数和该信道的信息率有： 当 时，该编码器输出的信息率等于率失真函数，而当 时，该编码器输出的信息率大于率失真函数 说明该编码方法不是最好的编码方法 。 从两个方面应用这个率失真函数： 再看具体编码方法的输出信息率跟 1）在给定失真度D的条件下，求出所能达到的最小信息率 的关系，然后判断 该编码方法是否适合。 然后看具体编码方法的失真是否超过最小失真 2）在给定信息率R的条件下，求出所能达到的最小失真 在WI语音压缩编码中，线谱频率的量化采用矢量量化，它是从第二个方面应用率失真函数来指导的。目前，每帧语音的线谱频率只需要20比特来表示就能达到透明量化质量。 原始语音 WI语音20bit 本人采用的方法15bit -----连续信源 三.率失真函数R(D)的定义域 信道传输的信息量等于信源的熵，即： 1. -------离散信源 2. 的定义域为： 如何求解出 呢？ 当 时，信道的输入与输出相互独立，则 此时的平均失真为 如果选取 的最小值对应的 令其它的 对应的 ，则有 例7-4：设输入输出符号表示为 ，输入概率分布为 ，失真矩阵为 ，求平均失真度为 和 时的率