第3章信息率失真函数要点.ppt

限失真编码：信源编码经过译码后能保留应用要求的 信息，允许信源有一定的失真。 为什么要进行限失真信源编码？ 1°连续信源的绝对熵为无限大，由于信道的带宽有限， 受信道容量的限制。不可能实现完全无失真的信源信息的 传输。(必要性) 2°实际应用不必要无失真地恢复信源消息, 不必要完全 无失真的信源信息的传输. (可能性) 第3章　限失真信源与信息率失真函数 语音信号传输 语音（音频）信号的带宽 ：20～20 KHZ 实际应用音频范围: 电话质量: 300～3.4KHZ 电话公用网 调幅广播质量: 50 ～7 KHZ 有现场感的语音传输 高保真音频信号: 20 ～20 KHZ 高保真音响 图像信号传输 一路6MHz的普通电视信号数字化后，其数码率将 高达167Mbps，对储存器容量要求很大，占有的带宽将 达80MHz左右 表3－1 各种图像信号应用的码率 应用种类 象素数 /行 行 数 /帧 码率bps 压缩前 压缩后 HDTV 1920 1080 1.18G 20~25M 普通电视 720 480 167M 4~8M 会议电视 352 288 36.5M 1.5~2M 电视电话 128 112 5.2M 56k 本章主要讨论在信源允许一定失真情况下所需的最小信息率，从分析失真函数、平均失真出发，求出信息率失真函数R（D）。 香农定义了信息率失真函数R(D)，论述了关于这个函数的基本定理。 定理指出：在允许一定失真度D的情况下，信源输出的信息率可压缩到R(D)。 信息率失真理论是量化（模数转换）、数模转换、频带压缩和数据压缩的理论基础。 3.1 平均失真和信息率失真函数 3.1.1 失真函数 3.1.2 平均失真 3.1.3 信息率失真函数R(D) 3.1.4 信息率失真函数的性质 3.1 平均失真和信息率失真函数 在实际问题中，信号有一定的失真是可以容忍的。但是当失真大于某一限度后，信息质量将被严重损伤，甚至丧失其实用价值。要规定失真限度，必须先有一个定量的失真测度。为此可引入失真函数。 3.1.1 失真函数 假如某一信源X，输出样值为xi，xi?{x1,…xn}，经过有失真的信源编码器，输出Y，样值为yj，yj ?{y1,…ym}。如果xi＝yj，则认为没有失真；如果xi ? yj，那么就产生了失真。失真的大小，用一个量来表示，即失真函数d(xi，yj)，以衡量用yj代替xi所引起的失真程度。一般失真函数定义为 失真矩阵 单个符号的失真度的全体构成的矩阵 ，称为失真矩阵 失真矩阵 失真矩阵 例：设信源符号为X={0,1},接收端收到符号为Y= {0,1,2},规定失真函数为 d(0,0)＝d(1,1)= 0 d(0,1)＝d(1,0)= 1 d(0,2)＝d(1,2)= 0.5 失真矩阵 均方失真：? 相对失真： 误码失真： 绝对失真： 前三种失真函数适用于连续信源，后一种适用于离散信源。 最常用的失真函数 适于连续信源 适于离散信源 失真函数的定义可以推广到序列编码情况，如果假定离散信源输出符号序列X=(X1X2…Xl…XL)，其中L长符号序列样值xi＝(xi1xi2…xil…xiL)，经信源编码后，输出符号序列Y=(Y 1Y 2…Y l…Y L)，其中L长符号序列样值yj＝(yj1yj2…yjl…yjL)，则失真函数定义为： ? 其中d(xil，yjl)是信源输出L长符号样值xi中的第l个符号xil时，编码输出L长符号样值yj中的第l个符号yjl的失真函数。 3.1.2 平均失真 由于xi和yj都是随机变量，所以失真函数d(xi，yj)也是随机变量，限失真时的失真值，只能用它的数学期望或统计平均值，因此将失真函数的数学期望称为平均失真，记为 ? ? 对于连续随机变量同样可以定义平均失真 对于L长序列编码情况，平均失真为 ? 3.1.3 信息率失真函数R(D) 3.1.3 信息率失真函数R(D) 信源编码器的目的是使编码后所需的信息传输率R尽量小，然而R越小，引起的平均失真就越大。给出一个失真的限制值D，在满足平均失真 ? D的条件下，选择一种编码方法使信息率R尽可能小。信息率R就是所需输出的有关信源X的信息量。将此问题对应到信道，即为接收端Y需要获得的有关X的信息量，也就是互信息I(X;Y)。这样，选择信源编码方法的问题就变成了选择假想