第四章限失真信源编码.ppt

连续信源的熵和互信息 信息率失真理论 标量量化编码 矢量量化编码 语音压缩编码 图象压缩编码;第四章????? 限失真信源编码;语音信号传输 语音（音频）信号的带宽 ：20～20000HZ 实际应用音频范围: 电话质量: 300～3.4KHZ 电话公用网 调幅广播质量: 50 ～7 KHZ 有现场感的语音传输 高保真音频信号: 20 ～20 KHZ 高保真音响 图像信号传输 一路6MHz的普通电视信号数字化后，其数码率将 高达167Mbps，对储存器容量要求很大，占有的带宽将 达80MHz左右;表4－1 各种图像信号应用的码率 ;;平稳随机过程：统计特性不随时间平移而变化的随机过程。;二、连续信源的熵; 对连续变量X的量化方法如下： 将X的取值范围[a,b]作n等分，每份?=(b-a)/n;则连续信源X:;二、连续信源的熵;三、平均互信息;实际应用中 , 允许信号有一定的失真 , 当失真超过一定 限度后 , 信息将失去实用价值 , 因此要规定失真的限度. 信息率失真是A/D转换、量化、频带压缩和数据压缩的 理论基础. 4.2.1 失真函数 1) 失真函数定义 信源 经过信源编码后输出 对于每一对( ui , vj ) , 指定一个非负函数 d ( ui , vj ) ≥ 0 i = 1 , 2 , … , n j = 1 , 2 , … , m 称 d ( xi , yj ) 为单个符号的失真函数. 表示信源发出符 号 xi , 接收端再现 yj 所引起的误差或失真. d ( xi , yj ) = 0 无失真 , d ( xi , yj ) 0 有失真. ;2) 常用的失真函数 1°平方误差失真函数 d ( xi , yj ) = (xi - yj )2 2°绝对误差失真函数 d ( xi , yj ) = | xi - yj | 3°相对误差失真函数 d ( xi , yj ) = | xi - yj |/ | xi | 4°误码失真函数 失真函数1°,2°,3°用于连续信源 , 失真函数4°用 于离散信源 , 失真函数4°也称Hanmming失真函数. 3) 失真矩阵d n × m 矩阵 ;4.2.2 平均失真 xi 和 yj 均为随机变量 , 所以d ( xi , yj ) 也为随机变量 , d ( xi , yj )的平均失真用其数学期望或统计平均值描述 , 用 符号 表示. ;4.2.3 信息率失真函数R(D) 1) 受信道容量的限制 , 实际应用中必须对信源进行压缩 , 应 1°使其??缩后的信息传输率小于信道容量; 2°保证压缩所引入的平均失真 不超过预先给定的允许失真度D; 3°在满足 ≤ D的前提下 , 使编码后的信息率尽可能小. 不等式 ≤ D 称为保真度准则;2) 试验信道 1°有失真的信源编码器视作有干扰的信道(假想信道) 2°当信源已知 (即B(U)已知)时 , 单个符号的失真度给 定, 选择一类假想信道 , 使得 ≤ D ,这类假想信道称为 D 失真允许信道 , 或 D 失真允许试验信道. 记为 BD={ p( v j | u i ): ≤ D ; i=1,2, … ,n ; j=1,2,…m } p(v j | u i )为信道的传递概率。;3)离散信源的信息率失真函数;4) 连续信源的信息率失真函数; 4) 信息率失真函数R(D)物理意义 1°R(D)是信源给定的情况下, 在可容忍的失真度内再现 信源消息所必须获得的最小平均信息量 . 2°R(D)是反映给定信源可压缩的程度. 3°R(D)求出后 , 就与选择的试验信道无关 , 而只是信源 特性的参量 , 不同的信源 , 其R(D)是不同的 . 5) 信息率失真函数R(D)的计算 已给定信源概率P(X)和失真函数d ( xi , yj ) ,求信息率 失真函数R(