第四章 限真信源编码.pptVIP

第四章????? 限失真信源编码 连续信源的熵和互信息 信息率失真理论 标量量化编码 矢量量化编码 语音压缩编码 图象压缩编码 第四章????? 限失真信源编码 限失真编码：信源编码经过译码后能保留应用要求的 信息，允许信源有一定的失真。 为什么要限失真编码 1°连续信源的绝对熵为无限大，由于信道的带宽有限， 受信道容量的限制。不可能实现完全无失真的信源信息的 传输。(可能性) 2°信道资源和技术经济因素的限制。(可实现性) 3°实际应用不必要无失真地恢复信源消息, 不必要完全 无失真的信源信息的传输. (必要性) 4°数字系统的应用 ,模拟量的采样,量化也会引入失真. 语音信号传输 语音（音频）信号的带宽 ：20～20000HZ 实际应用音频范围: 电话质量: 300～3.4KHZ 电话公用网 调幅广播质量: 50 ～7 KHZ 有现场感的语音传输 高保真音频信号: 20 ～20 KHZ 高保真音响 图像信号传输 一路6MHz的普通电视信号数字化后，其数码率将 高达167Mbps，对储存器容量要求很大，占有的带宽将 达80MHz左右 表4－1 各种图像信号应用的码率 一、连续消息的统计特性 遍历平稳过程：若一平稳随机过程{x(t)}的集平均以概率1等于其时间平均，则称{x(t)}为遍历的平稳过程。 二、连续信源的熵 对连续变量X的量化方法如下： 将X的取值范围[a,b]作n等分，每份?=(b-a)/n 2、相对熵 三、平均互信息 实际应用中 , 允许信号有一定的失真 , 当失真超过一定 限度后 , 信息将失去实用价值 , 因此要规定失真的限度. 信息率失真是A/D转换、量化、频带压缩和数据压缩的 理论基础. 4.2.1 失真函数 1) 失真函数定义 信源 经过信源编码后输出 对于每一对( ui , vj ) , 指定一个非负函数 d ( ui , vj ) ≥ 0 i = 1 , 2 , … , n j = 1 , 2 , … , m 称 d ( xi , yj ) 为单个符号的失真函数. 表示信源发出符 号 xi , 接收端再现 yj 所引起的误差或失真. d ( xi , yj ) = 0 无失真 , d ( xi , yj ) 0 有失真. 2) 常用的失真函数 1°平方误差失真函数 d ( xi , yj ) = (xi - yj )2 2°绝对误差失真函数 d ( xi , yj ) = | xi - yj | 3°相对误差失真函数 d ( xi , yj ) = | xi - yj |/ | xi | 4°误码失真函数 失真函数1°,2°,3°用于连续信源 , 失真函数4°用 于离散信源 , 失真函数4°也称Hanmming失真函数. 3) 失真矩阵d n × m 矩阵 4.2.2 平均失真 xi 和 yj 均为随机变量 , 所以d ( xi , yj ) 也为随机变量 , d ( xi , yj )的平均失真用其数学期望或统计平均值描述 , 用 符号 表示. 4) 信息率失真函数R(D)物理意义 1°R(D)是信源给定的情况下, 在可容忍的失真度内再现 信源消息所必须获得的最小平均信息量 . 2°R(D)是反映给定信源可压缩的程度. 3°R(D)求出后 , 就与选择的试验信道无关 , 而只是信源 特性的参量 , 不同的信源 , 其R(D)是不同的 . 5) 信息率失真函数R(D)的计算 已给定信源概率P(X)和失真函数d ( xi , yj ) ,求信息率 失真函数R(D)的问题 , 可以归结为在约束条件保真度准 则 ≤ D 下, 求极小值的问题 . 4.3 标量量化编码 标量量化----零记忆量化 每次只量化一个模拟样本值。 均匀量化：线性量化 最优量化：使量化器的均方误差σe2最小或信噪比SNR最小的量化。 （概率非均匀分布的最优量化算法） 4.3.1 均匀量化 量化器输入：x，对应实数值域空间为R； 量化器输出：y，对应实数值域空间为Rc；对应取值范围[a0,an]