信息率失真函数10.29精品.pptVIP

引入限失真的必要性(续) 如果允许信息有某些失真，就可以大大降低信息传输速率，从而降低通信成本 失真函数 由于本章学习内容只涉及信源编码问题，因此可以把从信源编码器到信源译码器之间的所有部件合在一起等效为一个有噪声的试验信道 失真函数(续) 常用的失真函数 平均失真度 符号序列的失真度 符号序列的平均失真度 4.1.2　信息率失真函数的定义 信息率失真函数的定义(续) 率失真函数的定义域 (D 的下界) 率失真函数的定义域 (D 的上界) 率失真函数的定义域(Dmax 的计算) 率失真函数对允许平均失真度的下凸性 率失真函数的连续性 率失真函数的单调递减性 问题：在允许一定程度的失真条件下，信源信息能够压缩到何种程度？至少需要多少比特的信息率才能描述信源？ 定义失真函数： 失真矩阵 失真度还可表示成矩阵的形式 称d 为失真矩阵。它是n×m阶矩阵。 平均失真定义： 平均失真为失真函数的数学期望， 试验信道 平均失真 是信源统计特性p(xi) 、信道统计特性p(yj/xi )和失真度d(xi,yj)的函数 。当p(xi)和d(xi,yj)给定后，则可以求出满足保真度准则 下的所有转移概率分布 pij，构成一个信道集合PD， 那么PD 称为D允许试验信道。 R(D)的下凸性和连续性 （1）率失真函数对允许平均失真度的下凸性 对任一0≤α≤1和任意平均失真度D’，D’’≤Dmax，有 R[ α D’+(1－ α )D’’]≤α R(D’)+(1－ α )R(D’’) （2）率失真函数的连续型 由于函数R(D)具有凸状性，保证了它在定义域内是连续的。 作业 4.1 4.3 R(D)的单调递减性 在DminDDmax范围内R(D)单调递减。 本章总结 本章总结 * * 第四章 信息 率失真函数 * Department of Communication China Ji Liang University * 第四章 信息 率失真函数 * Department of Communication China Ji Liang University * (1)对于任意三点x1x2x3，必有：f(x2)-f(x1)/x2-x1 4.1.3 信息率失真函数R(D) 例如： 司令员发布命令：“请各部队官兵做好武器、弹药和行装等方面的准备，于今日晚上十一时准时向对面山上的敌军发动进攻，希望各部队做好思想政治工作，一定要取得这次战役的全面胜利。” 通信兵：“今晚十一点发动进攻，必夺胜利。” 结果是：取得了胜利。 说明：信源所需输出信息率是可以压缩的。 压缩后 压缩前 56 K 5.2 M 112 128 电视电话 1.5～2 M 36.5 M 288 352 会议电视 4～8 M 167 M 480 720 普通电视 20～25 M 1.18 G 1080 1920 HDTV 信息传输率(码率)bps 行数/帧 象素数/行 应用种类 在允许一定程度失真的条件下，怎样用尽可能少的码符号来表达信源的信息，也就是信源熵所能压缩的极限或者说编码后信息传输率压缩的极限值是多少？ 保真度准则下的离散信源编码定理：在允许一定失真度 D 的情况下，信源输出的信息传输率可压缩到极限值——信息率失真函数 R ( D ) 试验信道 信源 信　源 译码器 信　源 编码器 无损无噪信道 信宿 对每一对 ( xi , yj )，指定一个非负的函数 称为单个符号的失真度或失真函数，表示离散信源发出一个符号 xi 而在接收端再现成 yj 所引起的误差和失真。 上述非负的失真函数共有 n ? m 个，可以整体表示成失真矩阵 由于信源发出的符号 X 和信宿收到(再现)的符号 Y 均是随机变量，因此单个符号的失真函数 d ( xi, yj ) 也是随机变量(的一次实现) 失真函数是根据人们的实际需要和失真引起的损失、风险、主观感觉上的差别等因素人为规定的，可以有多种形式 平方误差失真函数 绝对误差失真函数 相对误差失真函数 误码失真函数 平方失真和绝对失真只与 ( yj - xi ) 有关，而不是分别与 xi , yj 有关，在数学处理上比较方便；相对失真与主观特性比较匹配，因为主观感觉往往与客观量的相对数成正比，但其数学处理比较困难 误码失真函数表明，只要发送符号与接收符号不同，由此引起的失真都相同(为常数 a )。若常数值为 1，则称为汉明失真 适用于 连续信源 适用于离散信源 由于单个符号的失真函数 d ( xi , yj ) 是随机变量(的一次实现)，它只能表示两个特定的具体符号 xi , yj