信息论5-1.pptVIP

第五章 数据可靠传输及信道编码 * * 信息论基础课件之18 第三章中的无失真信源编码定理讨论了在不失真的条件下，任何用尽可能少的码符号来传送信源信息，该定理表明：平均码长的极限是信源的熵率，超过了这一极限就不可能实现无失真的译码，但在实际生活中，人们不一定要求完全无失真的恢复消息，也就是允许有一定的失真。 限失真的必要性： ① 连续信源输出的信息量为无穷大，不可能实现无失真信源编码； ② 若信息传输率，则不可能实现无失真信源编码； ③ 接受者(信宿)无论是人还是机器设备，都有一定的分辨能力与灵敏度，即视觉和听觉允许一定的失真。 §5.1 限失真信源编码模型和率失真函数 §5.2 率失真函数的计算 §5.3 限失真信源编码定理 §5.4 习题与小结 一、失真测度 1、限失真信源编码模型 2、失真测度(失真函数) 注： 3、常用失真测度 ① 汉明失真 ② 平方失真 ③ 绝对值失真 ④ 相对失真 注 n长信源序列的失真函数测度： 4、失真矩阵 注若D中的每一行都是其他行相同元素的不同排列，且每一列也都是其他列相同元素的不同排列，则称失真矩阵具有对称性，以这种对称性的失真矩阵度量失真的信源称为失真对称信源，简称对称信源。若失真测度是规范的，则失真矩阵中每行至少有一个零元素。 5、平均失真 (1) 单符号的平均失真 定义平均失真为： 定义：设离散信源 ，经过信道输出符号 ，失真矩阵为： (2) 信源序列的平均失真 (3) 连续信源的平均失真 6、保真度准则 允许失真度—— 要求平均失真不大于某个值，则将该值定义为允许失真度D。 保真度准则—— 信源压缩后的平均失真 不大于允许失真度 的准则，即 失真许可的试验信道——凡满足保真度准则的这些信道称为D失真许可的试验信道，记作： 二、率失真函数的定义 1、率失真码 2、率失真对（R，D）可达 3、率失真函数和失真率函数 第二种定义： ③ R(D)和C呈对偶性。 三、率失真函数的性质