信息论与编码原理第4章信息率失真函数.ppt

第四章 信息率失真函数 4.1 基本概念 4.2 离散信源的信息率失真函数 4.3 连续信源的信息率失真函数 4.4 信息率失真函数与信息价值 4.5 信道容量与信息率失真函数的比较 4.6 保真度准则下的信源编码定理 4.7 信息论“三大定理”总结 4.1 基本概念 4.1.1 引言 4.1.2 失真度与平均失真度 4.1.3 信息率失真函数的定义 4.1.4 信息率失真函数的性质 4.1.1 引 言 (1) “消息完全无失真传送”的可实现性 (2) 实际中允许一定程度的失真 (3) 信息率失真理论 4.1.1 引 言 (1) “消息完全无失真传送”的可实现性 信道编码定理：无论何种信道，只要信息率 R 小于信道容量 C，总能找到一种编码，使在信道上能以任意小的错误概率和任意接近于 C 的传输率来传送信息。反之，若 R C，则传输总要失真。 完全无失真传送不可实现 实际的信源常常是连续的，信息率无限大，要无失真传送要求信息率 R 为无穷大； 实际信道带宽是有限的，所以信道容量受限制。要想无失真传输，所需的信息率大大超过信道容量 RC。 4.1.1 引 言 (2) 实际中允许一定程度的失真 技术发展的需要 随着科技的发展，数字系统应用得越来越广泛，需要传送、存储和处理大量的数据。为了提高传输和处理效率，需要对数据压缩，这样会带来一定的信息损失。