信息论PPt(叶中行).ppt

第3章 数据压缩和信源编码 §3.1 等长码 §3.2 变长编码 §3.3 哈夫曼码 §3.4 香农码和费诺玛 3.5 通用信源编码 本节将主要介绍 LZ算法， 改进的LZ-Welcn?算法 Kieffer-Yang算法， LZ算法基于符号串匹配的算法，而LZ-Welcn?算法是基于字典的算法，它们都是利用信源输出符号自身的信息来进行压缩编码。Kieffer-Yang算法（简称YK算法）则兼顾了字符串匹配和算术码结构的优点。 LZ算法 * 信源编码：以提高通信有效性为目的的编码。通常通过压缩信源的冗余度来实现。采用的一般方法是压缩每个信源符号的平均比特数或信源的码率。即同样多的信息用较少的码率传送，使单位时间内传送的平均信息量增加，从而提高通信的有效性。 信道编码：是以提高信息传输的可靠性为目的的编码。通常通过增加信源的冗余度来实现。采用的一般方法是增大码率/带宽。与信源编码正好相反。 §3.1 等长码 信源编码理论是信息论的一个重要分支，其理论基础是信源编码的两个定理。 无失真信源编码定理：是离散信源/数字信号编码的基础； 限失真信源编码定理：是连续信源/模拟信号编码的基础。 信源编码的分类：离散信源编码、连续信源编码和相关信源编码三类 离散信源编码：独立信源编码，可做到无失真编码； 连续信源编码：独立信