信息论与编码课件(第四).pptVIP

第四章 无失真信源编码 4.1 编码器及码的分类 第四章 无失真信源编码 本章的重、难点内容 1、理解等长码和等长信源编码定理 2、理解和掌握变长码及变长码编码定理 3、理解Huffman编码、费诺码、香农码 4、了解几种实用的无失真信源编码方法，包括（MH编码、算术编码、LZ码） 第四章 无失真信源编码 编码的意义： 通信的基本问题：如何高速、高质地传送信息。 高速和高质＝鱼和熊掌。 编码讨论的问题： （1）质量一定，如何提高信息传输速度（提高编码效率或压缩比）---- 信源编码（本章讨论问题） （2）信道传输速度一定，如何提高信息传输质量（抗干扰能力）----信道编码（下一章讨论） 引言 信源编码：以提高通信有效性为目的的编码。通常通过压缩信源的冗余度来实现。采用的一般方法是压缩每个信源符号的平均比特数或信源的码率。即同样多的信息用较少的码率传送，使单位时间内传送的平均信息量增加，从而提高通信的有效性。 引言 信道编码：是以提高信息传输的可靠性为目的的编码。通常通过增加信源的冗余度来实现。采用的一般方法是增大码率/带宽。与信源编码正好相反。 密码：是以提高通信系统的安全性为目的的编码。通常通过加密和解密来实现。从信息论的观点出发，“加密”可视为增熵的过程，“解密”可视为减熵的过程。 引言 信源编码理论是信息论的一个重要分支，其理论基础是信源编码的两个定理。 无失真信源编码定理：