信息论和编码 第7讲.pdfVIP

信息论与编码 （第七讲） 目录 第一篇 信息论 第1章 概论（2 ） 第2章 信源及其信息量（12） 第3章 信道及其容量（4 ） 第4章 信息率失真函数（4 ） 第二篇编码理论 第5章 信源编码（4 ） 第6章 信道编码的基本概念（2 ） 第7章 线性分组码（6 ） 第8章 循环码（4 ） 第9章 卷积码（4 ） 2010-4-6 Department of Communication Engineering, NCUT 第2页 第二章 信息熵 本章重点：信源的统计特性和数学模型、各类信源的信息测 度—熵及其性质。 2.1 单符号离散信源 2.2 扩展信源 2.3 连续信源 2.4 离散无失真信源编码定理 2.5 小结 2010-4-6 Department of Communication Engineering, NCUT 第3页 2.4 离散无失真信源编码定理 2.4 2.4.1 问题的提出 离 散 2.4.2 定长／等长编码定理 无 失 真 2.4.3 变长编码定理 信 源 编 码 定 理 2010-4-6 Department of Communication Engineering, NCUT 第4页 2.4.1 问题的提出 2.4 (1) 为什么要进行信源编码 离 散 (2) 信源编码的概念 无 失 真 (3) 一些码的定义 信 源 (4) 信源编码的方法 编 码 定 理 2010-4-6 Department of Communication Engineering, NCUT 第5页 2.4.1 问题的提出 2.4 (1) 为什么要进行信源编码 离 散 信源的两个重要问题 无 失 信源输出的信息量计算问题； 真 信 如何更有效地表示信源输出的问题。 源 信源编码就是为了提高通信效率，对信源所发送的消息进行变换的方 编 码 法之一。 定 理 为什么要进行信源编码 人们都希望无失真传送，首先要对信源无差错编码； 数字技术应用越来越多，模拟信源通过数字化变成数字信号传送。 返回目录 2010-4-6 Department of Communication Engineering, NCUT 第6页 2.4.1 问题的提出 2.4 (2) 信源编码的概念 离 散 信源编码定义：指定能够满足信道特性（适合于信道传输） 无 失 的符号序列—码序列，来代表信源输出的消息。 真 信 编码器：完成编码功能的器件。