《信息论与编码》教学大纲 .pdfVIP

信息论与编码课程教学大纲

一、课程的基本信息

适应对象：通信工程本科

课程代码：23E00815

学时分配：44=36理论+8实验

赋予学分：2

先修课程：概率论与数理统计，信号与系统

后续课程：语音信号处理、数字图像处理

二、课程性质与任务

本课程是通信工程的专业必修课程，是更好掌握其它专业课的基础。通过本课程的学习，

使学生掌握信息理论与编码技术的基本原理及典型方法，认识信息传输本质以及通信的有效性

与可靠性问题。为信息类专业学生奠定良好的通信学科理论基础和分析方法，使其能运用信息

理论解释通信工程的规律，分析基本的编码技术，进一步明确信息理论在通信中的指导作用。

三、教学目的与要求

教学目的：

通过本课程的学习，使学生掌握Shannon信息论的基本概念和原理，掌握数据压缩编码和

纠错编码的基本原理及典型方法，并使学生能对信息的概念、信息传输的本质以及通信的有效

性与可靠性有一个初步的认识。进而能运用信息理论解释通信工程的规律，掌握基本的编码技

术及性能分析方法。同时结合实验作业加强学生对知识的理解，并提高实际设计与编程能力。

具体要求：

1.了解信息论的体系，以及信息论在信息系统中的主要作用，包括信息论的发展史、研究

的主要问题。

2.理解信息论的主要概念及其对应的物理意义和相关性质。尤其是信源熵的概念、信源冗

余度的物理意义、信道容量的、信息率失真函数的作用。理解信源编码和信道编码及其在信息

传输中的作用。

3.掌握信源熵和信道容量的计算，掌握常用的信源编码方法（如：赫夫曼编码）和常用的

信道编码方法（如：循环码）。

4.能熟练运用香农三大定理来分析编码问题。

四、教学内容与安排

（一）课时分配

按照课程内容，分成7个教学专题，各专题的课时安排如下表：

序号专题名称讲授实验小计

1概论22

2离散信源熵819

3无失真离散信源编码6410

4离散信道容量617

5纠错编码8210

6信息率失真函数44

7习题课22

课时合计36844

（二）教学内容安排

第1章概论（理论2学时）

【教学内容】

1.1信息的概念和分类

1.2信息论的起源和发展

1.3信息论的研究内容

【教学重点及难点】

信息的概念和信息论研究的主要内容。

【基本要求】

理解信息的基本概念，理解信息论的研究对象、目的和内容；了解信息论的形成和发展；

了解典型的通信系统模型以及信息论在通信系统中的作用。

第2章离散信源熵（理论8学时，实验1学时）

【教学内容】

2.1基本概念

2.2离散信源熵的基本概念和性质

2.3多符号离散平稳信源熵

【教学重点及难点】

自信息概念及其物理意义的理解；信息熵概念及其物理意义的理解；各种熵之间的关系、

离散平稳信源条件熵和极限熵；马尔可夫信源的特点

【基本要求】

掌握信源的数学模型，了解信源的分类及马尔可夫信源；掌握离散信源熵和信息熵的基本

性质；掌握离散序列信源信息熵的求法。

第3章无失真离散信源编码（理论6学时，实验4学时）

【教学内容】

3.1基本概念

3.2离散无