《信息论与编码》教学大纲.pdfVIP

《信息论与编码》教学大纲 课程编号： 开课学期： 第5 学期 适用专业： 通信工程专业 学 时： 32+8 学 分： 2 第一部分 说 明 一、课程的性质和作用 本课程是通信工程专业的一门重要的专业限选课程。信息的概念和研究范围不断扩大和 深化，已迅速渗透到相关学科领域，如无线电技术、自动控制、人工智能、信号与信息处理、 网络技术、计算机技术等等，信息论是信息科学和技术的基础理论，通过本课程的学习，使 学生了解和掌握信息度量和信道容量的基本概念和理论、典型信源和信道特性、信源编码定 理和信道编码定理，以及信源编码和信道编码的基本理论和方法，为今后进一步学习密码学 等信息处理的方法与技术打下坚实的理论基础。 二、课程的任务与基本要求 本课程从“概念、描述、度量、分析与计算”五个方面讨论无失真信源、信息熵、熵的基 本性质与计算；以单个离散信息为主体，讨论各类信道及其容量的计算，从信息的高效率、 高可靠性传输的角度，讨论编码的理论和方法。学生通过本课程的学习理解有关信息和信息 度量的概念，掌握离散信源信息度量的计算方法，理解连续信源和离散信源信息度量的异同 点；理解香农信息论中信道和信道容量的概念，了解信道容量的分析与计算方法；了解典型 信源和信道的分析方法及其特性；理解信源编码的作用和实现方法，掌握香农编码、费诺编 码、哈夫曼编码；信道编码的作用及分类、译码规则及其选择原则、线性分组码、循环码、 BCH 码、RS 码、卷积码等。 三、教学方法建议 在考试方法改革中，主要思想是转变应试学习为研究性学习，转变注重考试结果为注重 学习过程，转变计算能力为知识应用能力，并有利于优秀学生的才能得到充分施展和发挥； 闭卷考试内容侧重学生综合能力及分析能力，强调原理、概念与方法；提高平时作业与课堂 测试的份量，一方面转变注重考试结果为注重学习过程，另一方面也可以将学生从应试学习 模式转为素质培养模式。 四、本课程与其他课程的关系 本课程先修课是《高等数学》、《线性代数》、《概率论和随机过程》，要求学生在《概率 论和随机过程》课程的学习中为本课程打下扎实的数学基础。 后续课程有 《通信理论》、《信号检测与估值》，《纠错编码》、《语音信号处理》、《数字图 像处理》、《模式识别》、《人工智能》及《计算机通信网》等专业课程。 第二部分 本 文 143 一、基本内容与学时分配 （一）概论 1. 信息的一般概念………………………………………………………………… （2 学时） 教学内容要点：（1）信息的分类 （2）信息论的起源、发展及研究内容 （二）信源熵 1. 单符号离散信源………………………………………………………………… （2 学时） 教学内容要点：（1）单符号离散信源的数学模型 （2）自信息和信源熵 （3）信源熵的基 本性质和定理 （4）加权熵的概念及基本性质 （5）平均互信息量 （6）各种熵之间的关系 2. 多符号离散平稳信源…………………………………………………………… （2 学时） 教学内容要点：（1）序列信息的熵 （2）离散平稳信源的数学模型 （3）离散平稳信源的 信源熵和极限熵 （4）马尔可夫信源的极限熵 （5）冗余度及信息变差 3.连续信源……………………………………………………………………………（2 学时） 教学内容要点：（1）连续信源的信源熵 （2）几种特殊连续信源的信源熵 （3）连续熵的 性质及最大连续熵定理 （4）熵功率 （三）信道容量 1. 单符号离散信道的信道容量…………………………………………………… （1学时） 教学内容要点：（1）信道容量的定义 （2）几种特殊离散信道的信道容量 （3）离散信道 容量的一般计算方法 2. 多符号离散信道的信道容量…………………………………………………… （2 学时） 教学内容要点：（1）多符号离散信道的数学模型 （2）离散无记