《信息论基础》教学大纲.pdfVIP

《《信信息息论论基基础础》》教教学学⼤⼤纲纲

《信息论基础》教学⼤纲

课程编号：CE6006

课程名称：信息论基础英⽂名称：FoundationofInformationTheory

学分/学时：2/32课程性质：选修课

适⽤专业：信息安，⽹络⼯程建议开设学期：6先修课程：概率论与数理统计开课单位：⽹络与信息安学院

⼀、课程的教学⽬标与任务

本课程是信息安，⽹络⼯程专业选修的⼀门专业基础课。通过课程学习，使学⽣能够

较深刻地理解信息的表征、存储和传输的基本理论，初步掌握提⾼信息传输系统可靠性、有

效性、保密性和认证性的⼀般⽅法，为后续专业课学习打下坚实的理论基础。

本课程的教学⽬标：

本课程对学⽣达到如下毕业要求有贡献：

1.能够将数学、⾃然科学、⼯程基础和专业知识⽤于解决复杂⼯程问题。

2.能够应⽤数学、⾃然科学和⼯程科学的基本原理，识别、表达，并通过⽂献研究分

析复杂⼯程问题，以获得有效结论。

完成课程后，学⽣将具备以下能⼒：

1.能够针对⼀个复杂系统或者过程选择⼀种数学模型，并达到适当的精度。

2.能够应⽤数学、⾃然科学和⼯程科学的基本原理分析、识别、表达、处理及扩展信

息安、⽹络⼯程专业的复杂问题。

本课程的性质：

本课程是⼀门理论性较强的专业基础课程，在实施过程中以理论为主，共32学时。

⼆、课程具体内容及基本要求

（⼀）绪论（2学时）

1.基本要求

（1）掌握消息、信息和信号；噪声和⼲扰的基本概念

（2）掌握通信系统模型

（3）明确Shannon信息论要解决的中⼼问题

2.重点与难点

（1）重点：掌握通信系统模型的构成及其相应功能

（2）难点：理解Shannon信息论要解决的中⼼问题

3.作业及课外学习要求

（1）阅读IEEEIT1998年信息论50年专刊

（2）数字化⾰命进展-纪念hannon信息论诞⽣50周年

9/xxl2/dzjiaoan/95hannon50y.ppt

（3）信息论与通信、密码、信息隐藏（⼀）

9/xxl2/dzjiaoan/信息论与通信、密码、信息隐藏（⼀）.ppt（4）信息论与通信、密码、信息隐藏（⼆）

9/xxl2/dzjiaoan/信息论与通信、密码、信息隐藏（⼆）.ppt（5）清华⼤学朱雪龙“从通信与信号处理观点

看信息论研究与应⽤中的若⼲问题”

9/xxl2/dzjiaoan/ponit.mht

（⼆）信息量和熵（8学时）

1.基本要求

（1）掌握离散随机变量的熵、平均互信息的基本概念及其性质

（2）掌握平均互信息的凸性

（3）理解信息处理定理

2.重点与难点

（1）重点：对信息量进⾏定量描述

（2）难点：熵和平均互信息的物理含义及其性质，如何应⽤熵和平均互信息的基本概念解决实际问题

3.作业及课外学习要求

熵、平均互信息的计算、信息处理定理等应⽤

（三）离散信源⽆失真编码（8学时）

1.基本要求

（1）掌握离散⽆记忆源等长编码、不等长编码基本概念

（2）掌握离散⽆记忆信源⽆失真编码定理

（3）掌握Huffman编码

（4）理解算术编码和LZ编码基本原理

2.重点与难点

（1）重点：掌握离散⽆记忆信源⽆失真编码定理

（2）难点：典型序列的概念及其性质、最佳不等长编码

3.作业及课外学习要求

离散⽆记忆信源⽆失真编码定理、⽆失真信源编码⽅法

（四）信道容量（6学时）

1.基本要求

（1）掌握信道容量的基本概念

（2）掌握离散⽆记忆信道、组合信道的信道容量计算

2.重点与难点

（1）重点：掌握信道容量的基本概念及⼀些特殊信道的容量计算

（2）难点：信道的描述⽅法及信道容量的计算

3.作业及课外学习要求

信道容量的计算

（五）离散信道编码定理（4学时）

1.基本要求

（1）掌握三种译码准则：最⼩错误概率译码、最⼤后验概率译码和最⼤似然译码（2）了解联合典型序列基本概念

（3）理解离散信道编码定理

2.重点与难点

（1）重点：最⼤后验概率译码与最⼤似然译码和离散信道编码定理

（2）难点：离散信道编码定理

3.作业及课外学习要求

译码准则的应⽤、离散信道编码定理的应⽤

（六）信息论在信息安中的应⽤（4学时）

1.基本要求

（1）了解保密系统模型

（2）理解保密、认证的信息理论

2.重点与难点

（1）重点：完善保密性

（2）难点：保密的信息理论

3.作业及课外学习要求

信息论在信息安中的应⽤

三、教学安排及⽅式

四、本课程对培养学⽣能⼒和素质的贡献点

信息论是⼀门