信息论和编码基本原理概述.pptVIP

第*页 * Electronics Engineering Department, NCUT Song Peng 1.2.1 信息论研究的对象、目的和内容 (1) 信息论研究的对象和目的 研究对象：信息论是一门应用概率论、随机过程、数理统计和近世代数的方法，来研究广义的信息传输、提取和处理系统中一般规律的工程学科。 1.2 信 息 论 研 究 的 对 象 和 内 容 第*页 * Electronics Engineering Department, NCUT Song Peng 1.2.1 信息论研究的对象、目的和内容 (1) 信息论研究的对象和目的 研究目的：它的主要目的是提高信息系统的可靠性、有效性和安全性以便达到系统最优化。 1.2 信 息 论 研 究 的 对 象 和 内 容 第*页 * Electronics Engineering Department, NCUT Song Peng 1.2.1 信息论研究的对象、目的和内容 (2) 信息论研究的内容 信息论基础：也称狭义信息论/经典信息论/香农信息论。主要研究信息测度、信道容量、信息率失真函数，与这三个概念相对应的香农三定理，信源编码，信道编码。 一般信息论：主要研究信息传输和处理问题。除香农基本理论之外，还包括噪声理论、信号滤波和预测、统计检测和估计理论、调制理论。后一部分内容以维纳为代表。 1.2 信 息 论 研 究 的 对 象 和 内 容 第*页 * Electronics Engineering Department, NCUT Song Peng 信息论与编码原理 （第一章）──────────────概论 第*页 * Electronics Engineering Department, NCUT Song Peng 第1讲：绪论 第2讲：信源及其信息量1—自信息与熵 第3讲：信源及其信息量2—平均互信息 第4讲：信源及其信息量3—扩展信源 第5讲：信源及其信息量4—马尔科夫信源 第6讲：信源及其信息量5—连续信源 第7讲：信源及其信息量6—信源编码定理 第8讲：信道及其容量1 第9讲：信道及其容量2 第10讲：信息率失真函数1 第11讲：信息率失真函数2 第12讲：习题课1 目 录 第*页 * Electronics Engineering Department, NCUT Song Peng 第13讲：信源编码1 第14讲：信源编码2 第15讲：信道编码概论 第16讲：线性分组码 第17讲：循环码 第18讲：卷积码 第19讲：习题课2 第20讲：上机1 第21讲：上机2 第22讲：上机3 第23讲：上机4 第24讲：总复习 目 录 第*页 * Electronics Engineering Department, NCUT Song Peng 信息论与编码 第*页 * Electronics Engineering Department, NCUT Song Peng 教 学 目 标 充分理解、熟练掌握教材的内容 熟练掌握基本的信息理论概念和定理 熟练掌握通信与信息工程中基本研究对象的数学描述 通过学习和习题练习，具备一定的解决问题分析问题的能力 掌握一定的科学思想方法（用信息论的思想和观点） 第*页 * Electronics Engineering Department, NCUT Song Peng 对学习者的要求 三个重要环节 课前预习 课上认真听讲 课后认真复习消化、作业 经常进行阶段复习 掌握知识的窍诀：反复思维实践 第*页 * Electronics Engineering Department, NCUT Song Peng 对学习者的要求 You hear, you forget You do, you remember You think, you understand 如果你只是听，那么你会忘记 如果你去做，你就会记住 如果你思考，你才能明白 第*页 * Electronics Engineering Department, NCUT Song Peng 第一章 概论 1.1 信息的概念及其分类 1.2 信息论研究的对象和内容 1.3 信息论的形成和发展 第*页 * Electronics Engineering Department, NCUT Song Peng 1.1 信息的概念及其分类 1.1.1 信息的重要性 1.1.2 信息是什么？ 1.1.3 香农和维纳对信息的定义 1.1.4