《信息论基础 第2版 》读书笔记.pptxVIP

《信息论基础 第2版 》最新版读书笔记，下载可以直接修改思维导图PPT模板 01内容提要第1章 绪论第3章 离散信源第2版前言第2章 离散信息的度量第4章 连续信息与连续信源目录0305020406 07第5章 无失真信源编码第7章 有噪信道编码第6章 离散信道及其容量第8章 波形信道目录0908010 011第9章 信息率失真函数*第11章 信息理论方法及其应用第10章 网络信息论初步参考文献目录013012014 内容摘要本书第二版是作者在原版的基础上，结合近几年的教学和科研实践，再次对教材内容进行整合、补充和完善而形成的。第二版沿用原版的基本框架，仍然分为12章，内容主要包括：信息的基本概念、离散信息的度量、离散信源的熵、连续信息与连续信源、无失真信源编码、离散无记忆信道容量、有噪信道编码、波形信道容量、信息率失真函数、有约束信道编码、网络信息论和信息理论方法与应用等。除充实和增加的内容外，第二版另一项重要工作就是增加了大量习题。本书在内容的选择上既考虑到基础性又考虑先进性和时代性，在编写方式上既注重基本概念的阐述又注重与通信和信息处理的实际相结合。本书强调定理中物理概念和结论的理解和掌握，简化烦琐的数学推导，注重使用明确、直观的物理概念，增加实例，力求让讲述的内容更适合工科专业学生的学习。本书配有大量思考题和习题作为学生课后的练习，这对于学生深入理解所学知识，提高基本运算和解决实际问题的能力都有很大帮助。 内容提要直接获取某种信息是很困难的，可以通过获取等价信息，得到同样的效果。 第2版前言不要将相关性当成因果关系。 第1章 绪论直接获取某种信息是很困难的，可以通过获取等价信息，得到同样的效果。 1.1 信息的基本概念1.2 香农信息论研究的内容1.3 香农信息论研究的进展与应用思考题第1章 绪论 第2章 离散信息的度量书的内容中规中矩吧，信息论最开始提出的思想能给人启发，虽然有借鉴热学的概念，但是把通信系统的理论极限提出来很强，只是书里没有过多介绍提出的背景。 2.1 自信息和互信息2.2 信息熵的基本概念2.3 信息熵的基本性质2.4 平均互信息第2章 离散信息的度量 本章小结习题思考题第2章 离散信息的度量 第3章 离散信源这本书满屏的数学公式推导，如果不熟悉数学公式真的很难看下去啊。 3.1 离散信源的分类与数学模型3.2 离散无记忆信源的扩展3.3 离散平稳信源的熵3.4 有限状态马尔可夫链3.5 马尔可夫信源3.6 信源的相关性与剩余度010302040506第3章 离散信源 本章小结习题思考题第3章 离散信源 第4章 连续信息与连续信源 4.1 连续随机变量的熵4.2 离散时间高斯随机变量的熵4.3 连续最大熵定理4.4 连续随机变量之间的平均互信息4.5 离散集与连续随机变量之间的互信息4.6 几种重要的连续信源010302040506第4章 连续信息与连续信源 本章小结习题思考题第4章 连续信息与连续信源 第5章 无失真信源编码 5.1 概述5.2 定长码5.3 变长码5.4 最优编码第5章 无失真信源编码 *5.5 几种实用的信源编码方法本章小结思考题习题第5章 无失真信源编码 第6章 离散信道及其容量 6.1 概述6.2 单符号离散信道及其容量6.3 级联信道及其容量6.4 多维矢量信道及其容量6.5 信道容量的迭代算法6.6 有约束信道的容量010302040506第6章 离散信道及其容量 本章小结习题思考题第6章 离散信道及其容量 第7章 有噪信道编码 7.1 概述7.2 最佳判决与译码准则7.3 信道编码与最佳译码7.4 费诺（Fano）不等式7.5 有噪信道编码定理7.6 纠错编码技术简介010302040506第7章 有噪信道编码 本章小结习题思考题第7章 有噪信道编码 第8章 波形信道 8.1 离散时间连续信道8.2 加性噪声信道与容量8.3 AWGN信道的容量8.4 有色高斯噪声信道第8章 波形信道 *8.5 数字调制系统的信道容量本章小结思考题习题第8章 波形信道 第9章 信息率失真函数 9.1 概述9.2 限失真信源编码定理9.3 离散R(D)函数的性质与计算9.4 连续R(D)函数的性质与计算9.5 高斯信源的R(D)函数9.6 一般连续信源的R(D)函数010302040506第9章 信息率失真函数 *9.7 有损数据压缩技术简介本章小结思考题习题第9章 信息率失真函数 第10章 网络信息论初步 10.1 概述10.2 多址接入信道10.3 广播信道10.4 中继信道第10章 网络信息论初步 10.5 分布信源编码本章小结思考题习题第10章 网络信息论初步 *第11章 信息理论方法及其应用 11.1 信源熵的估计11.2 最大熵原理11.3 最小交叉熵原理11.4 信息理论方