信息论复习题2重点分析.doc

复习题纲 第一章 概述 题纲： 什么是信息？ 什么是信息论？ 什么是编码？ 需掌握的问题： 信息的定义是什么？（有本体论定义、认识论定义、Shannon信息论定义） 认识论信息定义和本体论信息定义的区别？认识论信息定义包括那三个要素？ 信息的性质是什么？并给与说明。（参考能量的性质来理解记忆） 信息论中信息的分类是把信息分成哪三类？这三种信息与认识论信息定义中的三个要素的一一对应关系是什么？ 人类利用信息历史上的五个变革？ 信息论产生的标志？（年代、作者、论文名称） 现代科学的三大论，分别是什么？作者分别是谁？ 信息论研究范围的是什么？ 狭义信息论的研究内容？ 画出通信系统模型图，并说明每一部分的作用。 通信系统性能的三个衡量指标？Shannon信息论中是如何提高这三个性能指标的？ 什么是码？什么是编码？举例说明。 第二章 信源熵 题纲： 信源的数学模型及分类 自信息量 互信息量 熵 定义 含义 联合熵、条件熵 性质（9个） 平均互信息 定义 含义 联合平均互信息、条件平均互信息 性质（6个） 多符号离散信源的数学模型及分类 随机过程介绍 数学模型 分类 无记忆多符号离散平稳信源 有记忆多符号离散平稳信源 熵 平均符号熵 极限熵 性质（4个） 马尔可夫信源 马尔可夫过程 马尔可夫信源 m阶马尔可夫信源