信息理论及编码答案 人民邮电出版社.doc

第一章 自我测试题 一、填空题 在认识论层次上研究信息的时候，必须同时考虑到形式、__语义___和__语用___三个方面的因素。 如果从随机不确定性的角度来定义信息，信息是用以消除__随机不确定性___的东西。 信源编码的结果是__减小_冗余；而信道编码的手段是__增加___冗余。 _1948_年，香农发表了著名的论文__通信的数学理论__，标志着信息论诞生。 信息商品是一种特殊商品，它有__保存性_性、_共享_性、_老化可能_性和 知识创造性 等特征。 二、判断题 信息传输系统模型表明，噪声仅仅来源于信道（×） 本体论层次信息表明，信息不依赖于人而存在（√） 信道编码与译码是一对可逆变换（×） 1976年，论文《密码学的新方向》的发表，标志着保密通信研究的开始（×） 基因组序列信息的提取和分析是生物信息学的研究内容之一（√） 三、选择题 下列表述中，属于从随机不确定性的角度来定义信息的是__D___ 信息是数据 信息是集合之间的变异度 信息是控制的指令 信息是收信者事先不知道的报道 ___B__是最高层次的信息 认识论 本体论 价值论 唯物论 下列不属于狭义信息论的是__D___ 信息的测度 信源编码 信道容量 计算机翻译 下列不属于信息论的研究内容的是__A___ 信息的产生 信道传输能力 文字的统计特性 抗干扰编码 下列关于信息论发展历史描述不正确的是__B___ 偶然性、熵函数引进物理学为信息论的产生提供了理论前提。 1952年，香农发展了信道容量的迭代算法 哈特莱用消息可能数目的对数来度量消息中所含有的信息量，为创立信息论提供了思路。，试说明该方程所传达的语法信息、语义信息和语用信息。 语法信息：就是该方程中各个字母、符号的排列形式。 语义信息：为所产生的能量，为质量的变化，为光速的平方，表示左右在量值上相等。综合起来就是，质量的微小变化可以产生巨大的能量。 语用信息：该方程可以启发主体在一定条件下，通过物质质量的变化来产生巨大的能量，如果让能量缓慢释放出来，可以得到核能；如果让能量瞬间释放出来，可借以制造核弹。 第二章测试题 填空题 1.N阶平稳信源的N维分布函数与____无关。 2.在对信源进行观察之前，对认识主体来说，信源存在___不确定性，观察之后，信源还存在__不确定性。 3.联合符号的不确定性，等于__的不确定性加上____的不确定性。 4.256个亮度值构成的信源，其熵值最大为_____比特。 5.无条件熵___条件熵，条件多的熵_____条件少的熵。（填大于或小于） 判断题 1.对于DMS，长度为3的符号串的平均不确定是单个符号平均不确定的3倍。（） 2.信源内部的关联性，会提高熵值。（） 3.马尔科夫信源符号的输出不仅与当前的信源状态有关，而且还与以前的状态有关。（） 4.信息含量效率越高，信源的冗余度也越高。（） 5.与离散熵相同，微分熵也是非负的。（） 选择题 1.下列物理量，不满足非负性的是（） A. H(X); B. I(X;Y); C. I; D. H() 2.连续型随机变量的取值受限，那么该随机变量服从______时，微分熵最大。 A. 高斯分布；B. 泊松分布；C. 均匀分布；D. 指数分布 3.下列说法中，不正确的是______ A. 熵功率，其中P为连续随即变量X的平均功率 B. 熵功率，其中h(X)是X的微分熵 C. 若X平均功率为P，但不是高斯分布，则 D. X的平均功率为P时（均值非零），则X得最大熵为 4.下列表达式不正确的是______ 5.下列关于马尔科夫信源的叙述中，不正确的是_______ A. 某一时刻信源符号的输出只与当时的信源状态有关，而与之前的状态无关 B. 信源状态只由当前输出符号和前一时刻信源状态唯一确定 C. 一般马尔科夫信源的信息熵是其平均符号熵的极限值 D. M阶马尔科夫信源的极限熵等于m+1阶条件熵 后对输入还存有的疑义__，又代表__信道在传输过程中的信息损失__，因此，通常把称为信道的__疑义度__或__损失熵___ 如果信道给定，那么是输入概率的_上_凸函数。如果信源给定，那么是转移概率的_下_凸函数。 衡量一个信息传递系统的好坏，有两个主要指标: 其一 数量（速度）指标：信息（传输）率，即信道中平均每个符号传递的信息量， 其二 质量指标：平均差错率，即对信道输出符号进行译码的平均错误概率。 使得给定信道_达到最大值(即信道容量)的输入分布，称为最佳输入(概率)分布，记为 二、判断题 信道容量不仅与信道转移概率有关，也与信道的输入分布有关。（×） 噪声熵为0的信道称为确定信道。（√） 离散对称信道输入等概率分布时，输出未必也等概率分布。（×） 一般DMC达到信