《信息论基础》模拟试题.doc

《信息论基础》模拟试题 题号 —— — 四 五 六 七 八 总分 得分 评卷人 一、填空题(本大题共10小空，每小空2分，共20分) 1.按信源发出符号所对应的随机变量之间有无统计依赖关系，可将离散信源分为 和 O 2.—个八进制信源的最大炳为- 3.信源冗余度存在的原因是。 4.设有一连续随机变量X表示信号x(t)的幅度，其幅值在［-4V, 4V］均匀分布，那 么该信源的炳h(x)=,则该信源的绝对炳是? ? 」 5.若某一连续信源X,其平均功率受限为8W,其概率密度函数是高斯分布时，差 炳的最大值为，与其炳相等的非高斯分布信源的功率为 6.对称离散信道的转移概率矩阵P的特点是 二、掷两粒骰子，各面出现的概率都是1/6,计算信息量： 1.两骰子面朝上点数之和为2,该消息包含的信息量是多少？ (3分) 2.两骰子而朝上点数之和为8时，该消息包含的信息量是多少？ (3分) 3.两骰子血朝上点数是3和4,该消息包含的信息量是多少？ (3分) 三、设X,Y是二个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另 一个二元随机变量Z,取Z=X Y。试计算： 1.H(Y)、H(Z);? ? (6 分) 2.H (XY) ;? ? (3 分) 3.I (X;Y), I (Y;Z).? ? (8 分) 四、一阶马尔可夫链信源有3个符号｛a, b.c),转移概率为：P (a/a)二1/2, p (b/a)=1/4, p (c/a) =1 /4, p (a/b) =1 /2, p (b/b)二0, p (c/b) =1/2, p (a/c) =1/2, p (b/c) =1/2, p (c/c)=0。 1.画出状态图；写出转移概率矩阵；(6分) 2.求出各符号稳态概率；(6分) 3.计算其极限滴；(4分) 五、在干扰离散对称信道上传输符号1和0,已知p(0)=1/4,p(1)=3/4,试求: 1该信道的转移概率矩阵P(3分) 2该信道的信道容量及其输入概率分布(7分) 0.6 试求：该信道的信道容量及最佳输入概率分布o （6分） 七、设在平均功率受限高斯可加波形信道中，信道宽带为5KH乙乂设信 噪比为20db 1 肖H?耸该隹1首的隹1首恣晶.分） 2若功率信嬴比降或lOdbi达到相同的最大信息传输率，信道带宽应是 多少？ （3分） 八、信源符号 X 有 6 种字母，概率为 0.25 , 0.2, 0.16, 0.15 , 0.1, 0.07 , 0.04 , 0.03. 用霍夫曼编码法编成二进制变长码，写出编程过程并计算：（共16分） 1.编码前信源X的信源剩余度， 2.平均码长 3.编码效率。 《信息论基础》参考答案 试题编号: 重庆邮电大学2007-2008学年第2学期 《信息论基础》试题（期末）（B卷（半开卷） 一、填空题（本大题共10小空，每小空2分，共20分） 1.按信源发出符号所对应的随机变量之间有无统计依赖关系，可将离散信源分为 有记忆信源和无记忆信源 2.一个八进制信源的最大炳为。 3.信源冗余度存在的原因是多信源符冗非度概分布利符号之间有源关性? ? ° 4.设有一连续随机变量X表示信号x(t)的幅度，其幅值在［-4V, 4V］均匀分布，那 么该信源的炳h(x)=3bit/j|山度，则该信源的绝对焰是一 8? ? ° 5.若某一连续信源X,其平均功率受限为8W,其概率密度函数是高斯分布时，差 炳的最大值为1oqJ16bit/自山度 ，与其炳相等的非高斯分布信源的功率为 N8W o 6.对称离散信道的转移概率矩阵P的特点是：? ? 输入输出都对称 二、掷两粒骰子，各面出现的概率都是1/6,计算信息量： 1.两骰子面朝上点数之和为2,该消息包含的信息量是多少？ (3分) 2.两骰子而朝上点数之和为8时，该消息包含的信息量是多少？ (3分) 3.两骰子血朝上点数是3和4,该消息包含的信息量是多少？ (3分) 解：1 .“两个骰子点数之和为2” P(0) = (l/6)x(l/6)= l/36 ..?该文件包含的信息量为：/(A) =-logP(A) = log36 = 5.17bit 2.两骰子的点数之和为8 P(B) = P[(2,6),(6,2),(5,3),(3,5),(4,4)] = l/3 5 = 5/3 ( 该文件包含的信息量为：1(B) = - logP(B) = log(36/5)= 2.85阮 3.“两个骰子点数是3和4” P(C) = P[(3,4), (4,3)] = (1 / 36)x 2 = 1 /18 该文件包含的信息量为：I (C)= -log P(C) = logl8 = 4 Al bit 三、设X,Y是二个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另 一个二元随机变量Z,取