信息科学基础2012a卷及答案汇总.pdfVIP

河北科技大学 2012——2013 学年第一学期 《信息科学基础》试卷（A） 学院 理学院 班级 姓名 学号 题号 一 二 总分 得分 得分 一、简答题（共 8 题，每题 5 分） 1. 如有 6 行 8 列的棋型方格，若有两个质点 A 和 B，分别以等概率落入任一方 格内，且它们的坐标分别为(X , Y ) 、(X , Y ) ，但 A，B 不能落入同一方格内。 A A B B 试求： （1） 若仅有质点A，求A 落入任一个格的平均自信息量； （2） 若已知A 已入，求B 落入的平均自信息量； （3） 若A，B 是可分辨的，求 A，B 同时落入的平均自信息量。 X  a1 a2 a3 a4 a5 a6  2．设离散无记忆信源为     P  0.2 0.19 0.18 0.17 0.16 0.17 求信源的熵，并解释为什么H (X )  log 6 不能满足信源的极值性。 A 卷（共 13 页）第 1 页  S  s1 s2 s3  3.令离散无记忆信源    P  0.5 0.2 0.3 （1）求对S 的最佳二元码、平均码长和编码效率； （2）求对S 2 的最佳二元码、平均码长和编码效率。 4.解释最小错误概率译码准则，最大似然译码准则和最小距离译码准则，说明三 者的关系。 5.一个马尔可夫过程的基本符号 0,1,2，这三个符号以等概率出现，具有相同的 转移概率，并且没有固定约束。 A 卷（共 13 页）第 2 页 （1）画出单纯马尔可夫过程的状态图，并求稳定状态下的马尔可夫信源熵 H 1 ； （2）画出二阶马尔可夫过程状态图，并求稳定状态下二阶马尔可夫信源熵H 2 。 6.当信源是无记忆时，无记忆的N 次扩展信道的平均互信息与原信道平均互信息 的关系如何？ 7. 什么是平均自信息（信息熵）？什么是平均互信息？比较一下两个概念的异 同之处。    0 0 1    8. 一个马尔科夫链的状态转移矩阵为 p= 1 1 1 ，该马尔可夫链是否具有遍  2 3 6   1 1   0   2 2  历性？为什么？ A 卷（共 13 页）第 3 页 得分 二、综合题（共 6 题，每题 10 分） 1. 设有一个二进制二阶马尔可夫信源，其信源符号集为{0,1}，条件概率为 p(0|00)=p(1|11)=0.8, p(1|00)=p(0|11)=0.2, p(0|01)=p(0|10)= p(1|01)=p(1|10)=0.5.这个信源的符号数是 q=2, 共有四种可能状