信息论与编码试题.doc

命题方式： 单 独 《 信息论与编码 》课程期 末 考试试题A卷（标准答案） 专业、班级： 姓名： 学号： 题 号 一 二 三 四 五 六 七 八 九 十 十一 十二 总成绩 得 分 一．选择题（每小题3分，共15分） 1）设信源，则此信源的熵为： A 三进制信息单位/符号 A 1 B 2 C 3 D 4 2）对于2进制离散无噪信道，当信源概率分布达到 C 时，达到信道容量 A 任意分布 B 概率为0、1分布 C 等概分布 D 概率为1、0的分布 3）对于三个离散信源、、，其中 A 熵最大 A X B Y C Z D 无法计算 4）下面关于熵函数性质描述，错误的是 D A 熵函数具有对称性 B 熵函数具有非负性 C 熵函数具有极值性 D 熵函数具有不确定性 5）下面关于Kraft不等式，正确的是 D A 如果编码码字满足Kraft不等式，则该码字是唯一可以码 B Kraft不等式是惟一可译码的充要条件 C 定长码一定满足Kraft不等式 D 即时码有时不满足Kraft不等式 共 4 页第 二．三状态马尔科夫（Markov）信源，其状态转移概率矩阵为 ，画出其状态转移图，计算其稳态时处于各个状态的概率（15分） 解：假设处于各个状态的概率为，那么 且， 解之得 其状态转移图如下： 三．信道转移概率矩阵为，求其信道容量C（12分） 解：根据Blahut-Arimoto算法 且 联合解方程组可得： 比特/符号 四．信源，现分别采用二进制和三进制Huffman编码，求两种编码的各码字，并求三进制Huffman码的编码效率（18分） 解：二进制霍夫曼编码如下 五．设信源先验等概，失真矩阵为 为矩阵，求（16分） 六．现有编码如下： 信息序列 码字 00 00000 01 01101 10 10111 11 11010 找出此编码的生成矩阵G和校验矩阵H（14分） 七．指数分布的概率密度函数，求其熵（10分） 共 4 页第 4 页