信息论与编码试卷H.doc

信息论与编码试卷H 一 填空题（本题15空，每空1分，共15分） 1 互信息量I(xi;yj)被定义为（ ）和（ ）两个不确定度之差，是不确定度被消除的部分，即从yj得到的关于（ ）的信息量。 2 最大后验概率译码指的是（ ）。在（）时，最大后验概率译码即为最大似然译码。BSC信道的最大似然译码即为（ ）。 3 信息传输率的定义为（），经信源编码后，信源符号变成了码元符号进入信道传输，此时信息传输率指的是（）；信息传输速率被定义为（），单位为bit/s。 4 若同时抛掷一对色子，设每个色子各面朝上出现的概率均为1/6，则“2和6同时出现”这一事件的自信息量为（）bit，“两个点数中至少有一个1”这一事件的自信息量为（）bit，“两个3同时出现”这一事件的自信息量为（ ）bit。 5 常用的差错控制方法有（）、（ ）和混合纠错。 6 码距与检、纠错能力之间的关系是（ ）。 二 判断题（本题10小题,每小题1分,共10分） （1） 完备码是一种监督位得到充分利用的码。（ ） （2） (n,k)线性分组码的最小汉明距离dmin≤n-k。 （ ） （4） 任意线性分组码中必包含全0码字。（） （5） 码字集合{1，01，000，0010，0011}是唯一可译码。（） （6） 信息率失真函数R(D)的值域为[0，H(X)]。（） （7） K-L变换是按均方误差最小准则来计算的一种非正交变换。（） （8） 信源的不确定度具有可加性。（） （9） 任一非系统码的生成矩阵都可以通过行运算转变成系统形式，结果是映射规则不变，码集发生线性变化。（） （10）非平稳有记忆随机序列实际信源，其极限熵是不存在的；解决方法是假设其为离散平稳随机序列信源，极限熵存在。 （ ） 三 名词解释（本题4小题，每小题5分，共20分） 1 全损信道 2 随机错误 3 变换编码 4 非奇异码 四 计算题（本题3小题，共25分） 1. 已知一个信源包含8个符号消息，它们的概率分布如下表： A B C D E F G H 0.1 0.18 0.4 0.05 0.06 0.1 0.07 0.04 1）设信源每秒钟内发出一个符号，求该信源的熵及信息传输速率； 2）对这8个符号作二进制码元的哈夫曼编码，并计算编码效率。 （4+4=8分） 2 一组CRC循环冗余校验码，其生成多项式为（X5+X4+X2+1）。假设发送段发送的信息帧中所包含的信息是（1010001101）。试求附加在信息位后的CRC校验码。（6分） 五 综合题（本题3小题,共30分） 2 一个（3,1,2）卷积码，G(D)=(1+D,1+D+D2,1+D2)，试： 1）画出该码的编码器框图； 2）求该卷积码的状态图； 3）求该码的自由距离df（用网格图或梅森公式均可） （4+4+2=10分）