信息论与编码期末考试题学生复习用1.docVIP

（一）　　 一、判断题.　　 1. 当随机变量和相互独立时，条件熵等于信源熵. （ ）　　　　　　　　　 （ ）　 7. 信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确 　 定性就越小，获得的信息量就越小. 　 8. 汉明码是一种线性分组码. （ ）　 9. 率失真函数的最小值是. （ ）　　　. （ ）　　　　　　　　　位的码就叫做 ? ?.　 4、香农信息论中的三大极限定理是 、 、 .　　 5、设信道的输入与输出随机序列分别为和，则成立的　　 条件 ?..　　　，其失真矩阵，则该信源的= ?.　　 三、计算题.　 1、某信源发送端有2种符号,；接收端有3种符号，转移概率矩阵为.　　 计算接收端的平均不确定度；　 计算由于噪声产生的不确定度；　 计算信道容量以及最佳入口分布.　　 2、一阶马尔可夫信源的状态转移图如右图所示， 信源的符号集为.　　　　　　　　　　　　并与进行比较.　　 3、设码符号为，信源空间为试构造一种三元紧致码.　 　 4、设二元线性分组码的生成矩阵为.　 （1）给出该码的一致校验矩阵，写出所有的陪集首和与之相对应的伴随式；　　　，试计算出其对应的伴随式并按照最小距离译码准则 　 试着对其译码.　　 　　　　　　　　　　　　，则输出信号幅度的概率密度是 时，信源具有最大熵，其值为值 。　　 9、在下面空格中选择填入数学符号“”或“”　　　 　 （3）假设信道输入用X表示，信道输出用Y表示。在无噪有损信道中，H(X/Y) 0, 　　　　 （1）用霍夫曼编码法编成二进制变长码；（6分）　　　;（4分）　 （3）计算编码信息率;（2分）　　　;（2分）　 （5）计算编码效率。（2分）　　　。计算：　 （1）信息传输速率。（5分）　　　。试计算正确传输这些数据最少需要的发送功率P。（5分）　　 　 五、一个一阶马尔可夫信源，转移概率为。　 (1) 画出状态转移图。(4分)　　　(2) 计算稳态概率。(4分)　　　(3) 计算马尔可夫信源的极限熵。(4分)　 (4) 计算稳态下,及其对应的剩余度。(4分)　　　　 　　　X、Y是两个相互独立的二元随机变量，其取0或1的概率相等。定义另一个二元随机变量Z=XY(一般乘积)。试计算　　 (1) 　　　 (2) 　 (3) 　　 (4) ;　 ，通过干扰信道，信道输出端的接收符号集为，信道传输概率如下图所示。　 　　　中事件包含的自信息量；　　 计算信源的信息熵；　　 计算信道疑义度；　 计算噪声熵；　　 计算收到消息后获得的平均互信息量。　　　　　　　　　　　　bit/符号。　　　　　　，则输出信号幅度的概率密度是高斯分布或正态分布或时，信源具有最大熵，其值为值。　 9、在下面空格中选择填入数学符号“”或“”　 （1）当X和Y相互独立时，H（XY）=H(X)+H(X/Y)=H(Y)+H(X)。　 （2）　　 （3）假设信道输入用X表示，信道输出用Y表示。在无噪有损信道中，H(X/Y) 0, H(Y/X)=0,I(X;Y)H(X)。　 二、若连续信源输出的幅度被限定在【2,6】区域内，当输出信号的概率密度是均匀分布时，计算该信源的相对熵，并说明该信源的绝对熵为多少。　　 　　　　　 =2bit/自由度　　　　　　　　　;（4分）　　　;（2分）　　　;（2分）　　　。（2分）　 　　 （1） 　 　　　　　　　 （2）　 （3）　　 （4）其中，　　 （5）　　　。计算：　 （1）信息传输速率。　　　。试计算正确传输这些数据最少需要的发送功率P。　　　　　　　　 　 （2）　 五、一个一阶马尔可夫信源，转移概率为　　 。　　 (1) 画出状态转移图。　　　(2) 计算稳态概率。　　 (3) 计算马尔可夫信源的极限熵。　　　(4) 计算稳态下,及其对应的剩余度。　　　(1)　 　　　(2)由公式　 　 得　　 (3)该马尔可夫信源的极限熵为：　 　　　(4)在稳态下：　　　　　 　　　　　 　　 六、设有扰信道的传输情