信息论与编码53596.docVIP

桂林工学院2009-2010学年第二学期 课程名称：《信息论与编码》　　　　　　　 一、填空（每题2分，共20分） 1、信息是对事物状态（或它的存在方式）的不确定性的一种描述，其中自信息 I（x）= ；事件发生前，它表示 ，事件发生后，它表示 。 已知一个单符号离散无记忆信源，，则其四次扩展信源的序列熵的大小为＿＿＿＿＿＿。 对于单符号离散无记忆信源X，若输出符号取值于集合,则其最大信源熵为＿＿＿＿＿＿，且达到此最大熵时各符号的概率分布为＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿。 信源编码的目的是为了提高通信系统的____________________，而信道编码的最终目的是为了＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿。 一离散信道的信道矩阵如下所示，则其信道容量为＿＿＿＿＿＿比特/信道符号。 有一个信源，它产生0，1序列的信息，它在任意时间而且无论以前发生什么符号，均按P（0）=0.3，P（1）=0.7的概率发出符号，则H（X2）= ，X2信源中可能有的符号 H（X3/X1X2）= 。 在对单符号离散信源进行费诺编码时，其中一个步骤是按编码进制数将概率分组，分组的原则是使每组概率之和＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿。 8、设某二元码为C={11100，01001，10010，00111}若码字等概率分布，则此码的码率为 ，若采用最小距离译码准则，则接收序列10011，01100，应译成的码字分别为 、 （7，4）汉明码的许用码组有＿＿个；若一码组为0100111，则其码重为＿＿＿。 10、某（7，4）循环码，生成多项式为g(x)=x3+x+1（对应码字为0001011），则码字1010011______此循环码的码字， 码字1100100______此循环码的码字（本题填“是”或“不是”）。 二、选择,将正确答案代号填写在题后的括号内（20分） 1、设有离散无记忆信源 其发出的消息为3021300120021011030101002，则此消息中平均每个符号携带的信息量是 答:( ) （A）2比特/符号 （B）1.75比特/符号 （C）1.98比特/符号 （D）1.84比特/符号 2、若三个离散随机变量，有如下关系：X+Y=Z，其中X和Y相互独立。则以下各组关系式中哪一组是正确的 答:( ) I(X;Z)=H(Z)-H(Y); I(X;YZ)=H(X);I(Y:Z/X)=H(Y);I(X;Y/Z)=H(X/Z); I(X;Z)=H(Z)-H(Y); I(X;YZ)=H(Y);I(Y:Z/X)=H(Z);I(X;Y/Z)=H(X/Z); I(X;Y)=0; I(X;YZ)=H(X);I(Y:Z/X)=H(X);I(X;Y/Z)=H(Z/X); I(X;Y)=0; I(X;YZ)=H(X);I(Y:Z/X)=H(Y);I(X;Y/Z)=H(X/Z); 3、八进制脉冲所含信息量是二进制脉冲的几倍。 答:( ) （A）2 （B）3（C）1/2（D）1/3 4、发送端发送纠检错码，接收端根据纠检错码判断接收的消息是否有错，如果在纠错范围内，则自动纠错，否则反馈给发送端，发送端重新发送信息，这种纠错方式为何种纠错方式。 （A）前向纠错 （B）混合纠错 （C）反馈重传纠错 （D）自动纠错 答:( ) 5、设加性高斯白噪声信道中，信道带宽为4KHZ，又设{（信号功率+噪声功率）/噪声功率=16}则该信道的最大信息传输速率为多少？ 答:( ) (A)15Kbit/s　（B）16Kbit/s　（C）16.35Kbit/s　（D）18Kbit/s 6、设无记忆二进制信源，对此信源发出的二元序列进行游程编码，则0游程长度为3的概率为 答:( ) (A)0.128 (B)0.512