信息论与编码试卷B解析.docVIP

x1 0.98 y1 0.02 0.2 x2 0.8 y2 填空题（本题15空，每空1分,共15分） 一信源有六种输出状态{a，b，c，d，e，f}，先验概率分别为Pa=0.5，Pb=0.25，Pc=0.125，Pd=Pe=0.05，Pf=0.025。消息“ababba”中所包含的信息量为（ 9 ）bit，“fddfdf”所包含的信息量为（ 28.93 ）bit。6bit长度的消息序列信息量的期望值为（ 11.64 ）bit。 限失真信源编码定理指出，当信息率R与信息率失真函数R(D)满足（ RR(D) ）关系时，只要信源序列长度L（ 足够长 ），一定存在一种编码方法，其译码失真≤D+ε。 一袋中有手感完全相同的3个黑球和3个白球，每次从中随机取一个球，取出的球放回袋中。用Xi表示第i次取出的球的颜色，i=1,….,6，则H(X1)=（ 1 ）bit/符号；H(X2)=（ 1 ）bit/符号；H(X2/X1)=（ 0.9）bit/符号。 克劳夫特不等式为（ ），满足此不等式的变长码不一定是唯一可译码，因此它是唯一可译码的（ 必要 ）条件。 如某线性分组码的最小汉明距dmin=6，其最大的检错能力为（ 5 ），最多能纠正（ 2 ）个错。则线性分组码的检纠错能力与dmin的关系是（ dmin越大则检纠错能力越强）。 使用班级： 设以8000样值/秒的速率抽样一个语音信号，每个抽样点以M=28=256级均匀量化。且抽样值取各量化值的概率相等，且抽样间相互独立，则每抽样的信息熵为（ 8 ）bit/符号，信源的信息输出率为（ 64K ）bps。 判断题（本题10小题,每小题1分,共10分） 1．× 2．√ 3．× 4．√ 5．√ 6．√ 7．× 8．√ 9．× 10．× 对于离散信源而言，条件熵总是小于无条件熵。 （ ） 互信息具有对称性，即I(U;V)=I(V;U)。 （ ） R(D)函数是D的连续函数，也是关于D的上凸函数。 （ ） 如X可以唯一确定Y，则H(Y/X)=0。 （ ） 完备码是一种监督位得到充分利用的码。 （ ） 单符号离散信源在所有符号等概出现时，其熵值最大。对于连续信源，也有类似 的结论，连续信源均匀分布时具有最大熵。 （ ） 马尔可夫序列的联合概率具有时间推移不变性。 （ ） 当信道固定时，平均互信息是信源先验概率分布的上凸函数。（ ） 若码，则之间的汉明距离为。（ ） 若X与Y独立，则H(Y/X)=H(X/Y)。 （ ） 三 名词解释（本题4小题,每小题5分,共20分） 1 最大似然译码准则 信道编码时，接收端对收到的码字进行译码时，采用的译码规则是选取最大的后验概率，这样可使译码差错最小。在输入等概分布的时候，最大后验概率译码即为最大似然译码准则，选取最大的先验概率就可使译码差错最小。 2 率失真函数 ，在某个限失真条件下，信源能被压缩的极限值。 3 自由距离 卷积码的译码中，定义序列长度L趋于∞时，任意两序列之间的最小距离，定义为自由距离。 4 伴随式 ，反映的是信道对码字造成怎样的干扰，与接收到的码字无关，只与错误图案有关。 四 计算题（本题3小题,共25分） 1 一组CRC循环冗余校验码，其生成多项式为（X6+X3+1）。假设发送段发送的信息帧中 所包含的信息是（100110）。试求： 1）信息多项式m(x)=？ 2）附加在信息位后的CRC校验码。（3+3=6分） 解：1）信息多项式为：m(x)=x5+x2+x （3分） 2）需要用到长除法，求的结果，得到的余数为x5+x4+x，所以校验码为110010。（3分） 2 已知一个二元信源连接一个二元信道，如图给出。求I(X,Y)，H(X,Y)，H(X/Y)，和H(Y/X)。 X={x1,x2}, [p(xi)]={1/2,1/2}。 （12分） x1 0.98 y1 0.02 0.2 x2 0.8 y2 解：(1) 求H(X,Y) （3分） p(x1,y1)=0.5×0.98=0.49 p(x1,y2)=0.5×0.02=0.01 p(x2,y1)=0.5×0.20=0.10 p(x2,y2)=0.5×0.80=0.40 H(X,Y)=1.43 bit/符号 (2)求I(X,Y) （3分） p(y1)=p(x1,y1)+p(x2,y1)=0.49+0.10=0.59 p(y2)=p(x1,y2)+p(x2,y2)=0.01+0.40=0.41 I(X,Y)=H(X)+H(Y)-H(X,Y)=0.55 bit/符号 (3)求H(X/Y) （3分） p(x1/y1)=p(x1,y1)/p(y1)=0.831 p(x2/y1)=p(x2,y1)/p(y1