信息论与编码题库.docxVIP

（一） 一、填空题 在无失真的信源中，信源输出由 H(X) 来度量；在有失真的信源中，信源输出由 R(D) 来度量。 要使通信系统做到传输信息有效、可靠和保密，必须首先 信源 编码， 然后 加密 编码，再 信道 编码，最后送入信道。 带限 AWGN 波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公 式是C ? W log(1? SNR) ；当归一化信道容量 C/W 趋近于零时，也即信道完全丧失了通信 能力，此时E /N 为 -1.6 dB，我们将它称作香农限，是一切编码方式所能达到的理论极 b 0 限。 保密系统的密钥量越小，密钥熵 H(K)就越 小 ，其密文中含有的关于明文的信息量 I(M； C)就越 大 。 已知 n＝7 的循环码 g (x) ? x4 ? x2 ? x ? 1，则信息位长度k 为 3 ，校验多项式 h(x)= x3 ? x ?1 。 设输入符号表为X＝{0，1}，输出符号表为 Y＝{0，1}。输入信号的概率分布为 p＝(1/2， 1/2)，失真函数为d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，则D ＝ 0 ， min R(D )＝ 1bit/symbol ，相应的编码器转移概率矩阵[p(y/x)]＝ ?1 0? ；D ＝ 0.5 ， min ?0 1?  max ? ? 1 0R(D )＝