信息论与编码试题集与答案.docxVIP

在无失真的信源中，信源输出由 H(X) 来度量；在有失真的信源中，信源输出由 R(D) 来度量。 要使通信系统做到传输信息有效、可靠和保密，必须首先 信源 编码， 然后 加密 编码，再 信道 编码，最后送入信道。 带限 AWGN 波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是C ? W log(1? SNR) ；当归一化信道容量 C/W 趋近于零时，也即信道完全丧失了通 b 0信能力，此时 E /N 为 dB，我们将它称作香农限，是一切编码方式所能达到的理论极限。 b 0 保密系统的密钥量越小，密钥熵 H(K)就越 小 ，其密文中含有的关于明文的信息量I(M； C)就越 大 。 已知 n＝7 的循环码 g (x) ? x4 ? x2 ? x ? 1，则信息位长度 k 为 3 ，校验多项式 h(x)= x3 ? x ?1 。 min min设输入符号表为 X＝{0，1}，输出符号表为 Y＝{0，1}。输入信号的概率分布为 p＝(1/2，1/2)， 失真函数为 d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，则 D ＝ 0 ，R(D )＝ 1bit/symbol ， min min 0 1相应的编码器转移概率矩阵[p(y/x)]＝ ?1 0? ； 0 1 ＝ ，R(D )＝ 0 ，相应的编码器转 1 0? ?