信息论与编码填空题新.doc

在无失真的信源中，信源输出由 H(X)来度量；在有失真的信源中，信源输出由 R(D) 来度量。 要使通信系统做到传输信息有效、可靠和保密，必须首先 信源 编码，然后_加密_编码，再_信道编码，最后送入信道。 带限AWGN波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是；当归一化信道容量C/W趋近于零时，也即信道完全丧失了通信能力，此时Eb/N0为 -1.6 dB，我们将它称作香农限，是一切编码方式所能达到的理论极限。 保密系统的密钥量越小，密钥熵H(K)就越 小 ，其密文中含有的关于明文的信息量I(M；C)就越 大 。 已知n＝7的循环码，则信息位长度k为 3 ，校验多项式h(x)= 。 设输入符号表为X＝{0，1}，输出符号表为Y＝{0，1}。输入信号的概率分布为p＝(1/2，1/2)，失真函数为d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，则Dmin＝ 0 ，R(Dmin)＝ 1bit/symbol ，相应的编码器转移概率矩阵[p(y/x)]＝；Dmax＝ 0.5 ，R(Dmax)＝ 0 ，相应的编码器转移概率矩阵[p(y/x)]＝。 已知用户A的RSA公开密钥(e,n)=(3,55)，,则 40 ，他的秘密密钥(d,n)＝(27,55) 。若用户B向用户A发送m=2的加密消息，则该加密后的消息为 8 。 １．设Ｘ的取值受限于有限区间［a,b］，则X服从 均匀 分布时，其熵达到最大；如X的均值为，方差受限为，则X服从 高斯 分布时，其熵达到最大。 2．信息论不等式：对于任意实数，有，当且仅当时等式成立。 3．设信源为X={0，1}，P（0）=1/8，则信源的熵为 比特/符号，如信源发出由m个“0”和（100-m）个“1”构成的序列，序列的自信息量为比特/符号。 4．离散对称信道输入等概率时，输出为 等概 分布。 5．根据码字所含的码元的个数，编码可分为 定长 编码和 变长 编码。 6．设DMS为，用二元符号表对其进行定长编码，若所编的码为{000，001，010，011，100，101}，则编码器输出码元的一维概率 0.747 , 0.253 。 1. 在现代通信系统中，信源编码主要用于解决信息传输中的 有效性 ，信道编码主要用于解决信息传输中的 可靠性 ，加密编码主要用于解决信息传输中的 安全性 。 2. 离散信源，则信源的熵为 1.75bit/符号 。 3. 对称DMC信道的输入符号数为n，输出符号数为m，信道转移概率矩阵为pij，则该信道的容量为。 4. 采用m进制编码的码字长度为Ki，码字个数为n，则克劳夫特不等式为， 它是判断 唯一可译码存在 的充要条件。 5. 差错控制的基本方式大致可以分为 前向纠错 、 反馈重发 和 混合纠错 。 6. 如果所有码字都配置在二进制码树的叶节点，则该码字为 唯一可译码 。 7. 齐次马尔可夫信源的一步转移概率矩阵为P，稳态分布为W，则W和P满足的方程为 W=WP 。 8. 设某信道输入端的熵为H(X)，输出端的熵为H(Y)，该信道为无噪有损信道，则该信道的容量为 MAX H（Y） 。 9. 某离散无记忆信源X，其符号个数为n，则当信源符号呈 等概_____分布情况下，信源熵取最大值_log（n） 。 10. 在信息处理中，随着处理级数的增加，输入消息和输出消息之间的平均互信息量趋于 减少 。 12．信息论不等式：对于任意实数，有，当且仅当时等式成立。 3．设信源为X={0，1}，P（0）=1/8，则信源的熵为 比特/符号，如信源发出由m个“0”和（100-m）个“1”构成的序列，序列的自信息量为比特/符号。 4．离散对称信道输入等概率时，输出为 等概 分布。 5．根据码字所含的码元的个数，编码可分为 定长 编码和 变长 编码。 6．设DMS为，用二元符号表对其进行定长编码，若所编的码为{000，001，010，011，100，101}， 信息的基本概念在于它的　不确定性　。 按照信源发出的消息在时间和幅度上的分布情况，可将信源分成 　离散　　信源和 连续　 信源两大类。 一个随机事件的　自信息量　定义为其出现概率对数的负值。 按树图法构成的码一定满足 　即时码 的定义。 　有扰离散信道编码定理　　称为香农第二极限定理。 纠错码的检、纠错能力是指　　检测、纠正错误码元的数目　　　　。 信道一般指传输信息的物理媒介，分为　有线　　信道和　无线　信道。 信源编码的主要目的是　提高通信系统的有效性　　　。 1.设信源X包含4个不同离散消息，当且仅当