长安大学信息论试题及答案.docVIP

长安大学信息工程学院2010-2011年度 硕士研究生《信息论与编码技术》考试试题 一、有一个二元等概信源通过信道转移概率为的信道传输，信宿接受符号， （1）计算信道疑义度和散布度。 （2）计算信源与信宿间的平均互信息量。 二、 设一分组码具有一致校验矩阵： (1).求这分组码的n,k各为多少？共有多少个码字？ (2).此分组码的生成矩阵？ (3).矢量101010是否是码字？ (4).设发送码字C=(001111)，但接收到的序列为R=(000010)，其伴随式S是什么？这伴随式指出已发生的错误在什么地方，为什么与实际错误不同？ 三、 设信源： (1) 求信源熵H(X)； (2) 编二进制香农码和二进制费诺码； (3) 计算二进制香农码和二进制费诺码的平均码长和编码效率； (4) 编三进制费诺码； (5) 计算三进制费诺码的平均码长和编码效率； 四、现有(7，4)汉明码，其系统码形式为： 对于信息组m =(1011)，编出的码字是什么？ 它的编码器原理图？ 若接收到一个7位码r =(1001101),检验它是否是码字？ 五、信源空间为试分别构造二元和三元霍夫曼码，计算其平均码长和编码效率。设有一离散信道，其信道传递矩阵为，并设，试分别按最小错误概率准则与最大似然译码准则确定译码规则，并计算相应的平均错误概率。已知一（8，5）线性分组码的生成矩阵为。求：1输入为全00011和10100时该码的码字；2、最小码距。 设某一信号的信息传输率为5.6kbit/s，在带宽为4kHz的高斯信道中传输，噪声功率谱NO=5×10－6mw/Hz。试求：（1）无差错传输需要的最小输入功率是多少？（2）此时输入信号的最大连续熵是多少？写出对应的输入概率密度函数的形式。 (1) 求信源熵H(X)； (2) 编二进制香农码和二进制费诺码； (3) 计算二进制香农码和二进制费诺码的平均码长和编码效率； (4) 编三进制费诺码； (5) 计算三进制费诺码的平均码长和编码效率； 解： (1) (2) 二进制香农码： xi p(xi) pa(xi) ki 码字 x1 0.5 0 1 0 x2 0.25 0.5 2 10 x3 0.125 0.75 3 110 x4 0.0625 0.875 4 1110 x5 0.03125 0.9375 5 11110 x6 0.015625 0.96875 6 111110 x7 0.0078125 0.984375 7 1111110 x8 0.0078125 0.9921875 7 1111111 二进制费诺码： xi p(xi) 编码 码字 ki x1 0.5 0 0 1 x2 0.25 0 10 2 x3 0.125 0 110 3 x4 0.0625 0 1110 4 x5 0.03125 0 11110 5 x6 0.015625 0 111110 6 x7 0.0078125 0 1111110 7 x8 0.0078125 1 1111111 7 （3）香农编码效率 费诺编码效率 4 xi p(xi) 编码 码字 ki x1 0.5 0 　 0 1 x2 0.25 1 　 　 1 1 x3 0.125 2 0 　 20 2 x4 0.0625 1 　 　 21 2 x5 0.03125 2 0 　 220 3 x6 0.015625 1 　 221 3 x7 0.0078125 2 0 2220 4 x8 0.0078125 1 2221 4 （5） 4.咱本科教材98页 5.答：1）二元码的码字依序为：10，11，010，011，1010，1011，1000，1001。平均码长，编码效率2）三元码的码字依序为：1，00，02，20，21，22，010，011。平均码长，编码效率.答：1）最似然译码准则下，有，2）最错误概率准则下，有，　.答：1）输入为00011时，码字输入为10100时，码字2） .答：1）无错传输时，有即则2）在时，最大熵对应的输入概率密度函数为