信息论练习题目.docVIP

一、填空 1、布袋中有红白球各50只，若从中随意取出一只球，则判断其颜色所需的信息量为 2、信源熵H(X)表示信源输出后每个消息所提供的 。 3、平均互信息量与信息熵、联合熵的关系是 。 4、单符号离散信源是用随机变量来描述的，则多符号离散信源用 来描述。 5、对于某一信源和某一符号集来说，若有一个唯一可译码，其平均码长小于所有其它唯一可译码的平均码长，则称该码为 。 6、码码间的距离是 。 7、分组码是 ，它可以在无需重新发射的情况下检测出有限个错码，并加以纠正。 8、信息论基础主要研究 、 以及 等问题。 9、十六进制脉冲所含的信息量是四进制脉冲的 倍。 10、若把掷骰子的结果作为一离散信源，则信源熵为 。 11、当事件和彼此之间相互独立时，平均互信息量为 。 12、若二维平稳信源的信源熵为3bit/sign，则其平均符号熵为 。 13、对于r进制树图，n级节点的个数一般为 。 14、信道中任一时刻输出符号仅统计依赖于对应时刻的输入符号，而与非对应时刻的输入符号及其它任何时刻的输出符号无关，这种信道称之为 15、码字101111101、011111101之间的最汉明距离为