信息论习题集重点分析.doc

信息论习题集 第二章 2.1 同时掷2颗骰子，事件A、B、C分别表示：（A）仅有一个骰子是3；（B）至少有一个骰子是4；（C）骰子上点数的总和为偶数。试计算A、B、C发生后所提供的信息量。 2.3 一信源有4种输出符号，=0，1，2，3，且p()=1/4。设信源向信宿发出，但由于传输中的干扰，接收者收到后，认为其可信度为0.9。于是信源再次向信宿发送该符号（），信宿准确无误收到。问信源在两次发送中发送的信息量各是多少？信宿在两次接收中得到的信息量又各是多少？ 2.5 一信源有6种输出状态，概率分别为 =0.5， =0.25， =0.125， = =0.05， =0.025 试计算。然后求消息ABABBA和FDDFDF的信息量（设信源先后发出的符号相互独立），并将之与长度为6的消息序列信息量的期望值相比较。 2.6 中国国家标准局所规定的二级汉字共6763个。设每字使用的频度相等，求一个汉字所含的信息量。设每个汉字用一个1616的二元点阵显示，试计算显示方阵所能表示的最大信息量。显示方阵的利用率是多少？ 2.7 已知信源发出和两种消息，且。此消息在二进制对称信道上传输，信道传输特性为，。求互信息量和。 2.8 已知二维随机变量的联合概率分布为：，，求。 2.13 有两个二元随机变量和，它们的联合概率分布如表2.5所列，同时定义另一随机变量