信息论第二章课后习题解答.ppt

第二章课后习题 【2.1】设有 12 枚同值硬币，其中有一枚为假币。只知道假币的重量与真币的重量不同，但不知究竟是重还是轻。现用比较天平左右两边轻重的方法来测量。为了在天平上称出哪一枚是假币，试问至少必须称多少次？ 解：“12枚硬币中，某一枚为假币”该事件发生的概率为 “假币的重量比真的轻，或重”该事件发生的概率为 为确定哪一枚是假币，即要消除上述两事件的联合不确定性，由 于二者是独立的，因此有 而用天平称时，有三种可能性：重、轻、相等，三者是等概率的， 均为 ，因此天平每一次消除的不确定性为 比特 因此，必须称的次数为： 因此，至少需称3次。 【2.2】同时扔一对均匀的骰子，当得知“两骰子面朝上点数之和为2”或“面朝上点数之和为8”或“两骰子面朝上点数是3 和4”时，试问这三种情况分别获得多少信息量？ 解： “两骰子总点数之和为2”，即两骰子的点数各为1，由于 二者是独立的，因此该种情况发生的概率为 ，该事 件的信息量为： “两骰子总点数之和为8”共有如下可能：2和6、3和5、4和4、5 和3、6 和2，概率为 ，因此该事件的信息量为： “两骰子面朝上点数是3和4”的可能性有两种： 3和4、 4和3， 概率为 因此该事件的信息量为： 【2.4】居住某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高 1.6 米以上的占总数一半。假如我们得知“身高 1.6 米以上的某女孩是大学生”的消息，问获得多少信息量？ 解： 设 A表示女孩是大学生，P(A)=0.25 ；B表示女孩身高1.6米以上，P (B|A)=0.75 ,P(B)=0.5 “身高1.6米以上的某女孩是大学生”的发生概率为: 已知该事件所能获得的信息量为 【2.5】设离散无记忆信源 ，其发出的消息为（202120130213001203210110321010021032011223210），求 （1） 此消息的自信息是多少？ （2） 在此消息中平均每个符号携带的信息量是多少？ 解： 信源是无记忆的，此时发出的消息的自信息即为各消息的自信息之和。各消息所包含的信息量分别为： 发出的消息中，共有14个“0”，13个“1” ，12个“2” ，6个“3” ， 则得到消息的自信息为： 平均每个符号携带的信息量为 【2.7】从大量统计资料知道，男性中红绿色盲的发病率为7%，女性发病率为0.5%，如果你问一位男同志：“你是否是红绿色盲？”，他的回答可能是“是”，也可能是“否” ，问这两个回答中各含有多少信息量？平均每个回答中含有多少信息量？如果你问一位女同志，则答案中含有的平均自信息量是多少？ 解：男为红绿色盲的概率空间为： 问男，回答“是”所获昨的信息量为： 问男，回答“否”所获得的信息量为： 男，平均回答中含有的信息量为： 同样，女为红绿色盲的概率空间为 问女，回答“是”所获昨的信息量为： 问女，回答“否”所获昨的信息量为： 女，平均回答中含有的信息量为 【2.12】 （1）为了使电视图像获得良好的清晰度和规定的适当的对比度，需要用 5×105个像素和10个不同亮度电平，求传递此图像所需的信息率（比特/秒）。并设每秒要传送 30帧图像，所有像素是独立变化的，且所有亮度电平等概率出现。 （2）设某彩电系统，除了满足对于黑白电视系统的上述要求外，还必须有30个不同的色彩度，试证明传输这彩色系统的信息率要比黑白系统的信息率约大2.5倍。 解： （1）每个像素的电平取自10个不同的电平，形成的概率空间为： 这样，平均每个像素携带的信息量为： 每帧图像含有的信息量为： 按每秒传输30帧计算，每秒需要传输的比特数，即信息传输率为： （2）需30个不同的色彩度，设每个色彩度等概率出现，则其概率空间为： 由于电平与色彩是互相独立的，因此有 这样，彩色电视系统的信息率与黑白电视系统信息率的比值为 【2.13】每帧电视图像可以认为是由3×105个像素组成，所以像素均是独立变化，且每一像素又取128个不同的亮度电平，并设亮度电平等概率出现。问每帧图像含有多少信息量？若现有一广播员在约 10000 个汉字的字汇中选 1000 个来口述此电视图像，试问广播员描述此图像所广播的信息量是多少（假设汉字是等概率分布，并且彼此无依赖）？若要恰当地描述此图像，广播员在口述中至少需用多少汉字？ 解： 每个像素的电平亮度形成了一个概率空间，如下： 平均每个像素携带的信息量为： 每帧图像由3×105个像素组成，且像素间是独立的，因此每帧图 像含有的信息量为： 平均每个汉字携带的信