东南大学《信息论与编码》课后答案.pdf

习题（第1章） 1. 一位朋友很不赞成“通信的目的是传送信息”及“消息中未知的成分才算是信 息”这些说法。他举例说：我多遍地欣赏梅兰芳大师的同一段表演，百看不厌， 大师正在唱的正在表演的使我愉快，将要唱的和表演的我都知道，照你们的说法 电视里没给我任何信息，怎么能让我接受呢？请从信息论的角度对此做出解释。 （主要从狭义信息论与广义信息论研究的内容去理解和解释） 答： 从狭义信息论角度说，虽然将要表演的内容观众已知，但每一次演出不可 能完全相同。而观众在欣赏的同时也在接受着新的感观和视听享受。从这一角度 来说观众还是可以得到新的信息的。另一种解释可以从广义信息论角度来说，它 涉及了信息的社会性，实用性等主观因素，同时受知识水平、文化素质的影响。 京剧朋友们在欣赏京剧时也因为主观因素而获得了享受，因此属于广义信息论范 畴。 2 ．利用图1.2 所示的通信系统分别传送同样时间（例如十分钟）的重大新闻公告 和轻音乐，它们在接收端各方框的输入中所含的信息是否相同，为什么？ 答： 重大新闻是语言，频率为 300-3400Hz,而轻音乐的频率为20-20000Hz 。同样 的时间内轻音乐的采样编码的数据要比语音的数据量大，按码元熵值，音乐的信 息量要比新闻大。但在信宿端，按信息的不确定量度信息量就应分别对待，对于 新闻与音乐的信息量大小在广义来说因人而异。 1 习题（第2章） 1．一珍珠养殖场收获 240 颗外观及重量完全相同的特大珍珠，但不幸被人用外 观相同但重量仅有微小差异的假珠换掉 1 颗。（1）一人随手取出3 颗，经测 量恰好找出了假珠，问这一事件大约给出了多少比特的信息量；（2 ）不巧假 珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多 6 次能找 出，结果确是如此，问后一事件给出多少信息量；（3）对上述结果作出解释。 解：（1）从240 颗珠子中取 3 颗，含 1 颗假珠的概率为 C2 P 239 1 C3 80 240 log I 80 −log6 .32P( ) bit 2 2 （2 ）240 颗中含 1 颗假珠，用天平等分法最多 6 次即可找到假珠，是必然事件， 因此信息量为 0。 （3）按照shannon 对信息量的定义，只有事件含有不确知成分，才有信息量， 且不确知成分越大，信息量越大，必然事件则没有信息量。但从广义信息论来说， 如果那人不知用天平二分法找假珠，另一人告之此事，使他由不知到知，也应该 含有一定的信息量。 2 5个象素组成，所有象素均独立变化，且每一 ．每帧电视图像可以认为是由3×10 象素又取 128 个不同的亮度电平，并设亮度电平等概率出现。问每帧图像含有多 少信息量？如果一个广播员在约10000个汉字的字汇中选取1000个字来口述此电 视图像，试问广播员描述此图像所广播的信息量是多少（假设汉字字汇是等概率 分布，且彼此独立）？若要恰当地描述此图像，广播员在口述中至少需用多少汉 字？ 解：设电视图像每个像素取128 个不同的亮度电平，并设电平等概率出现，则每 个像素亮度含有的信息量为 H( ) X128 lb7 比特/像素 一帧中像素均是独立变化的，则每帧图像信源就是离散亮度信源的无记忆N 次扩 展信源。得每帧会图像含有的信息量为 ( ) H( X) 2.1NH10 N X × 6 比特/每帧 广播口述时，广播员是从 10000 个汉字字汇中选取的，假设汉字字汇是等概率分 布的，则汉字字汇中每个汉字含有的信息量