信息论与编码习题解答.pdfVIP

信息论与编码习题解答

信息论与编码习题解答

第⼀章

⼀位朋友很不赞成通信的⽬的是传送信息及消息中知的成分才算是信息这些说法。他举例说：我多遍地欣赏梅兰芳⼤

1.“”“”

师的同⼀段表演，百看不厌，⼤师正在唱的正在表演的使我愉快，将要唱的和表演的我都知道，照你们的说法电视⾥没给我任

何信息，怎么能让我受呢？请从信息论的⾓度对此出解释。（主要从狭义信息论与⼴义信息论研究的内容去理解和解释）

答：从狭义信息论⾓度，虽然将要表演的内容观众已知，但是每⼀次演出不可能完全相同。⽽观众在欣赏的同时也在受着新

的感官和视听享受。从这⼀⾓度来说，观众还是可以得到新的信息的。另⼀种解释可以从⼴义信息论的⾓度来分析，它涉及了

信息的社会性、实⽤性等主观因素，同时受知识⽔平、⽂化素质的影响。京剧朋友们在欣赏京剧时也因为主观因素⽽获得了享

受，因此属于⼴义信息论的范畴。

．利⽤下图（图）所⽰的通信系统分别传送同样时间（例如⼗分钟）的重⼤新闻公告和轻⾳乐，它们在收端各⽅框的输

21.2

⼊中所含的信息是否相同，为什么？

图通信系统的⼀般框图

1.2

答：重⼤新闻是语⾔，频率为300~3400Hz，⽽轻⾳乐的频率为20~20000Hz。同样的时间内轻⾳乐的采样编码的数据要⽐语

⾳的数据量⼤，按码元熵值，⾳乐的信息量要⽐新闻⼤。但是在信宿端，按信息的不确定度，信息量就应分别对待，对于新闻

与⾳乐的信息量⼤⼩在⼴义上说，因⼈⽽异。

第⼆章

．⼀珍珠养殖场收获颗外观及重量完全相同的特⼤珍珠，但不幸被⼈⽤外观相同但重量仅有微⼩差异的假珠换掉颗。

12401

（）⼀⼈随⼿取出颗，经测量恰好找出了假珠，问这⼀事件⼤约给出了多少⽐特的信息量；（）不巧假珠⼜滑落进去，那

132

⼈找了许久却找到，但另⼀⼈说他⽤天平最多次能找出，结果确是如此，问后⼀事件给出多少信息量；（）对上述结果

63

作出解释。解：（）从颗珍珠中取颗，其中恰好有颗假珠的概率为：

124031

2

2393240

239!

2!237!240!3!237!

11/80240/3

CPC

=

==

=

所以，此事件给出的信息量为：

I=–log2P=log280=6.32(bit)

（）颗中含颗假珠，⽤天平等分法最多次即可找到假珠，这是⼀必然事件，因此信息量为。

2240160

（）按照对信息量的定义，只在事件含有不确定成分，才有信息量，并且不确定成分越⼤，信息量也越⼤，必然事

3Shannon

件则没有信息量。但是从⼴义信息论的⾓度，如果那⼈不知道⽤天平⼆分法找假珠，另⼀告诉他这⽅法，使他由不知道

到知道，也应该含有⼀定的信息量。

．每帧电视图像可以认为是由象素组成，所有象素均独⽴变化，且每⼀象素⼜取不同的亮度电平，并设亮度

23?105128

电平等概率出现。问每帧图像含有多少信息量？如果⼀⼴播员在约汉字的字汇中选取字来⼝述此电视图

10000