《信息论》试题及答案.docxVIP

期终练习 一、某地区的人群中， 10％是胖子， 80％不胖不瘦， 10％是瘦子。已知胖子得高血压的概率 是 15％，不胖不瘦者得高血压的概率是 10％，瘦子得高血压的概率是 5％，则“该地区的 某一位高血压者是胖子”这句话包含了多少信息量。 解：设事件 A ：某人是胖子； B：某人是不胖不瘦 C：某人是瘦子 D：某人是高血压者 根据题意，可知： P（ A） =0.1  P（ B） =0.8  P（C） =0.1 P（ D|A ）=0.15  P（ D|B ） =0.1  P（ D|C）=0.05 而“该地区的某一位高血压者是胖子”  这一消息表明在  D 事件发生的条件下，  A 事件 的发生，故其概率为 P（ A|D ） 根据贝叶斯定律，可得： P（D）＝ P（A）* P （D|A ）＋ P（B）* P（D|B ）＋ P（C）* P（D|C）＝ 0.1 P（ A|D ）＝ P（ AD ） /P（ D ）＝ P（ D|A ） *P （ A） / P（D ）＝ 0.15*0.1/0.1 ＝ 0.15 故得知“该地区的某一位高血压者是胖子”这一消息获得的多少信息量为： I （A|D ） = - logP （ A|D ）=log （ 0.15）≈ 2.73 （bit ） 二、设有一个马尔可夫信源，它的状态集为 {S 1，S2，S3} ，符号集为 {a 1， a2，