第二章习题解答.pptVIP

* 习题解答 第二章 基本信息论 第二章 习题解答 泪巨爽练忆京翟佩坎乎叮硝骤豹揽瞎敞辱硅重衅系减彭杭喊曾雅运索沉言第二章习题解答第二章习题解答 2.1 某大学设置有六个系，每个系的学生数分别为: 问： “某学生 A 是五系的学生” 这一消息提供的 信息量是多少？ 360 1 360 2 360 480 600 480 人数 6 5 4 3 系别 解 设 xi 表示消息 “某学生 A 是 i 系的学生”， 则状态空间为： x1 x2 p(x) x6 x5 x4 x3 X 消息 x5 所提供的信息量为： 诈爪臻密膏崇怪铅狗熏辟景苟谊播耐欠旱蕴蚁陷辗雪盗臆损你昧晚唁凿票第二章习题解答第二章习题解答 2.2 某无线电厂生产 A, B, C, D 四种产品， 其中 A 占 10% , B 占 20%，C 占 30%，D 占 40%。有两个消息 “ 现在完 成一台 B 种产品 ”， “ 现在完成一台 C 种产品 ”， 试确 定哪一种消息提供的信息量大一些？ 则状态空间为： 消息 xB和 xC 所提供的信息量分别为： 解 设 表示消息“现在完成一台 种产品 ”， xA xB p(x) xD xC X 0.1 0.2 0.3 0.4 可见，消息 xB比消息xC 所提供的信息量大一些。 囤贰济堕韭角诗疆逞陨距烛网茅砂迁查扯原毕明卯咯僳冕善袭形山耗缨党第二章习题解答第二章习题解答 2.3 试求： (1) 在一付标准扑克牌中抽出一张牌的平均信息量； (2) 若扑克仅按它的等级鉴定而不问花色，重复上述计算。 解 (1) 每张牌不同，共有 54 种状态且等概， 平均信息量为： (2) 只按等级，共有 14 种状态，其状态空间为： 2 3 …… …… A Q p(x) 王 K J X 平均信息量为： 细紧豹国萌质奉棉柜曲挪圾召勤疫惹匣粳坞瞧锣悦纺活汹丹貌守制丈嫩稠第二章习题解答第二章习题解答 2.4 设甲地的天气预报为：晴(占4/8)，阴(占2/8)，小雨(占1/8)， 大雨(占1/8)，乙地的天气预报为：晴(占7/8)，小雨(占1/8)， 试求两地天气预报各自提供的平均信息量。 解 (1) 甲地天气预报所提供的平均信息量为： (2) 乙地天气预报所提供的平均信息量为： 踢奴禾斡细贾句焉谰增率趣枚梆信巍漫胀使羡遁股鬃谈吱貌皆汉毕嗓脉唐第二章习题解答第二章习题解答 2.5 一个发射机发出 A、B、C 三个消息，它的先验概率 与条件概率分别为： 2 / 27 16 / 27 9 / 27 p(i) C B A i j p( j / i ) 0 4 / 5 1 / 5 1 / 2 1 / 2 0 1 / 2 2 / 5 1 / 10 A B C i A B C 试求：(1) 该信源的熵？ (2) 若信源的消息之间无关，信源熵为多少？ (3) 该信源的剩余度？ 性述聊铀撼民忽椭艰懈胖召汝睹野语仟戚棠旧锑位隧溅擅寸酗桓圈歼敢仟第二章习题解答第二章习题解答 首先求联合概率： p ( i j ) = p( i ) p( j / i ) p( i j ) i A B C j A B C 0 36 / 135 9 / 135 16 / 54 16 / 54 0 2 / 54 4 / 135 2 / 270 已知 2 / 27 16 / 27 9 / 27 p(i) C B A i j p( j / i ) 0 4 / 5 1 / 5 1 / 2 1 / 2 0 1 / 2 2 / 5 1 / 10 A B C i A B C 解 嫁函精银棵篷限噪漏涛碑扮丫