信息论典型试题及答案.docVIP

信息论典型试题及答案 信息论典型试题及答案 PAGE / NUMPAGES 信息论典型试题及答案 - 让每个人平等地提升自我 同时掷出两个正常的骰子，也就是各面呈现的概率都为 1/6 ，求： “ 3 和 5 同时出现”这事件的自信息； (2) “两个 1 同时出现”这事件的自信息； (3) 两个点数的各种组合（无序）对的熵和平均信息量； (4) 两个点数之和（即 2, 3,, 12 构成的子集）的熵； (5) 两个点数中至少有一个是 1 的自信息量。 解： (1) 1 1 1 1 1 p(xi ) 6 6 6 18 6 I ( xi )log p( xi ) log 1 4.170 bit 18 p(xi ) 1 1 1 6 6 36 (2) 1 I (xi ) log p( xi ) log 5.170 bit 36 (3)两个点数的排列如下： 11 12 13 14 15 16 21 22 23 24 25 26 31 32 33 34 35 36 41 42 43 44 45 46 51 52 53 54 55 56 61 62 63 64 65 66 共有 21 种组合： 其中 11，22， 33，44，55， 66 的概率是 1 1 1 6 6 36 其他 15 个组合的概率是 2 1 1 1 6 6 18 H(X) p( xi ) log p( xi )