信息论部分习题参考解答-2010.docVIP

2-1 同时掷两个正常的骰子，也就是各面呈现的概率都是1/6，求： （1）“3和5同时出现” 这事件的自信息量。 （2）“两个1同时出现” 这事件的自信息量。 （3）两个点数的各种组合（无序对）的熵或平均信息量。 （4）两个点数之和（即2，3，…，12构成的子集）的熵。 （5）两个点数中至少有一个是1的自信息。 解： （1）设X为‘3和5同时出现’这一事件，则P（X）=1/18，因此 (比特) （2）设‘两个1同时出现’这一事件为X，则P（X）=1/36，因此 (比特) (3 ) “两个相同点数出现”这一事件的概率为1/36,其他事件的概率为1/18,则 (比特/组合) （4） （5）两个点数至少有一个为1的概率为P（X）= 11/36 （比特） 2-6设有一离散无记忆信源，其概率空间为 该信源发出的信息符号序列为（202 120 130 213 001 203 210 110 321 010 021 032 011 223 210），求： 此信息的自信息量是多少？ 在此信息中平均每个符号携带的信息量是多少？ 解：（1）由无记忆性，可得 （2） 2-9在一个袋中放有5个黑球、10个白球，以摸一个球为一次实验，摸