信息论与编码第2章节习题.pptVIP

习题1 同时掷两个正常的骰子，即各面呈现的概率都是1/6。求： “3和5同时出现”这一事件的自信息量。 “两个1同时出现”这一事件的自信息量。 两个点数的各种组合（无序对）的熵。 两个点数之和（即2,3，…，12构成的子集）的熵。 两个点数中至少有一个是1的自信息。 两个点数是3的信息量。 两个点数是7的信息量。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 习题1 1 2 3 4 5 6 1 2 3 4 5 6 1,1 1,2 1,3 1,4 1,5 1,6 2,1 2,2 2,3 2,4 2,5 2,6 3,1 3,2 3,3 3,4 3,5 3,6 4,1 4,2 4,3 4,4 4,5 4,6 5,1 5,2 5,3 5,4 5,5 5,6 6,1 6,2 6,3 6,4 6,5 6,6 2 3 4 5 6 7 3 4 5 6 7 8 4 5 6 7 8 9 5 6 7 8 9 10 6 7 8 9 10 11 7 8 9 10 11 12 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 习题2 黑白传真机的消息元只有黑色和白色两种，即X＝{黑，白}。一般气象图上，黑色出现的概率为p(黑)＝0.3，白色出现的概率为p(白)＝0.7。求： 假设黑白消息视为前后无关，求信源熵H(X)，并画出该信源的香农线图。 实际上各元素之间有关联，其转移概率为： p(白/白)＝0.9143 　 p(黑/黑)＝0.8 求：这个一阶马尔可夫信源的信源熵，并画出该信源的香农线图。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 习题3 有6行、8列的棋型方格，若有两个质点A和B分别以等概率落入任一方格内，但A、B不能落入同一方格内。求： 若仅有质点A，求A落入任一个格的平均信息量 若已知A已落入，求B落入的平均信息量 若A、B是可分辨的，求A、B都落入的平均信息量 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 习题4 从大量统计资料知道，男性中红绿色盲的发病率为7%，女性发病率为0.5%，如果你问一位男士：“你是否色盲？”他的回答可能是“是”，可能是“否”，问这两个回答中各含有多少信息量，平均每个回答中含有多少信息量？如果问一位女士，则答案中含有的平均自信息量是多少？ Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 习题5 在一个袋中放有5个黑球，10个白球，以摸一个球为一个实验，摸出的球不再放进去。求： 一次实验包含的不确定度。 第一次实验X摸出的是黑球，第二次实验Y给出的不确定度。 第一次实验X找出的是白球，第二次实验Y给出的不确定度。 第二次实验Y包含的不确定度。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 习题6 有一个可旋转的圆盘，盘面上被均匀地分成38份，用1,2，…，38数字标示，其中有2份涂绿色，18份涂黑色，18份涂红色。圆盘停转后，盘面上指针指向某一数字和颜色。求： 若仅对颜色感兴趣，计算平均不确定度。 若对颜色和数字都感兴趣，计算平均不确定度。 如果颜色已知时，计算条件熵。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 习题7 有两个二元随机变量X和Y，它们的联合概率如右表所示，并定义另一随机变量Z＝XY（一般乘积）。试计算：