《1-第一讲信息熵.pptVIP

5、可加性与强可加性： （涉及到了两个变量！） H（XY）为两个随机变量的联合熵。 可加性：H（XY）等于 X的无条件熵，加上已知 X 时 Y的条件概率的熵的平均值，即条件熵。 对于 X 与 Y 独立的情况有： （强可加性） Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 6、递增性 （子集再划分，第 n 个分为 m 个） 按照定义证明： Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 例题：计算 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.