信道容量计算.docVIP

§4.2信道容量的计算 这里，我们介绍一般离散信道的信道容量计算方法，根据信道容量的定义，就是在固定信道的条件下，对所有可能的输入概率分布求平均互信息的极大值。前面已知是输入概率分布的上凸函数，所以极大值一定存在。而是个变量的多元函数。并且满足。所以可用拉格朗日乘子法来计算这个条件极值。引入一个函数：解方程组 （4.2.1） 可以先解出达到极值的概率分布和拉格朗日乘子的值，然后在解出信道容量。因为 而，所以 。 解（4.2.1）式有 （对都成立） 又因为 所以(4.2.1)式方程组可以转化为 假设使得平均互信息达到极值的输入概率分布这样有 从而上式左边即为信道容量，得 现在令 式中，是输出端接收到Y后获得关于的信息量，即是信源符号对输出端Y平均提供的互信息。 一般来讲，值与有关。根据（4.2.2）式和（4.2.3）式， 所以对于一般离散信道有如下定理。 定理4.2.1