信息论 第三章.pptVIP

第四节 信道容量及其一般计算方法 如果一个离散信道的信道转移矩阵中的每一行都是由同一组元素的不同组合构成的，并且每一列也是由这一组元素组成的，则称为对称信道 如： 和 2、对称离散信道的信道容量 第二十九页，共五十三页，2022年，8月28日 第四节 信道容量及其一般计算方法 如果离散信道的转移矩阵如下 则称此信道为强对称信道或均匀信道，它是对称离散信道的一种特例。该信道的各列之和也为1 第三十页，共五十三页，2022年，8月28日 第四节 信道容量及其一般计算方法 下面我们来计算对称离散信道的信道容量 I(X;Y)=H(Y)-H(Y/X) 而 H(Y/X=x)是对矩阵的行求和，而由于对称信道定义，我们知道，此值是一个与x无关的一个常数，即 因此 可以看出，当输出等概分布时，即H(Y)=logs时信道容量达到。 第三十一页，共五十三页，2022年，8月28日 第四节 信道容量及其一般计算方法 那么，在什么样的信源输出情况下，信道输出能等概分布呢？可以证明，输入等概分布时，输出也等概分布 可以看出，信道的输出也是等概分布的 第三十二页，共五十三页，2022年，8月28日 第四节 信道容量及其一般计算方法 例： 对于二元对称信道 这个式子很重要。 第三十三页，共五十三页，2022年，8月28日 第四节 信道容量及其一般计算方法