信息理论基础第四章信道及信道容量.pptVIP

如果信道矩阵的每一行 列）都是第一行（列）元素的不同排列，则称该信道为行（列）对称信道。 若信道矩阵中，每一行 或列 都是第一行 或第一列 的元素的不同排列，则称为离散对称信道。 —对称信道 三.离散对称信道 —对称信道 1.定义： 则称此信道为均匀信道。（对称信道的特例） 如果对称信道的输入输出符号个数相同，均为r，且信道中总的错误概率 ，平均分配给 个输 出符号，即信道矩阵为 注意：一般信道的信道矩阵的各行之和为1，各列之和不一定为1，但是均匀信道的各列之和为1 2.离散对称信道的C 式中 为信道矩阵中任一行的元素。 若一个离散对称信道具有r个输入符号，s个输出符号，则当输入为等概率分布时，达到信道容量C 定理： 证明： 则有： 结论:求离散对称信道的信道容量，实质上是求一种输入分布p x 使输出熵H Y 达最大。 例4-7：求具有以下信道矩阵的信道的信道容量 解：分析可知这是一个对称信道，则信道容量为 结论：在该对称信道中，只有当信道输入符号等概分布时，每个符号平均能传送的信息为0.126bit，一般情况下每个符号平均传输的信息都是小于0.126bit 。 例4-8：求均匀信道的信道容量。 为正确传递概率 为错误传递概率 对于二元对称信道：r 2，则信道容量C： 解：均匀信道是对称信道的一种特例，则其信道容量用对称信道的信道容量的求解公式，则 引理：对于一个离散