北工大信息论第四章信道及信道容量解析.pptVIP

3.无损确定信道：输入与输出一一对应 H(Y|X)=0 H(X|Y)=0 则 I(X;Y)=H(X)=H(Y)——信道中没有损失 单位：比特/符号 可知：对于无噪信道求C的问题已从求 I(X;Y)极值问题退化成求H(X)或H(Y)极值问题。 如果信道矩阵的每一行(列）都是第一行（列）元素的不同排列，则称该信道为行（列）对称信道。 如果信道矩阵的每一行都是第一行元素的不同排列，每一列并不都是第一列元素的不同排列，但是可以按照矩阵的列将信道矩阵划分成或干对称的子矩阵，则称该信道为准对称信道。 若信道矩阵中，每一行(或列)都是第一行(或第一列)的元素的不同排列，则称为离散对称信道。 —对称信道 —准对称信道 三.离散对称信道 —对称信道 1.定义： 则称此信道为均匀信道。（对称信道的特例） 如果对称信道的输入输出符号个数相同，均为r，且信道中总的错误概率 ，平均分配给 个输 出符号，即信道矩阵为 注意：一般信道的信道矩阵的各行之和为1，各列之和不一定为1，但是均匀信道的各列之和为1 2.离散对称信道的C 式中 为信道矩阵中任一行的元素。 若一个离散对称信道具有r个输入符号，s个输出符号，则当输入为等概率分布时，达到信道容量C 定理： 证明： 则有： 结论:求离散对称信道的信道容量，实质上是求一种输入分布p(x