信息论离散信道及其容量.pptVIP

* * * * * * * * * * * * * * * * 4.5.2 特殊信道的信道容量 无损信道：logr 确定信道：logs 无噪信道：logr =logs 4.5.2.1 无损信道 一个输入对应多个互不 相交的输出，即信道矩 阵的每一列只有一个非 零元素。 由于知道输出之后，必然能够确定其对应的输入是什么，因此信道疑义度H(X|Y)=0。 则I(X;Y)=H(X)-H(X|Y)=H(X) 因此信道容量 C=maxp(x){I(X;Y)}=maxp(x){H(X)}=logr 4.5.2.2 确定信道 一个输出对应多个互不相交 的输入，即信道矩阵的每一行 只有一个“1”，其余元素均为0。 由于知道输出之后，必然能够确定其对应的输入是什么，因此噪声熵H(Y|X)=0。 则I(X;Y)=H(Y)-H(Y|X)=H(Y) 因此信道容量 C=maxp(x){I(X;Y)}=maxp(x){H(Y)}=logs 4.5.2.3 无噪信道 输出与输入是一一对应关系， 即信道矩阵为单位矩阵。 因此信道疑义度H(X|Y)=0，噪声熵H(Y|X)=0。 则I(X;Y) )=H(X)-H(X|Y)=H(X) =H(Y)-H(Y|X)=H(Y) 因此信道容量 C=maxp(x){I(X;Y)} )