离散信道容量讲解.pptVIP

信道模型 X：信道的输入消息集合，称为信道的输入空间， Y：信道的输出消息集合，称为信道的输出空间。 集合{P(y|x)}是描述信道特征的传输概率集合。;（1）无干扰信道：输入信号与输出信号有一一对应关系;（2）有干扰无记忆信道：输入与输出无一一对应关系， 当前输出只与当前输入有关；; (3) 有干扰(噪声)有记忆信道 实际信道往往是既有干扰(噪声)又有记忆的这种类型。 例如在数字信道中，由于信道滤波使频率特性不理想时造成了码字之间的干扰。 在这一类信道中某一瞬间的输出符号不但与对应时刻的输入符号有关，而且还与此以前其他时刻信道的输入符号及输出符号有关，这样的信道称为有记忆信道。;[例] 二元对称信道，[BSC，Binary Symmetrical Channel];*;（1）联合概率;*;平均互信息量;平均互信息量的定义;;平均互信息与其他熵之间的关系;*; 定理3.1 平均互信息I(X;Y)是信源概率分布P(X)的∩型凸函数; 定理3.1 平均互信息I(X;Y)是信源概率分布P(X)的∩型凸函数; 定理3.1 平均互信息I(X;Y)是信源概率分布P(X)的∩型凸函数; 定理3.1 平均互信息I(X;Y)是信源概率分布P(X